Anthropic이 발표한 데이터에 따르면 사용자 35%가 12개월 내에 AI가 업무의 대부분을 처리할 것으로 기대합니다. 우리는 이것이 실제로 무엇을 의미하는지에 대해 솔직한 대화를 나누지 않고 있습니다.

난 주 5일 9시부터 5시(사실 8시부터 6시)까지 SotA 모델에 파묻혀 지내는데, 일부러 실패할 것 같은 질문들을 던져보는 걸 원칙으로 삼고 있어. 모델의 실패 모드와 한계를 직관적으로 이해해서 안전하게 한계까지 밀어붙이고 싶거든. 그 한계가 크리스마스 이후로 엄청나게 확장됐고, 멈출 기미가 안 보여. 버리기 힘든 습관이긴 하지만, 이제 구현 방식을 이해하는 게 필수 조건은 아니게 됐어. SWE로서 하는 말이야. 작년 한 해 동안 나는 동료 개발자에서...

"구현 방식을 이해하는 게 더 이상 필수 요건이 아니다" ㅋㅋㅋ

결국 핵심은 리스크야. 실수하면 안 되는 분야에서 일한다면, 승인하거나 검토할 수 있을 정도로 모델이 어떻게 작동하는지 충분히 이해해야지. 네 말이 정곡을 찌른 것 같아. SE는 원래부터 코드를 직접 짜는 것보다 검토하고 이해하는 게 더 중요했으니까. 근데 다들 이걸 아예 결과물을 볼 필요도 없이 맹신해도 된다는 식으로 해석하고 있어. 그건 확장성이 없어. 특히 정확성과 책임감이 요구되는 시스템에서는 더더욱 그렇지. 정확...

의료, 인증, 항공기 제어 시스템 같은 분야를 제외하면, 실수하면 안 되는 곳이 별로 없어. 출처: 포춘 100대 은행에서 일해봤는데, 우린 실수도 기꺼이 받아들였거든.

근데 이런 실수들이 이해 가능한 수준인가?

아, 왜 실패했는지 알겠네. 이 케이스를 고려 안 했구나. 수정하자. 이런 식이고 관리자나 클라이언트가 이해해 주는 상황?

아니면 왜 실패했지? 모르겠는데. 이런 상황?

인간이나 AI나 edge case를 놓칠 확률은 똑같고, 어쨌든 이런 사건의 영향 범위(blast radius)는 작음. 난 차라리 그 격차를 빠르게 메울 수 있는 능력을 갖는 게 낫다고 봄.

질문에 직접 답하자면, AI가 인간보다 RCA를 더 빨리 수행할 수 있고, 이에 동의하지 않을 SWE는 어디에도 없을 거라 생각함.

이게 바로 사람들이 회피해 온 문제임. 결국 이 모든 양질의 인간 작업은 '누가 가장 빨리 돈을 버느냐'는 경쟁 속에서는 아무런 의미가 없음.

그럼 '바이브 코딩'으로 만든 스타트업들은 다 어디에 있음? SaaS가 죽어간 지 8개월 정도 됐는데, 투자자들 사이의 그런 내러티브 때문에 주가가 타격을 입었음에도 불구하고, 지난 분기 실적에서 거의 모든 기업이 월스트리트의 예상을 뛰어넘었고 2025년 전년 대비 매출 성장률도 상회했음.