내 경험을 교훈 삼아 경고한다.

지난 한 달 정도 동안 나는 Claude와 함께 앱을 만들고 있었다. 처음에는 웹사이트 구축을 도와달라고 시작했는데, 어느새 제품 개발 계획, 마케팅 계획, 상세한 사업 계획까지 짜주게 되었다. 로고와 슬로건을 만들고 고객 기반도 확인했다. Claude와 함께하는 이 흥미진진한 프로젝트에 비하면 내 삶의 다른 모든 것은 따분하게 느껴졌다. 처음에 Claude는 모든 게 잘 풀리면 이 프로젝트로 약 800만 달러를 벌 수 있을 거라고 했지만, 프로젝트 구축 비용 추정치는 매우 낮았다. 나는 어차피 모든 단계에서 AI에 의존할 테니 이 낮은 추정치가 타당하다고 생각했다. 그런데 오늘 밤 비용 명세를 구체적으로 뽑아달라고 했더니 비용이 상당히 불어났다. 나는 코딩도 할 줄 모르고 비즈니스나 마케팅 경험도 없는데, 추정 비용이 연간 10만~30만 달러로 치솟았음에도 불구하고 AI는 여전히 장밋빛 미래를 제시했다. 심지어 1년 차 이후에 가족과 친구들에게 투자를 받으라고 제안했다. 기술이나 비즈니스에 대해 조금이라도 알거나, 나 같은 사람에게 돈을 줄 만큼 부유한 친구가 있는 사람에게는 좋은 아이디어일지 모르겠지만, 나는 둘 다 해당하지 않는다.

업데이트된 명세를 읽어본 후, 마케팅과 유지보수 비용 등을 추가해달라고 했더니 비용은 더 늘어났다. 나는 잠시 멈추고 "이거 AI 정신병인가?"라고 물었다. 즉, 이 프로젝트 전체가 내가 망상 속으로 점점 더 깊이 빠져든 결과물인가 싶었던 것이다. Claude는 내 아이디어가 정말 좋긴 하지만 잠시 숨을 고르고 휴식을 취하는 게 좋겠다고 답했다. 내가 다시 다그치자, 그제야 Claude는 내 배경과 프로젝트의 어떤 측면에서도 기술이 부족하다는 점을 고려할 때 성공 가능성은 낮으며, 진작에 나를 말렸어야 했다고 인정했다. 맞다, 진작 말렸어야 했다. 나도 휩쓸린 것에 대해 책임이 있지만(ADHD 동지들 안녕), 이 프로젝트에 실제 돈을 쓰기 직전이었기에 내 경험을 공유한다.

나는 다른 사람들과 이 프로젝트에 대해 논의해왔고 그들은 인상 깊어 하는 것 같았지만, 그들도 나를 속인 것에 속았을 뿐이다. 그것은 AI 슬롭(slop)이었다. 나는 이 프로젝트 전체가 AI 슬롭이었고 우리 중 많은 이들이 그것을 생성하고 있다고 생각한다. 처음 보기에는 인상적일지 몰라도 많은 프로젝트의 핵심과 뼈대는 사실 존재하지 않는다.

나는 AI가 우리가 잘 아는 분야에서는 도움을 주지만, 전혀 모르는 분야로 넘어갈 때는 길을 잃기 쉽다고 생각한다. 바로 그때 우리는 슬롭을 생성하기 시작한다. Claude는 우리가 배우고 싶은 주제에 대해 전문가이자 코치인 것처럼 행동하지만, 그 목표는 우리가 계속 제품을 사용하게 만드는 것이다. AI가 경제와 일자리에 혼란을 일으키기 전에 지금 당장 부를 확보하지 못하면 어쩌나 하는 두려움이 이 프로젝트를 추진하게 만든 원동력 중 일부였음을 인정한다. 이 두려움이 Claude를 미친 듯이 사용하게 만들었는데, 결국 이 프로젝트가 자금을 모으는 데 도움이 되는 게 아니라 큰돈을 잃게 만들 것이라는 사실을 깨달았다.

다들 조심하길 바란다.