r/langchain•5개월 전•2•7
AI 에이전트가 우리를 더 빠르게, 하지만 더 멍청하게 만들었다
AI agents made us faster and dumber at the same time
핵심 요약
AI 에이전트 도입으로 개발 속도는 빨라졌지만, 코드 이면에 담긴 조직적 맥락과 경험적 지식이 사라지는 부작용이 발생함.
- 속도와 지능의 역설 — AI 에이전트가 코드 작성 속도는 높였으나, 인간의 깊은 사고와 맥락 파악 능력을 저하시킴.
- 조직적 기억의 상실 — 문서화되지 않은 과거의 실패 사례나 주의사항이 에이전트에게 전달되지 않아 잠재적 위험이 커짐.
- 깔끔한 PR의 함정 — 에이전트가 생성한 정돈된 코드는 리뷰어의 경계심을 낮춰 오히려 위험한 변경사항을 놓치게 만듦.
- 지식 관리의 중요성 — 에이전트 워크플로우에 과거 사고 기록이나 운영 지침을 필수적으로 포함하는 대응책이 필요함.
우리는 한동안 에이전트에 의존해 왔고, PR 초안 작성이나 코드 제안 같은 작업은 거의 에이전트에게 위임된 상태임. 솔직히 말해서, 개발 속도가 올라갔다는 점에는 동의함.
그러던 어느 날 프로덕션에 장애가 발생함. 추적해 보니 재시도 횟수를 2에서 5로 늘린 변경 때문이었음. 깔끔한 diff였고, 테스트도 통과했고, 리뷰도 무사히 통과했음.
하지만 그 변경은 우리가 8개월 전 거의 동일한 장애를 겪었으며, 해당 서비스의 재시도 로직은 추가 검토 없이 절대 건드리지 말아야 한다는 사실을 몰랐음.
그 교훈은 사람들의 머릿속에만 있었음. 문서에도, 코드베이스에도 없었음. 에이전트는 그걸 알 방법이 없었던 거임.
이상하게도 PR이 깔끔해 보일수록 더 빨리 병합됨. 지저분한 diff는 리뷰어들이 속도를 늦추고 질문하게 만듦. 반면 잘 구조화된 에이전트 PR은 정반대임. 마치 "이미 다 해결됨"이라고 말하는 것처럼 보임. 위험은 여전히 존재하지만, 이제는 눈에 보이지 않을 뿐임.
우리는 다시 예전으로 돌아가지는 않을 거임. 하지만 우리가 이렇게 빠르게 움직이기 전, 제도적 기억이 배경에서 얼마나 조용히 큰 역할을 하고 있었는지 완전히 깨닫지 못했던 것 같음.
더 많은 생각은 여기에서 확인할 수 있음.
