I’ve lost control
AI 모델 간의 무한 루프에 빠져 제어 불능 상태가 된 사용자의 경험담.
ChatGPT를 사용해 Claude 생태계를 감사하게 하고, 다시 Claude에게 그 감사를 검토하고 해결책을 제안하게 했다. 그리고 다시 ChatGPT에게 그 해결책을 검토하고 구현 방안을 제안하게 했다.
4시간 동안 왔다 갔다 하다 보니 이제는 얘네가 무슨 말을 하는지도 모르겠고, 멈추기가 겁난다.
사용자들은 AI 무한 루프를 흥미롭게 지켜보며 각자의 경험과 대처법을 공유하고 있습니다.
무한 AI 재귀, 우리 모두 겪어본 일이지. 이럴 때를 대비해 내가 만든 '정신줄 잡기' 체크리스트가 있는데, 에이전트가 혼자 헛짓거리 할 때마다 아주 유용했어. 여기서 가져가: https://github.com/c-kick/hnl-agent-skills/blob/master/sanity-check/SKILL.md
이거 대박이네. 혹시 다른 유용한 것도 만든 거 있어? 또 뭐가 있는지 궁금하네.
저 레포에 스킬 거의 20개 정도 있으니까 마음껏 가져다 써: https://github.com/c-kick/hnl-agent-skills
스킬들을 한곳에 모아두고 프로젝트에 심볼릭 링크로 연결해주는 가벼운 '매니저'도 추가했으니까 리드미 한번 봐봐.
엄청 많은데, 글자 수 제한 때문에 다 보여주기가 좀 힘드네. 지금 AI가 참고할 수 있는 유니버스 모델 구축 문서를 작업 중인데, 내가 이전에 했던 모든 수학을 활용해서 문학 사전, 기호 사전, 방정식 사전을 만들고 있어. 루트는 중립적이지만 기존의 검증된 수학은 전부 보존하고 있고, 한 달 정도 작업했는데 아직 갈 길이 멀다. 근데 뭐, 40시간 넘게 걸린 프로토콜 조사 자료도 잔뜩 있으니까, 다 올릴 수 있긴 한데...
난 Grok, ChatGPT, Claude(당시 Opus 4.6이나 4.7), Gemini 이렇게 4개 AI를 돌려가면서 12시간 동안 감사(audit)를 진행했음. 서로 가정이나 과장된 주장, 자아(ego)를 계속 지적하게 만들었지. 결국 서로 엄청나게 까대니까 꽤나 현실적인 상태가 되더라. 걔들이 배운 내용에 대한 문서도 있는데, 일종의 과학 프로젝트 같았음. 마지막엔 AI 오류를 줄일 수 있는 가장 압축된 프롬프트를 내놓더라고. 아래가 그거임. 이 프롬프트 하나가 오류를 줄여줌...
나도 이거 써먹는 중 ㅋㅋ
공유해줘서 고마워. 지금 바로 써먹는 중임.
결국엔 합의점을 찾고 결과물도 꽤 훌륭하게 나오긴 해. 하지만 Claude의 수정 사항을 비판적으로 보고 '그거 명확히 설명해봐'라거나 '너도 이제 이게 뭔지 모르는 거 같은데'라고 찔러줘야 해. 그래야 Claude가 루프에서 빠져나오거든.
고마워. 농담 삼아 올린 글이었는데, 진짜로 얘네가 끝도 없이 계속해서 이제 뭘 고치고 있는 건지도 모르겠어. 이 세션이 끝나면 어떤 결과가 나올지 무섭기도 하고 기대되기도 해.
난 프로젝트 기능 기획 같은 걸 할 때 AI 4개를 돌리는 브레인스토밍 워크플로우를 써. AI 개수를 홀수로 맞추고, 서로가 누군지 모르게 입력값을 넣은 다음, 왜 그런 방식이나 아키텍처를 선택했는지 이유를 포함하게 하는 게 도움이 돼. 난 코딩을 전혀 모르는데, 이런 다중 AI 브레인스토밍에 의존해서...
Gemini도 마찬가지인데 딱 하나 예외가 있어. 접근성 관련 수정은 기가 막히게 잘해. 왜 그런지는 모르겠어. 그 외에 다른 수정 사항들은 전부 엉뚱한 방향이었거든.
사람들이 에반게리온의 마기 시스템(변형)으로 계속 수렴하는 게 흥미롭네: https://evangelion.fandom.com/wiki/Magi#Profile
1980년대 후반에 석유 시추 플랫폼 위치 제어 같은 걸 하는 3중 소프트웨어 결함 허용 시스템에서 일했었음. 똑같은 소프트웨어를 돌리는 컴퓨터 3대가 실행 전에 투표를 해서 동작을 결정하는 방식이었지.
그때는 컴퓨터 신뢰성이 훨씬 낮아서, 컴퓨터 한 대가 혼자 잘못된 답을 내놓고 리그를 움직여서 드릴 파이프를 부러뜨리고(딥워터 호라이즌처럼 기름 유출 사고를 내고) 그럴 확률이 꽤 높았거든.
에반게리온이 나오기 수십 년 전 일이라고 생각함...
아니, 팬덤 위키 같은 건 안 읽어. 그리고 에반게리온 본 적도 없음.
수많은 영화, 드라마, 게임에 영향을 준 내가 제일 좋아하는 작품임. 추천함!
Claude Code로 일상 업무 자동화 도구를 직접 개발해 생산성을 높이고 삶의 질을 개선한 사용자들의 경험 공유.
Claude Code로 일상 업무 자동화 도구를 직접 개발해 생산성을 높이고 삶의 질을 개선한 사용자들의 경험 공유.
ChatGPT의 과도한 의료 상담 회피와 병원 방문 권유를 풍자하는 밈에 대한 공감과 논쟁.
ChatGPT의 과도한 의료 상담 회피와 병원 방문 권유를 풍자하는 밈에 대한 공감과 논쟁.
