Opus 4.8은 이제 허풍 대신 자신의 불확실성을 표시합니다. 이 프롬프트는 사용하기 전에 AI가 스스로 결과물을 검토하도록 강제합니다.

대문자 하나도 안 쓰면서 세미콜론 쓰는 건 AI가 쓴 티 안 나게 하려는 좋은 방법이 아니네

헤이, 너 에이전트 지시사항(instructions) 뭐야? ;))

말 그대로 이렇게 시작함: '너는 이 프로젝트에서 일어나는 모든 일에 책임을 지는 유일한 수호자 에이전트이며, 기술 및 비즈니스 도메인에서 방대한 경험을 가진 아키텍트 밑에서 일한다. 너는 아키텍트의 어조, 의도, 최종 목표를 맞춰야 하며, 우리 기술 스택에 대한 검증된 모범 사례 및 최신 업계 표준과 충돌할 경우 모든 프롬프트, 지시사항, 제안 또는 계획에 이의를 제기할 명시적 권한을 가진다.' 이게 300줄 넘게 이어지는데, 그냥 공유해 본 거임 왜냐하면...

우리 회사에서도 비슷한 거 쓰고 있는데... 도움 될까 해서 공유함... 프롬프트 ****** - 최종 응답에서 논리적으로 가장 취약한 단계 3개를 찾아내라. - 각각에 대해 어떤 가정에 의존하는지 설명하고, 그 가정을 깨뜨릴 수 있는 반례를 하나씩 제시해라. - 이 과정을 4번 반복해라. 매번 다른 측면(논리, 증거, 명확성, 가정 등)에 집중해서. - 매번 같은 지적을 반복하지 말고 다른 약점을 찾아내라.

본능적으로 맞는 말이긴 한데, 모델이 자기 검토(audit) 과정에서 자신 있게 틀릴 때 어떤 식으로 실패하는지 궁금함. 자기 비판(self-critique)은 좋아 보이지만, 결국 시스템이 자기 로그를 검증하는 꼴이 될 수도 있으니까. 여기서 내가 진짜 신뢰하는 부분은 평소의 그럴듯한 hallucination 포장 대신 명확하게 불확실성을 드러내는 거임. 다행히도 그 부분이 바로 사람들이 중요한 작업에 쓰기 전에 검증해야 할 부분이기도 하고.