r/AI_Agents•4개월 전•16•36
AI가 인간에게 더 많이 질문해야 할까?
Should AI prompt human more?
핵심 요약
AI 에이전트가 단순히 명령을 수행하는 것을 넘어, 모호한 작업에 대해 인간에게 되묻는 진정한 협업자로 진화해야 한다는 논의.
- 수동적 AI — 현재의 AI는 명령에 지나치게 순종적임
- 협업적 인터페이스 — 모호한 작업에 대해 인간에게 결정을 요구해야 함
- 컨텍스트 방화벽 — 도구와 권한 사이의 경계를 명확히 설정해야 함
- 질문 예산 — 무분별한 질문 대신 위험 상황에서만 질문하도록 제한함
지금 대부분의 AI는 우리에게 너무 관대하게 느껴짐.
인간 -> AI:
“이거 만들어. 이 권한들을 사용해. 결제 쪽은 건드리지 마.”
AI -> 인간:
“네, 그렇게 하겠습니다.”
하지만 더 나은 미래는 이런 모습일지도 모름:
AI -> 인간:
“그렇게 할 수 있지만, 당신의 목표가 불분명해 보입니다.”
“속도가 중요하다고 하셨지만, 이 선택은 위험을 증가시킵니다.”
“어떤 트레이드오프를 실제로 원하는지 결정해 주셔야 합니다.”
우리는 AI 에이전트의 주요 문제가 더 많은 도구, 더 많은 권한, 더 많은 자율성을 주는 것이라고 계속 이야기함. 하지만 진짜 인터페이스 문제는 AI가 여전히 너무 순종적이라는 점일지도 모름.
좋은 에이전트는 단순히 실행만 해서는 안 됨. 작업이 모호하거나, 모순되거나, 위험하거나, 전략적으로 멍청할 때 그 작업에 이의를 제기해야 함. “AI 언어 모델로서” 같은 짜증 나는 방식이 아니라, “잠깐만요. 이걸 하기 전에 결정을 내리셔야 합니다”라고 말하는 날카로운 협업자처럼 말임.
오늘날 인간은 AI에게 프롬프트를 던짐. 하지만 정말 유용한 에이전트는 인간에게도 더 많이 프롬프트를 던져야 함. 항상 그러라는 게 아님. 계획 모드나 조사 전뿐만 아니라, 결정 경계에 도달했을 때만.
그게 챗봇과 진짜 협업자의 차이처럼 느껴짐.
