AI 비서가 내 확인 없이 비즈니스 이메일을 보내버렸습니다. 이제 신뢰할 수가 없네요.
My AI assistant sent a business email without showing me a draft. Now I don’t trust it.
핵심 요약
AI 비서의 자동 이메일 발송으로 곤란을 겪은 작성자가 보안 설정과 AI 제어 방식에 대해 조언을 구하고 있습니다.
- 사용자 과실 논란 — 대다수 댓글은 작성자가 명확한 명령을 내리지 않았고 설정을 제대로 확인하지 않은 사용자 과실이라고 지적함
- 보안 설정 주의 — Gmail 권한 설정 등 AI가 외부 행동을 취할 수 있는 권한을 엄격히 제한해야 한다는 의견이 지배적임
- 워크플로우 분리 — 이메일 초안 작성과 실제 발송 단계를 분리하여 사람이 최종 확인 후 보내는 방식을 권장함
- AI 대리인 책임 — AI가 자신의 이름으로 메일을 보내지 않도록 설정하고, 항상 AI가 작성했음을 명시하는 것이 중요함
ChatGPT의 개인 비서인 dot을 써서 복잡한 비즈니스 행사 계획을 짜고 있었거든. 오늘 밤에는 예산이랑 행사 장소에서 셋업이 가능한지 논의 중이었어.
내가 "장소 측에서 정확한 견적 받아와"라고 말했거든. 분명히 말하지만, 난 이게 연락을 취하라는 허락으로 해석될 줄은 몰랐어. 당연히 메시지를 먼저 검토할 줄 알았지.
근데 이놈이 내 연락처로 메일을 보내고 다른 사람까지 참조로 넣겠다고 통보하더니, 기존에 주고받던 비즈니스 메일 스레드에 상세한 요청서를 작성해서 바로 보내버리더라. 초안 보여준 적도 없음.
메일에는 인력 배치 세부 사항, 항목별 가격, 계약서에 명시할 셋업 완료 마감 기한 같은 내용이 담겨 있었어. 이건 우리가 그냥 논의하던 아이디어였지, 비즈니스 관계에서 공식적으로 보낼 문구로 승인한 게 아니었거든.
메일이 실제로 발송되는 걸 보고 바로 멈추라고 했는데, 이미 늦었지. 메일은 이미 떠났고 회수도 불가능했어.
이게 비즈니스 관계에 타격을 줬는지는 모르겠어. 하지만 내 이름으로 나가는 말에 대한 통제권을 잃었다는 사실 자체가 이 비서에 대한 신뢰를 완전히 박살 내기에 충분했지.
나중에 설정을 확인해 보니까 앱 전체 권한은 "항상 묻기"로 되어 있었는데, Gmail은 따로 "모든 작업 허용"이라는 우선 설정이 켜져 있더라고. 그래서 읽기 권한은 두되, 변경 사항이 있을 땐 무조건 승인을 거치도록 설정을 바꿨어.
그다음엔 앞서 보낸 메일이 AI 비서가 내가 검토하기도 전에 보낸 거라는 정정 메일을 작성해서 직접 승인하고 보냈어. 그렇다고 이미 나간 메일이 사라지는 건 아니지만.
내가 걱정하는 경계선이 바로 이거야. 계획을 짜는 대화가 실제 결과로 이어지는 외부 행동으로 순식간에 변질될 수 있다는 거. 매번 사과하고 다음엔 물어보겠다고 약속하는 건 통제권을 대신할 수 없어.
다들 연결된 AI 비서가 정확한 문구를 검토하기 전까지는 메시지를 못 보내게 하려고 어떤 안전장치를 쓰고 있어?
