AI 에이전트가 기대되지만, 제 사업에 도입하는 건 조금 무섭기도 하네요!
Excited about AI agents, but also slightly terrified of letting them loose in my business!
핵심 요약
AI 에이전트 도입을 고민하는 사업자에게 커뮤니티는 '초안 작성'부터 시작해 인간의 검토를 거치는 안전한 단계적 도입을 조언합니다.
- 단계적 도입 — 처음에는 자동 전송 대신 초안 작성만 맡기고 인간이 검토함
- 권한 제한 — 에이전트에게 최소한의 접근 권한만 부여하고 민감한 정보는 제외함
- 시스템 프롬프트 — 에이전트가 해야 할 일과 절대 하지 말아야 할 일을 명확히 정의함
- 인간의 개입 — 중요한 결정이나 외부 노출은 반드시 사람이 최종 승인함
방금 이 서브레딧을 알게 됐는데, 여기 사람들 보니까 딱 내 세상인 것 같네. 물론 내가 여기서 제일 초보인 것 같긴 하지만 말이야!
2023년부터 ChatGPT를 쓰기 시작해서 나름 같이 성장해왔다고 생각함. 지금은 결혼식이나 장례식 진행자(celebrant) 일을 하고 있는데, 업무에 아주 잘 써먹고 있지. 그전에는 서비스업 쪽에서 20년 넘게 굴러먹어서 그런지, 시스템 짜고 정리하고 효율적으로 일하는 방식을 찾는 걸 원래 좋아했거든.
요즘 AI 에이전트가 내 사업에 어떤 도움을 줄 수 있을지 진짜 관심이 많아. SNS 관리나 이메일 처리, 웹사이트 개선, CRM 관리 같은 것들 말이야.
근데 여기서부터 좀 쫄리기 시작함.
내 일은 엄청나게 개인적인 영역이잖아. 인생에서 가장 행복한 날을 준비하는 커플들을 만나기도 하고, 반대로 인생에서 가장 힘든 순간을 겪는 유가족들을 상대하기도 하니까.
내 일에는 사람 냄새가 정말 중요한데, 기술이 그걸 대체하거나 내 일을 기계적으로 보이게 만드는 건 절대 사양임. 사람들이 나한테 털어놓는 민감한 정보나 개인정보 보호도 엄청나게 신경 써야 하고.
게다가 AI 에이전트가 갑자기 제멋대로 날뛰면 어쩌나 하는 걱정도 됨.
자동화라는 개념은 참 좋은데, 에이전트가 정확히 뭘 할 수 있는지, 어디까지 권한을 줘야 하는지, 내가 허락하지 않은 짓을 못 하게 하려면 어떻게 해야 하는지 기술적으로 잘 모르겠거든.
가능성 때문에 설레긴 하는데, 내 능력의 한계도 확실히 인지하고 있는 상태야.
사실 내가 뭘 물어봐야 할지도 잘 모르겠네!
그냥 배우고 싶어. 세상은 변하고 있고, AI가 발전하는 모습이 너무 흥미롭거든. 뒤처지기보다는 흐름을 따라가고 싶어.
근데 내 일의 특성상 책임감 있게 접근하고 싶단 말이지.
그래서 에이전트를 직접 만들고 써본 형들은 나 같은 초보가 어디서부터 시작하면 좋을 것 같아?
그리고 에이전트가 하는 짓을 확실하게 통제하려면 다들 어떻게 하고 있어?
