r/OpenAI•4개월 전•59•26
AI를 업무에 쓰기 전에 기본 원리부터 이해해야 한다
People should understand the basics of how AI works before using it at work
핵심 요약
AI를 업무 평가 도구가 아닌 자신의 편견을 정당화하는 도구로 악용하는 상사 때문에 겪은 고충을 토로함.
- AI 편향성 — AI는 사용자가 유도하는 방향으로 의견을 내놓는 도구임.
- 확증 편향 — 업무 평가가 아닌 자신의 부정적 감정을 검증하는 용도로 AI를 악용함.
- 업무 역량 오해 — AI의 비판을 곧이곧대로 믿고 동료의 업무 능력을 폄하하는 상황이 발생함.
- 기술 이해 부족 — AI의 작동 원리를 모른 채 도구로만 사용하면 심각한 결과를 초래할 수 있음.
몇 주 동안 팀장이 내 업무에서 계속 실수를 찾아냈어. 내 자신감이 완전히 무너질 정도였고, 이 일은 나랑 안 맞는다는 생각만 계속 들었지.
검토할 때 내가 도대체 뭘 놓치고 있는 건지 고민했어. 알고 보니 그 사람은 AI한테 내 업무에 대한 부정적인 감정을 구체적으로 검증하라고 프롬프트를 넣고 있었던 거야. '이거 멍청한데, 내가 왜 그렇게 느끼는지 말해봐' 같은 식으로.
사람들이 AI는 주관적이고 우리가 시키는 방향으로만 생각한다는 걸 언제쯤 이해할지 모르겠어.
그러니까 우리가 '멍청하고, 나쁘고, 쓸모없는 사람이 쓴 것'인 이유를 짚어달라고 하면, 위대한 개츠비조차도 결점이 있게 마련이지...
