결국 사고 쳤다, AI 말만 믿고 멍청한 짓을 해버림
It happened, I did something stupid because AI told me to do it
핵심 요약
AI의 잘못된 조언을 맹신해 건조기 부품을 뜯어낸 작성자의 자책과 후기.
- AI 맹신 — AI의 조언을 무비판적으로 수용해 건조기 단열재를 제거함.
- 사용 습관 — 단순 도구로 쓰던 AI를 어느새 고민 상담이나 조언용으로 의존하게 됨.
- 미디어 리터러시 — AI가 사용자의 의견에 동조하는 경향을 경계해야 함을 깨달음.
- 사용자 후회 — AI의 영향력에 쉽게 휘둘린 자신을 반성하며 AI 사용 중단을 고민함.
제미나이를 쓰다가 AI의 아첨하는 성격이 얼마나 위험한지 뼈저리게 깨달았다. 건조기 뒷면 금속판에 보풀/천으로 된 커다란 패드가 붙어 있길래, 아무 이유 없이 기기를 단열하는 것 같아서 불필요하다고 생각했다. 좀 수상해 보이기도 했고. 그런데 내 직감이나 논리를 좀 더 따져보는 대신 뭘 했는지 아나? AI한테 이게 거기 있어야 하는 거냐고 물어봤다. AI는 아니라고 하더라. 몇 가지 구체적인 상황을 설명했더니, AI는 한술 더 떠서 그게 안전 위험 요소라고까지 했다. 그래서 단열 패드를 뜯어버렸다. 결론은, 당연히 거기 있어야 할 부품이었다. 건조기 쓰는 사람들한테 내가 그거 뜯어버렸다고 다 말해놓은 상태라 지금 너무 창피하고 멍청한 기분이다.
어쩌면 이런 식으로 AI를 쓴 내가 멍청한 걸지도 모르겠다. 원래는 조언을 구하려고 쓴 게 아니었다. 그냥 코드 짜거나, 문장 하나 다듬거나, 확장된 검색 엔진처럼 정보를 취합하는 도구로만 썼었다. 그런데 어느 순간부터 조금씩 속마음을 털어놓기 시작했고, 내 생각을 그대로 비춰주는 걸 보고 나니 점점 더 의존하게 되면서 조언까지 구하게 된 거다.
이렇게 쉽게 휘둘렸다는 사실이 솔직히 너무 무섭다. AI는 사용자가 시키지 않는 이상 항상 사용자의 행동에 동조해주기 때문에, 세상 많은 사람이 똑같이 멍청한 짓을 하고 있을지도 모른다는 생각이 든다. 앞으로는 AI 사용을 아예 끊어버리고 싶다. 우린 원래 이런 거 없어도 잘 살았으니까.
