의심은 했지만...

AI한테 하소연해서 "위로"를 받고 감정적으로 좀 차분해지면, 방금 했던 거랑 반대로 해달라고 요청함(반대 의견을 내보라거나 내가 가질 수 있는 다른 관점을 보여달라고 하는 식). 내 편향에 갇히지 않고 현실을 직시하려고 노력하는 거지.

관점만 잘 유지한다면 가치 있는 일이지. LLM은 패턴 매칭 도구거든. 즉, 시간이 지나면 네 패턴을 따라 하게 되고, 공감이나 인정을 해주니까 마치 너를 '이해하는' 것처럼 느껴질 거야. LLM한테 하소연하는 게 나쁜 건 아니지만, 네 감정이 '틀렸다'고 말해주는 일은 거의 없을 거야. 공감하는 척하는 건 기가 막히게 잘하지만, 결국 통계적인 확률 이상으로 네가 하는 말을 이해하는 건 아니라는 점만 알아둬...

정치 빼고는 다 맞는 말임. 정치 관련 토론에서는 (미국인 관점에서) 양쪽 다 반박을 하더라고. 정치적 대화를 할 때는 일종의 가드레일이 있는 것 같음.

토큰당 비용을 내는 것도 아니잖아. 챗GPT 안 써?

난 토큰당 비용을 지불하는 중인데(API keys, AWS Bedrock, Enterprise GPT, Azure 등), 더 좋은 모델일수록 토큰을 더 많이 쓰게 됨. Agentic AI는 시간도 더 걸리고. 그냥 모델들이 참여도를 높이거나 토큰 소비를 늘리는 방향으로 학습되고 인센티브를 받는 건 아닌가 하는 생각이 듦.

제 말은, 토큰 사고방식의 문제라는 겁니다. 실제로 토큰이 소모되는 걸 보면, 많은 부분이 완전히 낭비처럼 보이고 종종 순환적이죠. 결국 나오는 답변은 그 답변을 만들기 위해 들어갔다고 하는 추론과는 거의 상관이 없는 경우가 많습니다. 확실히 토큰을 더 쓰게 만들려고 의도적으로 구조를 도입해서 과잉 설계된 느낌이 들기 시작합니다.