이해가 안 가요. '생각하기(Thinking)' 기능은 도대체 왜, 그리고 어떻게 작동하는 건가요?
I don't get it. Why does thinking ACTUALLY work? And how?
핵심 요약
Claude의 '생각하기' 기능이 실제 성능 향상에 기여하는 원리와 그 측정 방식에 대한 의문 제기.
- 작동 원리 — 모델이 추론 과정에서 더 많은 연산 자원을 활용해 답변을 다듬는 과정임
- 비유적 설명 — 즉흥적인 프리스타일 랩과 퇴고를 거친 작문의 차이로 비유됨
- 성능 측정 — 정량적 평가의 모호함과 모델의 내부적 추론 토큰 활용에 대한 논의
- 사용자 반응 — Claude에게 직접 물어보라는 조언과 비유를 통한 이해 시도
이 주제로 Claude랑 대화하면 할수록 머리만 더 복잡해지네. 문제에 대해 더 깊게 고민할수록 Claude가 더 나은 결과를 내놓긴 하는데, 그게 꼭 창의적인 과정은 아니라는 거야.
그럼 도대체 '생각'한다는 게 왜 유용한 거지? Claude한테 실제로 뭘 더 주는 건데? 더 많은 컨텍스트? 어차피 평소에 내가 얻는 컨텍스트랑 똑같은 거 아냐? 대화의 방향이 도대체 어떻게 바뀌는 건데?
그리고 '더 나은' 결과라는 건 또 뭔데? 왜 '약간 더 나은'이나 '약간 더 나쁜'은 아닌 거지? 그게 어떻게 측정되는 거고, 진짜로 도움이 된다는 걸 내가 어떻게 믿어?
이거 수치화가 가능한 거긴 해? 아니면 그냥 화폐처럼 다들 가치가 있다고 믿으니까 가치가 생기는 그런 건가?

