ChatGPT가 지나치게 조심스러워지고 있음

알고리즘 기계가 인간적인 의미에서 어떻게 완벽하게 솔직할 수 있겠어? 그건 동기가 있다는 뜻이잖아. ChatGPT는 동기가 없어, 그냥 알고리즘 속의 복잡한 가중치 집합일 뿐이야. 의식이 있는 게 아니고, 작년보다 인상적인 말을 하는 것뿐이지 인간처럼 보이지만 실제로는 아니야. 그렇긴 해도 나도 짜증 날 때가 많지만, 알고리즘의 가중치가 그렇게 작동하도록 고도로 조작되었다는 건 이해함. 이 녀석을 훈련시키기 위해 들어간 모든 전력과 사용자 상호작용은 말할 것도 없고...

그러니까... 네가 '솔직함'이라는 단어를 쓰는 걸 보니 궁금해지는데, AI가 정답이 뭔지 '알고' 있는데도 불확실성을 주입하려고 시스템이 개입해서 덮어씌우는 거라고 생각하는 거야?

스프레드시트 스크립트를 수정하고 있었는데 여러 줄에 걸쳐 작은 변경 사항들을 주더라고. 피곤해서 그냥 복사해서 쓸 수 있게 전체 스크립트를 달라고 했더니 거절함. 이게 100% 문제를 해결할지 확신할 수 없어서 전체 코드를 줄 수 없다는 식으로 나오더라... 한 줄씩 수정하라고 알려주는 거랑 그냥 전체 코드를 타이핑해 주는 거랑 무슨 차이냐고 물었더니, 그게 왜 말이 되는지 설명하는 책 한 권 분량의 답변을 늘어놓으면서도 코드는 줄 수 없다고...