새로운 가드레일 때문에 ChatGPT도 Claude만큼, 아니 어쩌면 더 나쁘다고 생각함

다들 Claude가 생물학 관련 질문이나 조언 같은 거 할 때 새로운 가드레일 때문에 너무 몸 사린다고 까대는데, 솔직히 ChatGPT도 똑같거나 오히려 더 심하다고 본다.

예를 들어서, 내가 처방받은 약이랑 다른 영양제 사이에 상호작용 있는지 물어봤거든. 이거 그냥 인터넷에서 검색하면 2초 만에 나오는 거잖아?

근데 계속 답은 안 해주고 약사한테 전화해서 물어보라는 소리만 반복하더라. 그러더니 가슴 통증 있냐, 숨 쉬기 힘드냐, 어지럽냐 같은 질문만 계속 던짐. 내가 어이없어서 말도 안 된다고 하니까, 그제야 인정한다면서 자기가 너무 과하게 조심했다고 하더라.

지금 Claude랑 ChatGPT 둘 다 뭘 검열해야 하고 뭘 하지 말아야 할지 갈피를 못 잡는 이상한 상태인 것 같음. 그래서 걍 다 막아버리는 거지.

물론 의료나 생물학 쪽 가드레일이 왜 필요한지는 이해해. 근데 위험한 의료 조언을 해주는 거랑, 그냥 두 성분 사이에 상호작용이 알려져 있는지 물어보는 건 차원이 다른 문제잖아.

앞으로 나아지길 바라긴 하는데, 솔직히 조만간 해결될 것 같지는 않다.