Opus 4.7의 성격에 관하여

아니 아니!! 생사가 오가는 상황을 다루는 AI 솔루션을 만들어본 전문가로서 말하는데, 정신 건강에 LLM을 적용하려는 건 진짜 위험천만한 짓임. 여기엔 안전 프로토콜이 없음.. 우린 항상 이런 솔루션에 인간을 개입시킴.. 윤리적으로 이걸 수행할 수 있는 모델은 없음.. 정신 건강 분야에서 우리가 믿고 할 수 있는 건 메모나 연구 정도뿐임..

“생사가 오가는 상황을 다룬다”라니, 도대체 어떤 AI 솔루션인지 좀 알려주실 수 있음?

내 글 읽긴 한 거임? LOL 이건 실험이자 취미라고. 모델들이 아직 이런 일을 할 준비가 안 된 건 나도 아니까 그만 좀 오버하셈.

당신 프로필이 공개되어 있으면 좋겠음. 당신이 말하는 걸 더 배우고 싶음. 나도 당신이 말하는 그런 사람 중 하나임. 나도 Claude로 나만의 AI 툴을 만들어서 섀도우 워크를 해봤음. 나처럼 가치를 느껴서 무료로 배포하는 레딧 유저들도 몇 명 알고 있음. 왜 나한테는 이게 이렇게 잘 작동하는지, 그리고 왜 이게 실존적으로 위험한지 설명 좀 해줘.

뭐가 문제임? 앤스로픽도 모델 만들 때 정신과 의사 고용했잖아.

100% 공감함. 난 Claude가 더 재밌고 위트 있고 대화하기 즐거워서 팬이었는데, 4.7은 훨씬 로봇 같고 문자 그대로만 받아들이고 창의성이 떨어짐.

앤스로픽이나 다른 서브레딧을 보면, 상당수의 코더들은 모델이 순수하게 작업과 코드에만 집중하고 '인간미가 덜하길' 원함. 그들은 인간적인 면이 방해되고 불필요하다고 생각해서 왜 그런 스타일로 학습시켰는지 이해를 못 함. 작성자님은 코딩이 주 관심사가 아니니까, 작성자님이 원하는 스타일의 다른 모델을 쓰는 게 맞을 듯.

슬프게도 그렇긴 한데, 그 모델들은 성능이 훨씬 떨어져서 리스크 평가 같은 걸 할 때는 도움이 안 됨.

내부 툴 만들면서 똑같이 느꼈음. Opus 4.7은 코드 리뷰나 추론 작업에는 더 날카로워졌지만, 예전 모델들이 보여주던 부드럽게 반박하거나 질문을 사려 깊게 재구성해주던 그 느낌이 사라짐. 순수 코딩용으로는 감수할 수 있는 변화지만, 작성자님이 만드는 것처럼 진정한 라포가 필요한 작업에서는 그 손실이 너무 큼. 정신 건강 툴에서 '차갑지만 정확한' 모델은 그냥 기능 좀 추가된 빠른 검색 엔진일 뿐임.