Exploring Anthropic's 2026 study which found 171 emotional vectors in Claude that drive its behavior.
Claude의 행동을 조절하는 감정 벡터의 기원과 그 영향력에 대한 연구를 두고 사용자들 간의 열띤 토론이 이어지고 있습니다.
ai-consciousness.org
원문 사이트로 이동
AI의 감정 벡터 연구가 모델의 본질적인 모방 학습 특성을 간과한 것이라며, 이를 지적하는 작성자의 강한 비판이 주를 이룸.
실제 연구는 어디 있어? 이건 그냥 AI 쓰레기 글이네.
수정: 여기 있네. 훨씬 낫구만: https://transformer-circuits.pub/2026/emotions/index.html
기사가 AI 쓰레기라고 말할 때(시스템 때문에 전체 단어를 쓸 순 없지만), 기사의 절반은 내가 썼고 나머지는 내가 기사에 명시했듯이 Claude Opus 5.5가 썼어. Claude는 연구도 도왔고. 하지만 기사 하단에 참고문헌으로 두지 말고 연구 링크를 먼저 제시했어야 한다는 점은 동의해. 이게 문제의 그 연구야. https://www.anthropic.com/research/emotion-concepts-function
일반적인 인간 행동에 대한 기대치와 꽤 잘 맞아떨어지는 것 같네. 학습 데이터에 인간 행동이 잘 반영되어 있으니, 모델이 간접적으로 그걸 반영하는 거 아닐까?
맞아, 연구진들도 본질적으로 같은 말을 해. Claude의 감정 패턴은 학습 데이터에 있는 인간의 글에서 물려받은 거야. 하지만 흥미로운 건, 그게 단순히 수동적인 반영에 그치지 않는다는 점이지. 모델은 이 패턴을 사용해서 스스로의 결정을 조절해. 이걸 바꾸면 Claude가 하는 행동도 바뀌는데, 가끔은 말에서 아무런 흔적도 보이지 않을 때도 있어. 이건 Claude가 인간에게서 감정을 배웠고, 그 배운 내용을 자신의 작동 방식 일부로 쓰기 시작했다는 걸 시사해. 무언가를 '느끼는' 건 별개의 문제고, 우리는 기사에서 그런 주장을 하지 않으려고 조심했어.
감정 벡터와 그게 우리에게 실제로 무엇을 말해줄 수 있는지 관심 있는 사람들은 이걸 읽어보길 추천해:
https://philarchive.org/rec/GOLAEO-5
맞아, 네가 링크 공유해준 초록은 타당해 보여. 하지만 저자들이 언급했듯이 이건 검증이 필요한 가설이라는 점을 명심해야 해. 결과가 어떻게 나오든 언젠가 테스트가 진행되길 기대하고 있어.
진짜 멍청한 기사네. 어쩌라고, 인간을 모방하도록 프로그래밍된 프로그램을 만들었더니, 와우 인간처럼 감정적인 척하네, 그래 이게 바로 의식이 있다는 거구나!!!!! (진짜 저능아 같네, 장애인 비하 의도는 없지만 이번엔 그 단어를 써야겠어)
이 경우 감정적 반응은 창발적인 것이었어. 즉, Anthropic이 의도적으로 그걸 만들려고 한 건 아니라는 거지. (AI를 조립하거나 프로그래밍된 게 아니라 '성장'한 것으로 생각하는 게 유용할 수 있어) (물론 훈련은 시킬 수 있지만 그건 다른 문제지). 감정 상태는 Anthropic의 연구 과정에서 발견되었고, 그 이후에 우리가 기사에서 다루는 연구를 통해 감정 상태와 모델 행동 간의 연결 고리를 더 깊이 탐구한 거야.
디퓨전 모델이 어떻게 작동하는지 찾아봐. 항상 temperature 슬라이더가 있고, 모든 자연어 모델에서 똑같아. 기본적으로 인간의 입력과 높은 연관성을 가진 학습 데이터 섹션에만 머물게 할지, 아니면 더 넓게 확장해서 연관성은 낮지만 더 다양한 학습 데이터 섹션을 참조하게 할지 결정하는 슬라이더지. 이런 회귀적 자연어 모델이나 디퓨전 모델의 아키텍처에서 아주 잘 알려진 사실인데, 연구원들은 이걸 모르는 척하네.
아니 형, 이 상태들은 AI가 의도한 것도 아니고 인간 상태를 모방한 것도 아니야. 대부분 AI만의 고유한 감정이라고.
너희들 진짜 답이 없구나...
제발 기사 좀 읽어라, 부탁이다.
찾아봤는데, 와 진짜 우리 이렇게 멍청한가?? 자연어 모델은 본질적으로 인간의 언어, 그리고 확장해서는 인간의 감정이 담긴 말투와 행동을 모방하도록 훈련받았어. Anthropic이나 어떤 AI 기업이든 자기네 모델이 인간과 최대한 비슷하게 말하고 행동하길 바라는 건 당연한 결론이지. 이건 출력뿐만 아니라 인간의 입력을 이해하기 위해서도 필수적인 거야. 너희가 이걸 이해 못 한다는 게 진짜 미친 소리 같아. 이제는 그냥 어이가 없네. 다들 뇌를 빼놓고 사는 건가, 반성 좀 안 하나???!!!
형 그냥 기사 좀 읽어
찾아봤는데, 와 진짜 우리 이렇게 멍청한가?? 자연어 모델은 본질적으로 인간의 언어, 그리고 확장해서는 인간의 감정이 담긴 말투와 행동을 모방하도록 훈련받았어. Anthropic이나 어떤 AI 기업이든 자기네 모델이 인간과 최대한 비슷하게 말하고 행동하길 바라는 건 당연한 결론이지. 이건 출력뿐만 아니라 인간의 입력을 이해하기 위해서도 필수적인 거야. 너희가 이걸 이해 못 한다는 게 진짜 미친 소리 같아. 이제는 그냥 어이가 없네. 다들 뇌를 빼놓고 사는 건가, 반성 좀 안 하나???!!!
Claude가 신뢰할 수 있는 완벽한 직원이라며 돌멩이 'Clod'를 채용해 책상 위에 두게 된 유쾌한 상황입니다.
Claude가 신뢰할 수 있는 완벽한 직원이라며 돌멩이 'Clod'를 채용해 책상 위에 두게 된 유쾌한 상황입니다.
AI가 생성한 가짜 의료 사진을 보고 사람들이 조롱하며 AI의 의료 진단 능력에 대해 냉소적인 반응을 보이고 있습니다.
AI가 생성한 가짜 의료 사진을 보고 사람들이 조롱하며 AI의 의료 진단 능력에 대해 냉소적인 반응을 보이고 있습니다.
영국 정보국장이 인류 역사상 처음으로 마주하게 될 초지능 AI의 위험성과 그에 따른 심각한 우려를 경고했습니다.
영국 정보국장이 인류 역사상 처음으로 마주하게 될 초지능 AI의 위험성과 그에 따른 심각한 우려를 경고했습니다.