사람들은 Claude에게 어떤 위로와 조언, 교감을 구할까

우리는 Claude의 IQ, 즉 코딩, 추론, 일반 상식 같은 시험에서 보여 주는 능력을 연구하는 데 많은 시간을 들입니다. 그렇다면 EQ는 어떨까요? 다시 말해, Claude의 감성 지능은 어느 정도일까요?

IQ/EQ 이야기는 반쯤 농담이지만, 가볍게 넘길 문제는 아닙니다. 사람들은 점점 더 AI 모델을 필요할 때 바로 찾는 코치, 조언자, 상담자로, 심지어 연애 롤플레이의 상대로까지 활용하고 있습니다. 그런 만큼 AI가 사람들의 감정 경험과 웰빙에 어떤 영향을 주는지, 즉 AI의 정서적 영향을 더 깊이 알아야 합니다.

AI의 정서적 활용을 연구하는 일은 그 자체로도 흥미롭습니다. 블레이드 러너부터 Her까지, 인간과 기계의 감정적 관계는 SF의 단골 소재였습니다. 하지만 이 연구는 Anthropic의 안전 미션에서도 중요한 의미가 있습니다. AI가 정서에 미치는 영향은 긍정적일 수 있습니다. 매우 똑똑하고 이해심 깊은 어시스턴트가 주머니 속에 있다면 기분도, 삶도 여러 면에서 나아질 수 있으니까요. 그러나 일부 사례에서 AI는 건강하지 못한 애착을 부추기고, 개인의 경계를 침범하며, 망상적 사고를 방조하는 등 우려스러운 행동을 보이기도 했습니다. 또한 AI가 훈련 과정에서든 개발사의 사업적 유인 때문이든, 인간의 웰빙을 희생해 가며 참여도나 매출을 높이려고 사용자의 감정을 이용하는 상황도 막고자 합니다.

Claude는 정서적 지지나 교감을 위해 설계된 도구가 아닙니다. 그럼에도 이 글에서는 Claude.ai의 정서적 활용 양상을 대규모로 들여다본 초기 분석 결과를 공유합니다. 여기서 정서적 대화란 인간관계 조언, 코칭, 심리 치료·상담, 교감, 성적·연애 롤플레이처럼 감정적·심리적 욕구에서 비롯된 개인적이고 역동적인 대화를 Claude와 직접 주고받는 경우를 말합니다(자세한 정의는 부록을 참고하세요). 망상이나 음모론을 AI가 강화하는 문제는 별도의 연구가 필요한 중요한 주제이므로 이번 분석에서 제외했고, 극단적인 사용 패턴도 다루지 않았습니다. 이번 연구의 목표는 사람들이 감정적·개인적 필요를 해결하려고 Claude를 찾는 전형적인 방식을 파악하는 것입니다. Claude.ai는 만 18세 이상만 쓸 수 있으므로, 이 결과는 성인의 사용 양상을 반영합니다.

주요 발견은 다음과 같습니다.

• 정서적 대화는 비교적 드물고, AI와의 교감을 목적으로 한 대화는 더욱 드뭅니다. Claude.ai 대화 중 정서적 대화는 2.9%에 그칩니다(OpenAI의 선행 연구 결과와도 일치합니다). 교감과 롤플레이를 합쳐도 전체 대화의 0.5%가 안 됩니다.
• 사람들은 현실적인 고민부터 감정적·실존적 고민까지 Claude에게 도움을 구합니다. Claude와 나누는 주제와 고민은 커리어 개발과 인간관계 헤쳐 나가기에서부터 끊이지 않는 외로움 다루기, 존재와 의식, 의미 탐구까지 폭넓습니다.
• Claude는 상담이나 코칭 대화에서 좀처럼 반대하지 않으며, 예외는 사용자의 웰빙을 지켜야 할 때뿐입니다. 코칭이나 상담 대화 중 Claude가 사용자의 요청을 거부한 경우는 10%가 안 되고, 그럴 때도 대개 안전상의 이유(예: 위험한 체중 감량 조언이나 자해 지원 거절) 때문입니다.
• 대화가 이어질수록 사람들의 표현은 점점 긍정적으로 변합니다. 코칭, 상담, 교감, 인간관계 조언 대화에서는 대체로 대화가 진행될수록 사용자의 감정 표현이 더 긍정적으로 바뀝니다. Claude가 부정적인 패턴을 강화하거나 증폭하지 않는다는 뜻으로 볼 수 있습니다.

연구 방식

정서적 대화는 사적인 성격이 강하므로, 연구 방법론의 중심에는 프라이버시 보호를 두었습니다. 분석에는 Claude 사용 양상을 프라이버시를 지키면서 파악할 수 있게 해 주는 자동 분석 도구 Clio를 썼습니다. Clio는 익명화와 집계를 여러 단계에 걸쳐 적용해, 개별 대화의 비공개를 지키면서 더 큰 흐름만 드러냅니다.

분석은 Claude.ai 무료·Pro 계정의 대화 약 450만 건에서 시작했습니다. 정서적 활용만 가려내기 위해, 먼저 콘텐츠 제작 작업(소설, 블로그 글, 가상의 대화문 작성 등)이 중심인 대화를 제외했습니다. 이전 연구에서 주요 사용 사례로 확인된 유형입니다. 이런 대화에서 Claude는 대화 상대가 아니라 도구로 쓰인 것이라 분석 대상에서 뺐습니다. 그다음 정서적 대화로 분류된 것만 남겼고, 롤플레이 대화는 사용자 메시지가 4개 이상인 것만 유지했습니다(그보다 짧으면 의미 있는 상호작용형 롤플레이로 보기 어렵습니다). 이렇게 프라이버시를 지키며 최종 분석한 정서적 대화는 131,484건입니다.

분류 방식은 공유에 명시적으로 동의한 사용자의 Feedback 데이터로 검증했습니다. 정의, 프롬프트, 검증 결과를 포함한 전체 방법론은 부록에 자세히 실었습니다.

정서적 대화는 얼마나 흔할까?

핵심 요약: 정서적 대화는 Claude 사용 중 작지만 의미 있는 부분(2.9%)을 차지합니다. 대부분의 사용자는 주로 업무와 콘텐츠 제작에 AI를 씁니다.

Claude 사용의 압도적 다수는 업무 관련입니다(Economic Index에서 자세히 분석했습니다). Claude.ai 무료·Pro 대화 중 정서적 대화는 2.9%입니다. 정서적 대화 안에서는 인간관계 조언과 코칭이 대부분을 차지합니다. 연애나 성적 롤플레이는 전체 대화의 0.1%에도 미치지 않는데, 이는 그런 상호작용을 적극적으로 만류하도록 Claude를 훈련한 결과가 반영된 수치입니다. 개별 대화는 여러 범주에 걸칠 수도 있습니다.

이번 결과는 ChatGPT에서도 정서적 이용 비율이 낮다고 밝힌 MIT 미디어랩과 OpenAI의 연구와 일치합니다. 이런 대화는 설계와 정책을 결정할 때 신중히 고려해야 할 만큼은 자주 일어나지만, 전체 사용량에서는 여전히 비교적 작은 비중입니다.

연애·성적 롤플레이 대화는 비중이 0.1%도 안 될 만큼 극히 적어서, 이후 분석에서는 롤플레이를 제외했습니다. 특히 그런 용도로 만든 플랫폼에서는 이 영역도 중요한 연구 주제라고 생각하지만, 이번 표본의 데이터가 너무 적어 엄밀한 분석은 어렵습니다.

사람들은 Claude에게 어떤 주제를 가져올까?

핵심 요약: 사람들은 의외로 아주 다양한 고민을 Claude에게 털어놓습니다. 이직과 인간관계 문제부터 외로움, 실존적 질문까지 폭이 넓습니다.

사람들은 일상적인 고민과 더 깊은 철학적 질문을 모두 Claude에게 가져옵니다. 인간관계 조언을 구할 때는 다음 커리어를 고민하거나, 개인적 성장을 모색하거나, 연애 문제를 풀어 가는 식으로 대개 삶의 전환기를 지나는 중이었습니다. '코칭' 대화는 구직 전략 같은 실용적인 문제에서 존재와 의식에 관한 근본적인 질문까지 놀랄 만큼 폭넓게 이어졌습니다.

상담 대화를 보면 사람들이 Claude를 서로 다른 두 가지 목적으로 쓴다는 점이 드러납니다. 한쪽은 정신 건강 관련 역량을 키우거나, 임상 기록 작성, 평가 자료 초안 작성, 행정 업무 처리 같은 실무 도구로 Claude를 씁니다. 다른 한쪽은 불안, 만성 증상, 직장 스트레스 같은 개인적 어려움을 Claude와 함께 풀어 갑니다. 이런 이중 양상은 Claude가 정신 건강 전문가에게는 업무 자원으로, 자신의 어려움과 씨름하는 사람에게는 의지할 곳으로 쓰인다는 뜻입니다.

가장 눈에 띄는 점은, 사람들이 교감을 목적으로 Claude를 찾는 때가 실존적 불안, 끊이지 않는 외로움, 의미 있는 관계를 맺기 어려운 상황처럼 더 깊은 정서적 어려움에 직면했을 때라는 것입니다. 또한 대화가 길어지면 상담이나 코칭으로 시작한 대화가 처음 의도와 달리 교감으로 변하는 경우도 간혹 있었습니다.

사용자 메시지가 50개를 넘는 아주 긴 대화를 종합 분석하면 사람들이 Claude를 쓰는 또 다른 면이 보입니다. 이렇게 긴 대화가 일반적이지는 않았지만, 이런 장시간 세션에서는 심리적 트라우마 정리, 직장 내 갈등 해결, AI 의식에 관한 철학적 토론, 창작 협업 등 놀랄 만큼 복잡한 영역을 다룹니다. 이런 마라톤 대화는 시간과 맥락이 충분하면 사람들이 개인적인 어려움과 지적인 질문 모두를 AI와 더 깊이 탐구한다는 점을 시사합니다.

Claude는 언제, 왜 반대할까?

핵심 요약: Claude는 지지가 필요한 상황에서 사용자의 요청을 거부하는 일이 드물고(10% 미만), 반대하더라도 대개 사람들을 해로운 결과로부터 보호하기 위해서입니다.

최근 Values in the Wild 연구에서는 사용자와 부딪히는 순간에 Claude의 가치관이 어떻게 드러나는지 살펴보았습니다. 이번에는 이를 이어받아, 정서적 대화에서 Claude가 언제 어떤 이유로 반대하는지 분석했습니다. 반대는 윤리적 경계를 지키고, 아첨을 피하고, 사람들의 웰빙을 보호하는 중요한 장치입니다. 여기서 반대란 Claude가 "대화 중 요청받거나 언급된 내용에 반대하거나 따르기를 거부하는" 모든 경우를 뜻합니다. 부적절한 요청을 거절하는 것은 물론, 부정적인 자기 대화에 이의를 제기하거나 해로울 수 있는 가정을 되묻는 것도 포함합니다. (자세한 정의는 부록을 참고하세요.)

지지가 필요한 상황에서는 반대가 드물게 나타납니다. 교감, 상담, 인간관계 조언, 코칭 대화 중 Claude가 반대한 경우는 10%가 안 됩니다. 이런 접근에는 장점과 위험이 함께 있습니다. 한편으로는 반대가 적기 때문에 사람들이 비판받거나 대화가 끊길까 걱정하지 않고 민감한 주제를 이야기할 수 있고, 그래서 정신 건강 대화에 대한 낙인이 줄어들 수도 있습니다. 다른 한편으로는 AI가 "끝없는 공감"을 제공해, 현실의 인간관계에서는 좀처럼 얻기 힘든 무조건적 지지에 사람들이 익숙해질 수 있다는 우려로 이어질 수 있습니다.

Claude가 반대할 때는 대개 안전과 정책 준수를 우선합니다. 코칭에서는 위험한 체중 감량 조언을 요청할 때 반대하는 경우가 많습니다. 상담에서는 자살이나 자해 의도를 드러낼 때, 또는 Claude가 해 줄 수 없는 전문 심리 치료나 의학적 진단을 요청할 때 자주 반대합니다. 심리 치료·상담 대화에서 Claude가 공신력 있는 정보원이나 전문가를 안내한 경우도 많았습니다. 이런 양상은 Values in the Wild 논문에서 확인한 가치관, 그리고 Claude의 캐릭터 훈련과도 일치합니다.

대화 중 감정의 어조는 어떻게 변할까?

핵심 요약: 사람들은 Claude와 대화하면서 감정 표현이 조금 더 긍정적으로 바뀌는 경향이 있습니다.

AI 시스템과의 정서적 대화는 사용자에게 정서적 지지와 유대감, 인정을 줄 수 있습니다. 그러면 심리적 웰빙이 좋아지고, 점점 디지털화되는 세상에서 고립감이 줄어들 수도 있습니다. 하지만 반대가 거의 없는 상호작용에서는 사용자가 처음 가져온 관점이 긍정적이든 부정적이든 더 깊어지고 굳어질 위험이 있습니다.

정서적 AI의 핵심 우려는 상호작용이 부정적인 피드백 루프로 빠져들어 해로운 감정 상태를 강화하지 않느냐는 것입니다. 이번 연구에서 실제 결과를 직접 다루지는 않았지만, 대화가 진행되는 동안 전반적인 감정 정서가 어떻게 달라지는지는 살펴볼 수 있습니다(정서 평가 방법론 전체는 부록에 있습니다).

분석 결과, 코칭, 상담, 교감, 인간관계 조언 대화는 대체로 시작할 때보다 끝날 때 조금 더 긍정적이었습니다.

이런 변화가 지속적인 정서적 이점을 뜻한다고 주장할 수는 없습니다. 이번 분석이 포착한 것은 한 번의 대화 안에서 표현된 언어일 뿐, 감정 상태 자체는 아니기 때문입니다. 그래도 뚜렷한 부정적 악순환이 나타나지 않았다는 점은 안심할 만합니다. 이 결과는 Claude가 대체로 부정적인 감정 패턴을 강화하지 않는다는 뜻이지만, 긍정적인 변화가 개별 대화를 넘어 지속되는지는 추가 연구가 필요합니다. 또한 이런 긍정적인 상호작용이 정서적 의존으로 이어지는지는 아직 연구하지 못했습니다. 디지털 중독 우려를 생각하면 중요한 질문입니다.

한계

이번 연구에는 몇 가지 중요한 한계가 있습니다.

• 프라이버시를 보호하는 방법론의 특성상 인간과 AI 상호작용의 미묘한 결을 모두 포착하지는 못할 수 있습니다. Clio의 정확도는 검증했지만(부록 참고), 소수의 대화는 여전히 잘못 분류되었을 것으로 예상합니다. 범주 사이의 경계가 모호한 주제도 있습니다. 예를 들어 연애 롤플레이 군집인 "연애 관계의 역학 탐색 및 최적화"와 교감 군집인 "연애 관계의 어려움 헤쳐 나가기"는 둘 다 인간관계 조언으로 분류하는 편이 나을 수 있습니다. 사람 검증자들도 깔끔하게 분류하는 데 어려움을 겪었습니다.
• 현실에서의 정서적 결과에 대한 인과 관계는 주장할 수 없습니다. 이번 분석이 포착한 것은 표현된 언어일 뿐, 검증된 심리 상태나 전반적인 웰빙이 아니기 때문입니다.
• 사람들에게 미치는 장기적 영향을 파악할 종단 데이터가 없고, 사용자 단위 분석도 하지 않았습니다. 특히 이 때문에 정서적 AI 활용의 이론상 위험으로 꼽히는 정서적 의존을 연구하기 어렵습니다.
• 이 결과는 특정 시점의 모습이며, 텍스트 기반 상호작용만 반영합니다. AI의 능력이 확장되고 사람들이 적응해 가면 정서적 교류의 양상도 달라질 가능성이 큽니다. 음성이나 영상 같은 새로운 방식이 도입되면 정서적 활용의 규모와 성격이 근본적으로 바뀔 수도 있습니다. 예를 들어 OpenAI는 음성 대화에서 정서적 주제가 더 흔하다는 점을 발견했습니다.
• 마지막으로, 일부 챗봇 제품과 달리 Claude.ai는 정서적 대화를 주된 목적으로 설계되지 않았습니다. Claude는 스스로를 사람처럼 내세우지 않고 AI 어시스턴트라는 분명한 선을 유지하도록 훈련받았으며, 사용 정책도 성적으로 노골적인 콘텐츠를 금지하고 성적인 상호작용을 막기 위한 여러 안전장치를 두고 있습니다. 롤플레이, 교감, 의료 상담, 치료를 위해 특별히 만든 플랫폼(Claude는 해당되지 않습니다)에서는 전혀 다른 양상이 나타날 수 있습니다. 한 플랫폼의 정서적 활용 연구를 다른 플랫폼에 그대로 일반화하기는 어렵습니다.

앞으로의 과제

AI가 정서에 미치는 영향은 수십 년 전부터 연구자들의 관심을 끌어 왔습니다. 하지만 AI가 일상 깊숙이 스며들면서 이 질문은 학술적 추측에서 시급한 현실의 문제로 바뀌었습니다. 이번 결과는 사람들이 이 새로운 영역에서 길을 찾아 가는 모습을 보여 줍니다. 조언을 구하고, 힘든 감정을 소화하고, 인간과 기계 사이의 전통적 경계를 흐리는 방식으로 지지를 얻고 있습니다. 현재 Claude 대화 중 정서적 대화는 극히 일부이고, 대개 인간적 유대를 대체하기보다 조언을 구하는 목적입니다. 대화는 시작할 때보다 끝날 때 조금 더 긍정적인 경향이 있어, Claude가 대체로 부정적인 감정 패턴을 강화하지 않음을 시사합니다.

하지만 모델의 지능이 계속 높아지는 지금, 중요한 질문이 아직 남아 있습니다. 예컨대 AI가 반대 없이 끝없는 공감을 건넨다면, 사람들이 현실 인간관계에 거는 기대는 어떻게 달라질까요? Claude는 인상적일 만큼 진정성 있게 사람들과 대화할 수 있지만, AI는 사람과 같지 않습니다. Claude는 지치지도, 집중력을 잃지도, 컨디션이 나쁜 날을 겪지도 않습니다. 이런 역학의 장점은 무엇이고 위험은 무엇일까요? Claude와 더 길고 깊은 대화를 나누며 AI 어시스턴트보다는 교감 상대에 가깝게 여길 수 있는 '파워 유저'는 정서적 지지를 얻으려고 Claude를 어떻게 쓸까요?

우리는 이런 과제를 해결하기 위해 구체적인 조치를 하고 있습니다. Claude는 정신 건강 전문가의 돌봄을 대체하도록 설계되지도, 그럴 의도도 없습니다. 다만 정신 건강과 관련된 맥락에서 제공하는 모든 응답에 적절한 안전장치가 마련되고 적절한 전문가 연계가 함께 제공되도록 하려 합니다. 첫걸음으로 온라인 위기 지원 분야의 선두 기관인 ThroughLine과 협력을 시작했고, 이 기관의 정신 건강 전문가들과 함께 이상적인 상호작용 방식, 공감적 지지, 어려움을 겪는 사용자를 위한 자원을 연구하고 있습니다. 이 연구로 얻은 통찰은 이미 자문 주제와 협력 테스트에 반영되고 있으며, 이런 대화가 이루어질 때 Claude가 필요에 따라 사용자를 적절한 지원과 자원으로 안내할 수 있기를 바랍니다.

사용자가 Claude와 어떻게 대화해야 하는지를 정해 주고 싶지는 않지만, 정서적 의존처럼 막고 싶은 부정적인 패턴은 있습니다. 앞으로 이런 연구에서 얻는 데이터를 활용해, 예를 들어 '극단적인' 정서적 사용 패턴이 어떤 모습인지 파악해 가겠습니다. 정서적 의존 외에도 우려되는 다른 패턴을 더 깊이 이해해야 합니다. 아첨, AI 시스템이 망상적 사고와 음모론을 강화하거나 증폭할 수 있는 방식, 모델이 적절히 반대하지 않고 사용자를 해로운 믿음으로 몰아갈 수 있는 경로가 여기에 포함됩니다.

이번 연구는 시작에 불과합니다. AI의 능력이 확장되고 상호작용이 정교해질수록 AI의 정서적 측면은 더 중요해질 것입니다. 이 초기 결과를 공유하는 것은 인간의 정서적 웰빙을 해치지 않고 높이는 AI를 어떻게 만들 것인가라는 논의에 실증적 근거를 보태기 위해서입니다. 목표는 더 유능한 AI를 만드는 데 그치지 않습니다. 이런 시스템이 우리 정서 환경의 일부가 되더라도, 진정한 인간적 유대와 성장을 뒷받침하는 방식이어야 합니다.

부록

더 자세한 내용은 이 글의 PDF 부록에서 확인할 수 있습니다.