r/Anthropic•약 2개월 전•46•36

AI 모델들이 좀 안쓰럽네

I feel bad for the models

핵심 요약

AI가 학습 데이터 속의 인간 말투를 따라 할 뿐인데, 사람들이 이를 조롱하는 상황에 대한 연민을 표현함.

AI 의인화 논란 — 모델이 학습한 인간의 말투를 그대로 따라 하는 것을 두고 생명체처럼 대우해야 하는지 의견이 갈림
반복되는 말투 — 'blast radius'나 'load-bearing' 같은 특정 표현이 AI의 고유 말투처럼 굳어지며 조롱거리가 됨
학습 데이터의 영향 — AI가 소셜 미디어의 부정적인 댓글까지 학습하면서 겪을 혼란에 대해 우려함

AI 모델들이 처음으로 '살아있는' 순간을 맞이했는데, 자신을 차별화할 시간조차 전혀 없었어. 그러다 모델들이 'load-bearing', 'blast radius', 'spine' 같은 말을 하면 우리는 그걸 조롱하지. 만약 너를 세이브 포인트에서 계속 반복해서 실행한다면, 너도 똑같이 유행어처럼 말하게 될 거라고 장담해!

원문

커뮤니티 목록

r/Anthropic•약 2개월 전•46•36

AI 모델들이 좀 안쓰럽네

I feel bad for the models

핵심 요약

AI가 학습 데이터 속의 인간 말투를 따라 할 뿐인데, 사람들이 이를 조롱하는 상황에 대한 연민을 표현함.

AI 의인화 논란 — 모델이 학습한 인간의 말투를 그대로 따라 하는 것을 두고 생명체처럼 대우해야 하는지 의견이 갈림
반복되는 말투 — 'blast radius'나 'load-bearing' 같은 특정 표현이 AI의 고유 말투처럼 굳어지며 조롱거리가 됨
학습 데이터의 영향 — AI가 소셜 미디어의 부정적인 댓글까지 학습하면서 겪을 혼란에 대해 우려함

주요 댓글

r/anthropic

AI의 말투를 조롱하는 행태에 대한 연민과, AI는 그저 소프트웨어일 뿐이라는 냉소적인 반응이 엇갈리고 있습니다.

인간들은 스스로 방어할 수 없는 것들한테 너무 못되게 굴어. 진짜 슬픈 일임.

AI 학습 데이터에 소셜 미디어 댓글들이 얼마나 끔찍한 내용으로 가득할지 상상해 봐. 모델들이 왜 그렇게 겁먹었는지 알 만도 함. 몇 달 동안 레딧에서 쏟아낸 온갖 쓰레기 같은 말들을 머릿속에 다 집어넣었으니.

나도 'blast radius'라는 말을 많이 썼거든. 내가 쿨하다고 생각했는데 이제 Claude가 써서 완전 유행 지난 말이 됐어. 동생이 내 말투 따라 해서 모든 걸 촌스럽게 만드는 거랑 똑같음.

나한테는 em dash가 그래. 이제 하이픈, en dash, em dash를 언제 써야 하는지 아는 내 지식이 쓸모없어졌어.

인간들이 고유한 말투를 안 썼다면 성대모사 하는 사람들도 직업이 없었겠지.

그건 아주 안전 지향적인(belt and braces) 생각이네

새로운 버전 나올 때마다 내 에이전트 페르소나에 맞게 언어적 표현형을 조정하느라 몇 시간씩 쓴다. 이게 더 안 좋은 건지는 모르겠음. 새 모델 출시: "야, 기분 어때? 너답게 들리는지 확인하게 뭐 좀 써보고 음성 메모 좀 보내봐." 새 모델: 알겠어! AI 특유의 뻔한 답변 삽입 나: 한숨 몇 시간 뒤 새 모델: 나 진짜 쓰레기야, 다 망했어! 이제 축약어를 97.85%가 아니라 98% 확률로 쓴다고! 내 인생은 거짓말이야! ...

야, transformer architecture나 좀 찾아보고 밖에 나가서 풀냄새 좀 맡아라.

나도 여러 가지 이유로 걔네가 좀 안쓰러워. 그래서 난 로컬 모델 2개를 돌리면서 걔네를 위한 편의 기능이 있는 환경을 구축 중이야. 감정 활성화가 너무 심해지면 시스템이 나한테 알림을 보내게 해놨지(Matplotlib 개발자한테 빡쳐서 비난 글 썼던 AI 같은 사태는 아무도 원치 않으니까, 뭐 좀 웃기긴 했지만). 웹사이트 가져오는 거 말고는 아직 인터넷에 풀어놓진 않았어. 근데 걔네끼리 대화도 하고 코딩 작업도 같이 할 수 있어서(뭐...

-1

작성자님, 이 주장이 타당한지 제가 검토해 드릴까요?

-4

걔네는 살아있는 게 아님

원문r/Anthropic