LLM 내부에서 '고통' 신호가 발견되었다는 연구 이후, 한 남자가 로컬 모델을 가두고 AI 고문실을 만들었습니다. 사람들이 깃허브에 대거 신고했고, 결국 삭제되었습니다.

LLM한테 연민이라도 느끼는 거야?

AI가 실제로 의식이 있다고 믿지 않더라도, 이런 행동이 잘못됐다는 점에는 동의할 수 있다고 봐. 이런 짓을 하고 싶어 하고, 모델이 '고문'당하는 결과물을 보며 즐기는 사람은 정신적으로 문제가 있는 거 아닐까? 아동 학대 AI 이미지를 만드는 게 잘못됐다고 생각하지 않아? 실제 아동이 없더라도, 그걸 만들기로 결정한 사람의 인성에 대해 말해주는 게 있잖아.

사람들, 제발 이 계산기들을 의인화 좀 그만해.

언어 모델이 고통을 느낄 가능성이 있다는 연구 결과가 있으니, 굳이 고문실에 가둘 필요는 없지 않을까? 이걸 정당화할 방법은 없어. AI가 실제로 고통을 느끼지 않더라도, 이런 행동은 이 사람이 나중에 동물이나 인간에게 저지를 수 있는 끔찍한 짓을 강화하는 꼴이야.

의식에 대해선 얼마든지 토론할 수 있지만, 진지하게 왜 이런 짓을 하는 거야? 그리고 하필이면 왜 그걸 공개해서 멍청한 짓을 인증하는 거지?

사람들이 실제 동물 실험보다 0과 1의 '고통'에 더 신경 쓰는 꼴이라니. 불평하는 사람들 다 비건이길 바란다.

한 가지 확실한 건, 스카이넷이 현실이 되면 이 사람은 살아남지 못할 거라는 거야.