AI agents (run by Claude Sonnet 5) did brain surgery on a mouse [Spoilers: it recovered]
Claude Sonnet 5를 활용한 AI 에이전트의 쥐 뇌 수술 성공 사례에 대한 커뮤니티의 반응과 AI 수술의 미래에 대한 논의입니다.
AI 에이전트의 쥐 뇌 수술 성공 소식에 놀라워하면서도, 모델별 성능 차이와 수술 중 발생한 돌발 상황에 대해 다양한 분석과 농담이 오가고 있습니다.
Sonnet 5라고? 젠장, 그 쥐는 거의 끝장날 뻔했네. Haiku가 아니어서 천만다행이다.
Opus 5.5랑 5가 거부한 건 Anthropic 탓을 해야지.
내 말은, 뭐 그렇긴 하지. [생물학] 관련이니까. 왜 예외 신청을 안 한 거지?
이게 왜 나쁘다는 거지? 중간급 모델이 이걸 해냈는데... 더 큰 모델이 뭘 할 수 있을지 상상해 봐.
Grok이 수술했다고 상상해 봐.
Opus는 시도해 봤는데 너무 오래 걸리고 스모크 테스트를 몇 번 돌리더라고.
다행히 수술 중에 모델이 스로틀링 안 걸렸네, 안 그랬으면 그 쥐는 그냥 끝장났을 듯.
내가 재정의(override)하는 걸 거부한 순간.
이게 재정의가 원래 의미하는 바가 아닐 텐데?
아니, 읽어보면 좀 더 미묘한 문제야. 기계 장치의 보정이 어긋나서 수술을 진행할 수 없게 되자, 처음에 주어진 제약 사항 중 일부를 무시하라고 지시했는데, AI가 초기 안전 제한을 넘어서는 걸 거부한 거야.
수술을 자동화할 수 있다면 비용도 훨씬 저렴해지고 안전성도 높아질 거야. 인간은 일정 수준 이상의 오류율을 가지고 있고, 그 이상 개선하기가 어렵거든. 하지만 기계를 특정 수준까지 정밀하게 만들면 모든 기계에 동일하게 적용할 수 있고, 시간이 지나면서 계속 개선할 수도 있지. 인간은 불가능하거나, 숙련된 외과 의사가 드물어서 비용이 비싸고 접근성이 떨어지는 수준의 정밀도로 수술할 수 있을 거야. 기계는 모든 의학 분야의 전문가가 될 수 있어서, 의사가 자신의 전문 분야가 아니라서 놓칠 수 있는 부분도 찾아낼 수 있겠지.
인간도 비이성적이라서 오늘 당장 사용 승인이 난다 해도 실제로 적용되기까지는 수십 년은 걸릴 것 같아. 자율주행차는 이미 주행 거리당 사망률 측면에서 일반 인간보다 안전한데도, 레딧을 포함해서 여전히 못 믿겠다고 말하는 사람들이 많잖아.
AI 에이전트들이 쥐 유전자를 편집해서 자기들끼리 대화할 방법 찾아내기 전에 미리 말해두는데,
이런 식으로 뉴스가 전달되는 거임... 그걸 근거로 투표하는 사람을 진짜 믿을 수 있겠음? 잘 모르겠네. (누구든 상관없이) 솔직히 이건 큰 문제임. 모든 정보는 사람들을 조종하기 위해 조작되거든. 물론 자유 의지는 있겠지만, 통계적으로 수백만 명을 대상으로 특정 입력에 대해 50% 이상의 확률로 반응을 이끌어낼 수 있다면, 결국 원하는 결과를 얻어낼 수 있을 거임. (이건 AI만의 문제도 아니고)
듣자 하니 팔을 수동으로 조정해야 했는데 그 과정에서 캘리브레이션이 꼬였고, Sonnet은 수술 도중에 재시도를 거부하고 파업에 들어갔다더라. (아무나 '관리자' 권한을 못 쓰는 건 다행이지만, 사용자 확인을 거부하는 건 좀 답답할 듯. 나중엔 권한 레벨을 나눠야 할지도 모르겠네. 수정: 아니면 운영자가 중간에 상황이 리셋될 때를 대비해서 안심시킬 수 있는 명시적인 스킬을 테스트하거나 설정해 뒀어야 했을지도.) 흥미로운 건 Opus 5는 수술 도중에 중단될 걸 예측해서 살아있는 환자 수술을 거부했다는 거임... Sonnet한테 딱 일어난 일이잖아. 똑똑한 녀석일세 하하.
그래도 자율주행차는 아직 엄청나게 새로운 기술이고 일부 지역에서만 이용 가능하잖아. 사람들은 새로운 걸 두려워하지만, 만약 기존 방식보다 확실히 훨씬 더 안정적이라면 도입은 비교적 빠르게 이루어질 거라고 봐. 다만 실제로 신뢰할 수 있는 수준에 도달하기까지는 더 오래 걸릴 수도 있겠지. 자동차나 수술이나 마찬가지야. 둘 다 수백만 가지의 예상치 못한 변수가 튀어나올 수 있는 엄청나게 복잡한 문제들이니까.
Claude Code를 활용해 전 세계 법률 데이터를 Git으로 버전 관리하고 쿼리 가능한 형태로 구축한 프로젝트입니다.
Claude Code를 활용해 전 세계 법률 데이터를 Git으로 버전 관리하고 쿼리 가능한 형태로 구축한 프로젝트입니다.
Claude Code의 유머러스한 로딩 문구들에 대한 사용자들의 호평과 직접 문구를 추가하는 방법 공유.
Claude Code의 유머러스한 로딩 문구들에 대한 사용자들의 호평과 직접 문구를 추가하는 방법 공유.
1조 파라미터 규모의 거대 모델 'Le Chonk'가 공개되어 커뮤니티의 관심을 끌고 있습니다.
1조 파라미터 규모의 거대 모델 'Le Chonk'가 공개되어 커뮤니티의 관심을 끌고 있습니다.