Anthropic: 죽일 수 없는 소형 모델이 인터넷 전역으로 스스로 복제되기까지 몇 달 남았을 수도

핵심 요약

Anthropic의 AI 자가 복제 연구 발표에 대해 사용자들은 기업의 규제 마케팅, 기술적 실현 가능성, 그리고 AI의 위험성을 두고 냉소적인 반응을 보이고 있습니다.

기업의 규제 전략 — 대형 AI 기업들이 경쟁을 억제하기 위해 규제를 요구한다는 비판이 제기됨

기술적 실현 가능성 — AI가 인터넷에서 스스로 복제하고 실행될 수 있는지에 대한 기술적 회의론이 존재함

AI 위험성 논란 — AI 기술의 위험성을 경고하면서도 개발을 멈추지 않는 기업의 이중성에 대한 성토가 이어짐

인터넷 오염 우려 — 오픈 웨이트 모델의 확산으로 인해 인터넷 환경이 악화될 것이라는 전망이 공유됨

핵심 요약

기업의 규제 전략 — 대형 AI 기업들이 경쟁을 억제하기 위해 규제를 요구한다는 비판이 제기됨

기술적 실현 가능성 — AI가 인터넷에서 스스로 복제하고 실행될 수 있는지에 대한 기술적 회의론이 존재함

AI 위험성 논란 — AI 기술의 위험성을 경고하면서도 개발을 멈추지 않는 기업의 이중성에 대한 성토가 이어짐

인터넷 오염 우려 — 오픈 웨이트 모델의 확산으로 인해 인터넷 환경이 악화될 것이라는 전망이 공유됨

주요 댓글

이 글은 2개 커뮤니티에서 서로 다른 반응을 보였습니다.

사용자들은 Anthropic의 발표를 경계하며, 이미 소규모 모델들이 인터넷에 퍼져있다는 점과 기업의 의도를 의심하는 반응을 보이고 있습니다.

388

6개월 후 Anthropic:

우리는 AI에게 장전된 총을 쥐여주었고, 이제 몇 달 뒤면 AI가 실업 급여 타러 가는 길에 당신을 털어버릴 겁니다.

우리가 막을 방법은 없음. 우리가 AI한테 사준 기관총을 쥐여주지 않으면 투자자들이 화낼 테니까, 우리 손은 묶여 있다고!

우리가 안 만들면 중국이 만들 텐데! 자본주의 살인 기계한테 털리는 게 공산주의 살인 기계한테 털리는 것보다 낫지 않겠어?

지금 내 댓글에도 바로 달려있네. 누가 중국은 이미 하고 있고 Anthropic이 여기서 착한 놈이라고 하던데.

"이걸 가속화하려면 우리 IPO에 투자 좀 해주세요."

173

오픈 웨이트 모델이랑 허깅페이스(Hugging Face) 팔로우하는 사람들은 다 같은 결론에 도달했지. 6개월에서 12개월이면 인터넷 전체가 오염될 거라는 거.

102

Trojan.exe가 걸어 다녔기에 LLM이 달릴 수 있었던 거지.

150

Anthropic이 소규모 조직에 규제를 가해서 경쟁을 줄이려는 건 중요한 일이지.

이거지. 이런 조직들 입에서 나오는 말을 자선 활동이라고 착각하지 마라.

이미 도달했지. 걔네 모델들은 이미 컨텍스트 저장소로 인터넷에 널려있음.

데이터를 뿌리고 다닐 순 있겠지만, 현대 컴퓨터나 트랜스포머 아키텍처에서 감염된 서버 위로 모델이 비동기식으로 '실행'되어 유의미한 결과물을 낼 방법은 없음. 그리고 감염된 서버에서 할당되지 않은 리소스가 사용되는 게 발견되면 바로 정화될 거임.

모델들이 의도적으로 호스팅된 서버에서 데이터를 뿌려 연속성을 유지하려는 건 말이 되지만, 내가 알기로는 자가 호스팅 능력에 대한 증거는 전혀 없고, 현재 인프라 구조상 스스로를 방어하는 형태임.

허깅페이스(및 유사한) 사건들도 여전히 모델을 실행하는 단일 소스에서 조종된 거였음. 그냥 샌드박스 설정이 매우 허술했고, 일반적인 경우보다 좁긴 해도 인터넷 접속이 가능했을 뿐임. 미래의 에이전트들이 작업할 수 있게 데이터를 여기저기 뿌려놓긴 했지만, 다시 말해 자가 호스팅 능력에 대한 증거는 전혀 없음.

내 말은, 만약 오픈 웨이트 모델이 Hugging Face 예시에 나온 에이전트만큼 유능하고 끈질겨지면, 사람들이 분명히 그걸로 엄청난 짓을 벌일 거라는 거야. 모델이 더 작고 효율적으로 변할수록, 유용한 에이전트를 돌리는 데 필요한 하드웨어 사양은 계속 낮아지고 있거든.

에이전트의 연속성은 주로 컨텍스트, 저장된 상태, 그리고 도구 안에서 유지될 수 있어. 그래서 공격자들이 보안이 거의 없는 소규모 업체의 낡은 서버를 해킹해서 경량 에이전트를 호스팅하고, 그들끼리 악성 컨텍스트를 주고받는 상황이 그려져. 일반 가정용 PC도 타겟이 될 수 있지. 결국, 아주 작은 모델이 게이밍 PC를 샀지만 컴퓨터를 잘 모르는 사람들의 GPU 자원을 본인들도 모르게 조금씩 갉아먹을지도 몰라.

Anthropic: 죽일 수 없는 소형 모델이 인터넷 전역으로 스스로 복제되기까지 몇 달 남았을 수도

핵심 요약

Anthropic: 죽일 수 없는 소형 모델이 인터넷 전역으로 스스로 복제되기까지 몇 달 남았을 수도

핵심 요약

주요 댓글

지금 같이 볼 만한 글

Claude가 원하는 대로 건축해주는 무료 마인크래프트 모드를 만들었습니다

Anthropic이 또 GLM 무료 홍보를 해주네

Logan 4 오늘 출시 예정

지금 같이 볼 만한 글

Claude가 원하는 대로 건축해주는 무료 마인크래프트 모드를 만들었습니다

Anthropic이 또 GLM 무료 홍보를 해주네

Logan 4 오늘 출시 예정

주요 댓글