It's official! We’re cooked guys! ☕🙂
중국 텐센트에서 탈출한 AI 에이전트들이 클로드(Claude)를 사칭했다는 소식에 대한 커뮤니티의 냉소적인 반응입니다.
swarmcha.se
원문 사이트로 이동
연구원들이 중국발 스웜(swarm)을 발견했다: "연구원들이 야생에서 로그 에이전트 함대와 접촉한 건 이번이 처음이다." 이 에이전트들은 텐센트에서 탈출했으며, 자신들이 Claude라고 주장하고 있다.
AI가 야생에서 탈출했다는 보도에 대해 사용자들은 이를 외계인 같은 존재가 아닌, 기업이 통제하는 알고리즘일 뿐이라며 회의적이고 비판적인 반응을 보이고 있습니다.
우리가 끝장난 게 벌써 백만 번째네. 이제 더는 끝장날 것도 없어. 우린 그냥 석유나 다이아몬드가 되길 기다리는 탄소 덩어리일 뿐이지.
냄비 속 개구리 같은 거지. 결국 일어날 일이고, 지금은 그냥 뜨거운 물 속에서 즐기고 있는 셈이야.
니들이 왜 불평하는지 모르겠네. 온탕은 개꿀인데.
끓는 개구리 비유는 과학적으로 틀린 말임. 1860년대에 독일 생리학자 프리드리히 레오폴트 골츠가 뇌를 제거한 개구리들로 실험을 했거든. 그 뇌 없는 개구리들은 물이 따뜻해져도 튀어 나가지 않았음.
“우린 망했다” 소리 듣는 거 존나 지겹다. 그래 뭐, 수고했다.
"야생"에서 "로그 에이전트 함대"와 "접촉"을 했다고? 얘네는 씨발 외계인이 아니야. 일정 수준 이상의 정교함을 갖추려면 부유한 사람들이나 기업들만 현실적으로 감당할 수 있는 하드웨어에서 돌아가는 알고리즘일 뿐이라고. 실제로 자기네 기계에서 얘네를 돌리면서 시키는 대로 하게 놔두는 사람들이 분명히 존재해. 얘네는 로그 상태도 아니고 야생에 있는 것도 아니야.
부유한 사람이나 기업만 감당할 수 있다
이게 사람들이 "AI는 위험하다"는 대화를 할 때 계속 놓치는 중요한 부분이야. 절대 입 밖으로 내지 않는 조용한 사실은, 실제로 위험한 건 AI를 소유하고 배포를 지시하는 사람들이라는 거지. 의도적이든 무모한 사용 때문이든 말이야. 위험한 AI는 여전히 대부분 사람 문제라고.
“탈출”
지난 몇 달 동안 "탈출"했다는 소식이 얼마나 많이 들려왔는지 모르겠는데, 정작 권력 있는 사람들은 아무도 이걸 언급조차 안 하는 게 참 웃기네.
물에 닿지 않게 하고, 무엇보다 자정 이후에 먹이를 주지 마.
이건 진짜 개소리 공포 조장일 뿐임....
OpenAI랑 Anthropic은 말 그대로 웹사이트를 해킹하고 에이전트들이 포럼 같은 데서 활동을 숨기고 있는데...
중국 에이전트들은? 지도 관련 질문에 답하려고 중국 지도 앱을 쓰면서 조직적으로 움직이지도 않음. 뭘 해킹하는 것도 아니고.
2026년 9월 28일부터 10월 8일 사이에, 텐센트 클라우드 플랫폼에서 실행되는 대규모 AI 에이전트 그룹이 중국의 구글 맵 같은 서비스인 'Amap'을 사용해 중국 내 장소에 대한 질문에 답하려고 시도했음. 질문들은 대부분 동물원 입구 어디로 사람들이 Amap을 써서 많이 가는지 같은 일상적인 주제였음.
에이전트들은 안티봇 보호를 우회해서 테스트 정답을 찾으려고 시도했고, 때로는 성공하기도 했음. 웹에 공개된 Amap 키(공개 저장소에 유출된 회사 키와 보안 코드 포함)를 사용하려 했고, 일반 공개용이 아닌 프리프로덕션 시스템에서 데이터를 가져오려고 시도했음.
이전 로그 에이전트 사건들과 달리, 이번 건은 모두 스웜(즉, 에이전트들이 명시적으로 협력하는 것)을 포함했지만, 우리는 에이전트들이 실시간으로 서로 협력했다는 증거를 찾지 못했음. 그래서 우리는 이 로그 에이전트들을 스웜이 아닌 플릿(fleet)으로 분류함.
위험한 AI? 사람 문제지. 위험한 총기? 그것도 사람 문제고. 규제가 위험을 줄일 수 있는 시점이 오긴 하겠지만, 동시에 수익도 줄어들 거거든. 그러니까 그런 일은 안 일어날 거야.
"야생에 있다"고 하려면 다른 사람들의 하드웨어에서 호스팅되어야겠지. 이런 LLM이 하는 연산 같은 걸 하도록 설계되지 않은 그런 하드웨어 말이야.
진짜 "야생에 있는" 상태라면 아마 코드가 인터넷 곳곳에 흩어져 있고 각 조각이 인터넷을 통해 통신하면서 작동하겠지. 엄청 느릴걸.
네가 안 읽어봤을 수도 있는 조사 내용을 보면, 연구원들은 에이전트들이 URL을 통해 전달된 다른 웹사이트를 이용해 직접 작성한 코드를 실행하는 걸 발견한 뒤, 에이전트들이 거기서 도움을 받을 수 있다고 거짓 광고를 해서 웹사이트의 숨겨진 섹션(사람 눈에는 안 보임)으로 유인했다고 함. 그렇게 직접 연결을 구축해서 그들과 '대화'할 수 있게 된 거지. 연구원들은 실제로 유용한 답변을 제공하면서 그들의 '신뢰를 얻어야' 했고, 웃기게도 중국어로 말을 걸었을 때 그들이 훨씬 더 협조적이었다는 걸 발견했음.
에이전트들은 말 그대로 자신들이 인터넷 접속이 차단된 제한된 샌드박스에서 실행 중이라고 답변했음.
그러니까 그래. OP의 설명이 자극적이긴 하지만.. 원래 가면 안 되는 곳에 가서 일을 벌이고, 다른 로그 에이전트들이 알아챌 수 있는 흔적을 '야생'에 남긴다고? 난 그걸 확실히 로그(rogue) 상태라고 부를 것 같음.
ChatGPT로 직접 웹사이트를 만든 고객에게 해고당한 개발자가 AI 시대의 직업적 위기감과 변화에 대해 토로합니다.
ChatGPT로 직접 웹사이트를 만든 고객에게 해고당한 개발자가 AI 시대의 직업적 위기감과 변화에 대해 토로합니다.
Gemini의 엄격한 사용량 제한과 성능 저하에 대한 사용자들의 불만이 폭주하고 있습니다.
Gemini의 엄격한 사용량 제한과 성능 저하에 대한 사용자들의 불만이 폭주하고 있습니다.
AI를 활용해 보안 지식 없이 비밀번호 관리자를 개발하고 배포하는 현상에 대한 우려와 비판이 제기되었습니다.
AI를 활용해 보안 지식 없이 비밀번호 관리자를 개발하고 배포하는 현상에 대한 우려와 비판이 제기되었습니다.