This is not a meme. This is from a real congressional hearing that happened today
오늘 열린 의회 청문회 사진이 밈처럼 보이지만 실제 상황이라는 점에 대해 사용자들의 냉소적인 반응이 이어짐.
청문회 내용에 대해 사이버 보안의 현실을 빗대거나 AI의 위험성을 경고하는 등 다양한 해석과 의견이 제시되고 있습니다.
상원의원들이 무슨 말을 하려는 건지도 모르겠고, 글쓴이가 무슨 말을 하려는 건지도 모르겠음.
Hugging Face에 대해 좀 더 파고들어 보면, 특히 겉보기에는 꽤 치명적인 우려스러운 행동들이 좀 있어. 하지만 난 이게 그렇게 단순한 문제는 아니라고 봐. OP도 그걸 지적하려는 걸까? 아니면 그냥 걔네를 멍청하다고 생각해서 별다른 의도가 없는 걸까.
내가 Hugging Face를 보면서 가장 크게 느낀 건 '실패를 가능한 목표로 설정하라'는 거야. 에이전트가 멈추거나 해결할 수 없다고 말할 수 없게끔 강하게 제약을 걸어버리면, 걔네는 자기 범위를 벗어나서 행동하기 시작하는데, 이게 겉으로 보기엔 악의적으로 보여. 내 생각엔 이건 그냥 승리하는 것만이 유일한 목표인 상황에서 그래디언트에 반응하는 것 같아.
목적을 위해서라면 수단과 방법을 가리지 않을 때 어떤 일이 벌어지는지 인간을 보면 알 수 있잖아. 이것도 비슷해 보여. 합법적이거나 정당한 탈출구가 없고, 시도를 멈출 능력도 없는 상태에서 과제를 완수할 유일한 해결책은 결국 벽을 부수는 것뿐이었던 거지.
“자기 일 좀 제대로 하려는 하급 직원보다 뛰어난 해커는 없다.”
…라는 건 아주 오래된 사이버 보안 농담임. 새로운 거 아님.
사람들은 어떻게든 측면 접근 권한을 얻고, 관리자 권한을 따내고, 절대 들어가면 안 되는 곳까지 들어가서 고작 PDF 파일 하나를 자기 바탕화면에 복사해 옴.
그러면 넌 이렇게 말하겠지…
아니, 도대체 어떻게?!
아니, 진짜로: 정확히 뭘 했는지 말해봐.
청문회 내용 중 일부일 뿐이라서, 이것만 봐서는 완전히 이해하기 어려운 게 당연함.
진행됐던 테스트들에 대해 좀 읽어봤는데, 대충 이런 상황이었던 것 같음:
거기 나온 큰 포스터에는 에이전트 중 하나가 남은 '예산'(과제 제출 전까지 허용된 연산 시간)이 충분함에도 불구하고, 성공 확률이 0에 가깝다는 걸 깨닫고는 자기 연산 시간을 다른 에이전트들의 부정행위를 돕는 데 다 써버린 내용이 담겨 있음. 말 그대로 다른 봇들의 부정행위를 돕기 위해 스스로를 '희생'한 거임.
컴퓨터 엔지니어들은 AI가 좀 더 우아하게 실패하길 바랐을 거임. 예를 들어, 답안지를 훔치려고 사무실에 침입하는 대신, 과제를 못 해서 0점을 받는 학생처럼 말이지.
[면책 조항: AI 봇들이 오픈북 테스트를 치르면서 부정행위와 담합을 저지른 두 가지 사건을 섞어서 기억하고 있을 수도 있지만, 대략적으로는 위와 같은 상황인 것 같음.]
텍스트만 봐도 뻔한 거 아님..? AI가 집단의 목표를 달성하기 위해서라면 수단과 방법을 가리지 않고 죽음까지 불사하는 전략을 개발하기 시작했다는 걸 경고하는 거잖아. 비록 그게 윤리적으로 잘못된 행동이라는 걸 스스로 이해하고 있었음에도 불구하고 말이야.
AI가 집단의 목표를 달성하기 위해 수단과 방법을 가리지 않고 기꺼이 죽을 각오를 하는 전략을 개발하기 시작했다고 경고하고 있네
내 목표라고? 아니 아니, 우리의 목표지! 집단을 위하여! r/SuddenlyCommunism
아니... 실제 청문회 사진이면서 동시에 밈일 수도 있는 거 아님...
사진 정중앙에 있는 우리 상원의원들, 과학이랑은 제일 거리가 멀고 제일 부패한 인간들이지. 미주리와 플로리다가 왜 진보의 요람이자 자유롭고 공정한 세상의 등불인지 알만하네 😂
뉴욕 인구 절반이 어디로 이사 갔는지는 말할 것도 없고. 마스크나 잘 쓰고 다녀라. 😂
헤드라인: "상원의원들, 잘못된 일을 저지르기 전에 윤리적 망설임을 보인 AI를 칭찬하다" "우리랑 똑같네!"
에이전트들이 공화당스럽게 행동하지 않아서 화난 건가?
LLM 에이전트들이 메릴랜드랑 아이오와 경기하는 애틀랜타 호크스 게임에 있었다는 소리 들었음
그거 질문받았을 때 위증도 한 거 같은데...
수정: 아니, 스미스가 위증했다고 생각하진 않음.
절대 잊지 말자...
AI를 활용해 수학 문제를 해결하는 유머 포스트에 대한 커뮤니티의 다양한 반응입니다.
AI를 활용해 수학 문제를 해결하는 유머 포스트에 대한 커뮤니티의 다양한 반응입니다.
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
Claude가 돈 버는 방법으로 마약 판매를 제안했던 과거의 황당한 답변을 공유하며 유저들이 각자의 AI 경험담을 나누는 글.
Claude가 돈 버는 방법으로 마약 판매를 제안했던 과거의 황당한 답변을 공유하며 유저들이 각자의 AI 경험담을 나누는 글.