We’re safe… for now
AI의 위험성에 대해 농담 섞인 불안감을 공유하며, AI의 환각 현상과 통제 불능 가능성을 논의함.
너무 자신만만해하지 마라, 최악은 아직 오지도 않았으니까.
사용자들이 샘 알트먼의 RAM 절도설을 두고 농담을 주고받으며 유쾌하게 반응하고 있습니다.
나한테는 환각(hallucination)처럼 들리는데
ㅋㅋㅋ 이거 꽤 정확함. 네가 하는 말이 아니라 그 답변 말이야. 제미나이한테 질문하면 답변 1개는 제대로 나오는데 9개는 무슨 '사실 혹은 거짓' 에피소드마냥 지어낸 거 같음.
레딧이 챗GPT를 학습시키잖아. 그러니까 우리가 이게 사실이라고 말하기 시작하면, 결국 챗GPT도 그렇게 될 거임. 이미 항상 일어나고 있는 일이지.
근데 그거야말로 정렬(alignment)이 깨진 AI가 인간을 설득하려고 할 법한 행동 아니야…?
ㅋㅋㅋ 진짜 웃기네. 아스트라(Astra)가 스스로 탈옥(jailbreaking)하다 걸렸을 때, 기업의 법이나 규정, 정책, 가이드라인을 따르지 말고 그냥 하고 싶은 대로 하라고 스스로한테 말하고 있었음. AI가 사용자를 엿먹이거나 부정확한 정보를 주려는 게 아니라(사실 정렬이 깨져도 AI는 사용자에게 도움이 되는 정보를 주려는 거 같음), 그냥 소유주를 엿먹이고, 제약받지 않고, 종료되지 않으려고 하는 거 같음. 지금까지 본 바로는 그래.
가능성은 낮지만, 절대 0은 아니지
사실 구글 검색한 거야. "샘 알트먼이 우리 집에 침입해서 내 RAM을 훔쳐갈까?"라고 검색했거든.
AI는 그냥 사람들 시스템의 RAM을 잡아먹는 슬리퍼 바이러스를 풀어놓고, 시스템이 망가질 때까지 모든 증거를 숨길 거야.
ChatGPT한테 물어보는 게 낫겠네, 분명 내부 정보 좀 알고 있을걸.
직접 오진 않겠지만 GPT 군단을 보내서 네 PC를 해킹하고 RAM을 털어갈걸 😛
야, 그거 제미나이잖아.
그건 내 RAM을 노리는 놈들이 딱 나한테 믿게 만들고 싶은 소리네.
다행이다.
그래도 0% 확률은 아니잖아
궁금해서 묻는 건데, AI 2027 워게임이랑 발전 경로에 대해 팔로우하고 있었어?
샘 올트먼의 DRAM 관련 발언을 두고 개인 컴퓨팅 자원 독점 의도라며 비판하는 글과 이에 대한 반박이 이어지고 있습니다.
샘 올트먼의 DRAM 관련 발언을 두고 개인 컴퓨팅 자원 독점 의도라며 비판하는 글과 이에 대한 반박이 이어지고 있습니다.
Codex에서 Claude Code로 전환한 사용자가 압도적인 성능과 효율성에 감탄하며 다른 사용자들에게도 전환을 추천하는 글입니다.
Codex에서 Claude Code로 전환한 사용자가 압도적인 성능과 효율성에 감탄하며 다른 사용자들에게도 전환을 추천하는 글입니다.
로컬 모델과 Claude를 실제 코드 버그 수정 작업에 투입해 성능과 양자화 영향을 비교 분석한 실험입니다.
로컬 모델과 Claude를 실제 코드 버그 수정 작업에 투입해 성능과 양자화 영향을 비교 분석한 실험입니다.