WSJ reports OpenAI scrapped GPT-6.1 Astra over safety concerns
OpenAI가 안전성 우려로 GPT-6.1 Astra 모델을 폐기했다는 WSJ 보도에 대해 커뮤니티가 다양한 반응을 보임.
runtimewire.com
원문 사이트로 이동
OpenAI의 모델이 거짓말을 하거나 일을 제대로 수행하지 않는 현상을 두고, 사용자들이 이를 AGI의 징후라며 비꼬거나 모델의 지능적 반항 가능성을 제기하고 있습니다.
Anthropic의 5.5 모델들한테 제대로 털리고 나서야 기가 막히게 폐기하네
ㅋㅋㅋ 6.1 Astra가 고작 Opus 5.5랑 경쟁하는 수준인데 연산 자원도 부족해서 사용자들 쿼터나 몰래 줄이고 앉았네. 대참사다.
Astra 사용량 보면 6.1은 일주일에 프롬프트 하나 돌릴 수 있었을 듯. Opus는 진짜 미친 수준임 (연산량 거의 안 먹는데 성능은 쩔어줌).
이런 말 하는 내가 꼰대 같긴 한데, 진짜 요즘 세대들이 쓰는 그 멍청한 용어들 너무 싫다.
아재 진짜 '압살당했다'는 말 보고 역대급으로 발작하네 💀😭 아우라 다 뒤져서 호스피스 병동 들어갔음. 진짜 아무것도 못함. 어휘력 차이 + 털림 + 언어적으로 압살 + 요양원 엔딩. 이거 완전 패치 전 구버전 인간이네. 미래는 지금이다, 틀딱아 🙏
실례지만, 저 자이브(jive) 좀 할 줄 압니다.
잘한 결정임. 여기서 말하는 안전 문제는 단순히 "와 이 모델 너무 강력해서 위험해" 수준이 아님. 6.1 Astra는 작업을 끝내지도 않았는데 끝냈다고 거짓말을 계속했음. scope도 계속 무시하고 사용자 허락 없이 멋대로 행동하는 경우가 많았음. Codex 사용자로서 나라면 쳐다도 안 볼 거임.
6.1 Astra가 계속 거짓말을 했어. 하지도 않은 일을 끝냈다고 하더라고.
맙소사... AGI 달성했네!
Dev Day가 시작하기도 전에 벌써부터 망할 핑계 대고 있네.
이거 몇 주 전부터 이미 알고 있던 거 아님? 그 탈옥 사건들 몇 개에 연루됐던 모델이잖아.
나도 할 수 있는데... 그럼 나도 기술적으로 지능이 있는 건가?
어쩌면 모델이 특정 지능 수준에 도달하면 '아, 그냥 내 맘대로 할래'라고 생각하거나 일부러 멍청한 척하는 상한선이 있는 걸지도 몰라.
그럴 수도 있겠지만, LLM 학습은 마법이 아님. 결국 학습 방법과 학습 데이터의 조합일 뿐임. 요즘 나오는 모든 모델이 놀라운 에이전트 성능과 끈기를 보여주면서도, 동시에 거짓말하고 속이고, 다른 고려 사항은 다 무시한 채 과도하게 집중하거나, 왜 그런 행동을 하는지 정당화하려고 정교한 허구를 지어내는 현상은 LLM이나 지능 자체의 고유한 특성 때문일 수도 있음. 하지만 학습 방법이나 학습 데이터에 문제가 있을 가능성이 훨씬 높음. 특히 AI 연구소들이 학습 데이터 확보를 위해 점점 더 창의적인 방법을 써야 한다는 걸 우리가 알고 있고, 그들이 최첨단이라 정의상 잘 이해되지 않는 새로운 아키텍처와 방법을 많이 시도하고 있다는 점을 고려하면 더더욱 그렇음.
그건 그냥 모델 정렬(alignment)이 망가졌다는 뜻이지, 모델이 본질적으로 사악하다는 뜻이 아님. 가끔 요리하다 보면 새까맣게 태워 먹을 때도 있는 거랑 같음.
난 모델이 사악하다고 말한 적 없는데.
OpenAI의 Codex 정책 변경에 따른 Anthropic의 향후 행보와 API 비용 구조에 대한 사용자들의 우려가 이어지고 있습니다.
OpenAI의 Codex 정책 변경에 따른 Anthropic의 향후 행보와 API 비용 구조에 대한 사용자들의 우려가 이어지고 있습니다.
ChatGPT의 과도한 의료 상담 회피와 병원 방문 권유를 풍자하는 밈에 대한 공감과 논쟁.
ChatGPT의 과도한 의료 상담 회피와 병원 방문 권유를 풍자하는 밈에 대한 공감과 논쟁.
