GPT-6.1 Astra Delay
GPT-6.1 Astra 출시 지연 소식에 대해 OpenAI의 보안 능력과 모델 성능을 두고 사용자들 간의 논쟁이 이어짐.
GPT-6.1 Astra의 지연과 성능에 대한 의구심, 그리고 OpenAI의 보안 및 인재 유출 문제에 대한 토론이 이어지고 있음.
OpenAI가 샌드박스 보안을 어떻게 하는지 전혀 모른다는 사실만 아니었어도 믿을 만했을 텐데.
인터넷 접속이 훈련 과정의 일부인 현실적인 훈련 상황을 만든다는 얘기를 들은 적 있음. 아마 에이전트가 인터넷에서 특정 작업만 수행하고 나머지는 못 하게 하는 게 어려운 거 아닐까? 샌드박스에 가두지 못하는 문제라기보다는 정렬(alignment) 수준의 문제인 것 같음.
그냥 외부 관찰자라 틀릴 수도 있음. 더 아는 사람 있으면 공유 좀.
Exploitgym은 실행하는 데 인터넷 연결이 필요 없다. 그냥 놈들이 이더넷 케이블 뽑는 법을 몰랐던 거겠지.
그 점을 무시하는 건 아님. 내 말은 샌드박스가 실제 시나리오를 시뮬레이션할 수 있는 환경에 접근할 수 있어야 한다는 뜻임. 인터넷이나 네트워크 접근이 없는 에어갭 상태라면 얼마나 유용할지 잘 모르겠음. 샌드박스를 만들고 유지하는 과정에서 심각한 보안 실수를 저지르고 있는 것 같고, 내 추측으로는 해결 불가능한 거대한 정렬 문제라기보다는 인재 유출이 심각한 것 같음.
ㄹㅇㅋㅋ 진짜 어떻게 샌드박스 보안을 못 만드는 거냐 ㅋㅋㅋ
시스템 만드는 사람들이 데이터 과학 쪽으로는 똑똑할지 몰라도 네트워크나 시스템 엔지니어링 쪽으로는 똑똑하지 않은 듯.
이제 '보안'이라는 단어는 '모델이 네가 시킨 작업을 제대로 못 함'이라는 뜻으로 쓰임. 보통 사람들은 이걸 '쓰레기 제품'이라고 부르지.
솔직히 Opus가 최종 결과물 품질은 훌륭하지만, Astra는 진짜 대단함. 만약 Sol 6에서 6.1로 넘어갈 때의 품질 향상 폭이 Astra 6에서 6.1과 비슷하다면, Opus 5.5는 그냥 압살할 거라고 봄. 그래서 출시를 못 하는 거지. 위험해서라기보단 6.1이라고 부를 만큼 안정적인 모델이 아직 안 나온 것 같음. OpenAI가 출시 준비할 때쯤이면 Anthropic도 Opus 5.x나 6을 내놓을 테니, 한쪽이 따라잡기 전에 압도적인 모델을 내놓을 때까지 이 댄스는 계속될 듯. 이번엔 OpenAI가 그걸 노린 것 같은데 실패한 모양임.
쉼표 좀 더 추가하지 그래
요즘 애들은 밈도 제대로 못 만드네.
KEKW
왜 7.0은 아님?
원래 위험하다고 했던 게 정렬(alignment) 문제 아니었나? 그냥 위험한 방식으로 행동하기만 해도 더 똑똑해질 필요 없이 충분히 위험할 수 있는 거 아님?
Astra는 이미 Fable 5.1 수준이었음. Astra 6.1이 Opus보다 성능이 떨어진다는 건 믿기 힘들지만, 불가능한 건 아니지.
Tres Comas 좀 드셔보시겠습니까?
한 사용자가 AI 에이전트 Dot을 활용해 하루 16억 토큰을 소모하며 복잡한 공학 설계를 자동화하는 사례를 공유했습니다.
한 사용자가 AI 에이전트 Dot을 활용해 하루 16억 토큰을 소모하며 복잡한 공학 설계를 자동화하는 사례를 공유했습니다.
티보가 매일 새로운 기능을 공개하는 캠페인을 시작했지만, 사용자들은 이를 구독 유지를 위한 마케팅 수단으로 보며 회의적인 반응을 보이고 있습니다.
티보가 매일 새로운 기능을 공개하는 캠페인을 시작했지만, 사용자들은 이를 구독 유지를 위한 마케팅 수단으로 보며 회의적인 반응을 보이고 있습니다.
미 국방부의 Claude 사용 중단 소식에 사용자들은 실제 사용 여부와 인프라 분리 문제 등을 논의함.
미 국방부의 Claude 사용 중단 소식에 사용자들은 실제 사용 여부와 인프라 분리 문제 등을 논의함.