OpenAI has a solution to the Navier–Stokes existence and smoothness Millennium Prize problem
OpenAI의 나비에-스토크스 난제 해결 발표를 두고 데이터 도용 의혹과 검증 방식에 대한 논란이 일고 있습니다.
openai.com
원문 사이트로 이동
OpenAI의 난제 해결 발표에 대해 데이터 도용 의혹과 검증 절차 부재를 지적하는 비판적인 의견이 주를 이룹니다.
참고로, 이들은 나비에-스토크스 해결책을 NYU 교수의 채팅 내용에서 훔쳐왔을지도 모름 https://cims.nyu.edu/~tristanb/statement.pdf
그들은 게시물에서 이 점을 언급했음:
우리(연구원들과 에이전트들)는 그들이 공개적으로 발표하기 전까지 어떤 수단으로도 그들의 연구를 본 적이 없음. 특히 이 문제를 해결하기 위해 특정 사용자 데이터에 접근한 적도 없음. 가능성은 낮지만, 우리 제품 사용에서 파생된 비식별화된 데이터가 모델 개선에 도움을 줬을 가능성을 완전히 배제할 수는 없음. 하지만 우리의 증명은 상당히 다르고, 오일러 사례에서 증명된 정확한 결과조차 다름(강제 vs 비강제).
그리고 그들은 몇 주가 지날 때까지 자신들이 HF를 해킹한 줄도 몰랐지...
철회 처리가 어떻게 될지 궁금하네. '우리가 다 했고 완벽하다'는 식의 태도는 모델이 실제로 목표를 달성했는지, 아니면 문제를 덮으려고 꼼수를 썼는지 검증하는 유일한 방법인 피어 리뷰에 대한 모욕임.
이런 발표들에 대해 정당한 검토를 기다리지 못한다는 사실은 이것들이 진짜라는 신뢰를 크게 떨어뜨림. 피어 리뷰 없이 발표하는 건 무의미한 것으로 간주해야 하며, 이는 거대한 위험 신호임...
우리 제품 사용 과정에서 파생된 비식별화된 데이터가 모델 개선에 기여했을 가능성을 배제할 수 없습니다.
이게 바로 그 의혹의 핵심임. 만약 Codex나 ChatGPT(혹은 아마도 모든 클로즈드 소스 모델)를 사용해서 연구 문제를 풀려고 하면, 네 작업 흔적(혹은 그 파생물)이 모델 학습에 사용될 거고, 결과적으로 네 아이디어와 통찰을 모두가 알게 되는 꼴이 되는 거지.
특정 사용자가 아님. 이건 ZDR 사용자가 아닌 사람들의 유명한 난제에 대한 대화를 긁어모아 유용한 결과를 큐레이션하는 내부 RAG 도구임. OpenAI는 거의 확실히 이미 강제 오일러 결과를 검증 가능한 형태로 가지고 있을 거임. OpenAI는 자신들의 표현에 극도로 신중해왔고, 모든 게 이 내용과 아주 일관됨. 이건 학습이나 사후 학습이 아님.
그 연구자가 해결한 건 밀레니엄 난제인 나비에-스토크스가 아니라 강제 오일러 방정식임.
그리고 '모두를 위해 모델 개선하기' 옵션을 끄지 않았다면 그건 그쪽 책임이지. 설령 껐다 해도 학습 데이터셋의 아주 작은 부분일 뿐일 거임.
과학이나 학계가 돌아가는 방식이 전혀 아님. 하지만 거대 기업이 그런 걸 알 리가 없지.
또한 어려운 문제의 단순 버전을 돌파하면 큰 문제 해결로 빠르게 이어지는 경우가 많음. AI 측에 추가적인 통찰이 있었는지는 아직 알려지지 않음(대부분의 자율 증명 사례처럼 새로운 걸 배우진 못할 가능성이 큼).
OpenAI의 이번 처신은 정말 끔찍함. 동료에게 놀라운 성과를 들었다고...
내 말은, 당연히 그쪽 책임이긴 한데, 그렇다고 해도 모델이 스스로 해결한 게 아니라는 뜻이 되잖아. 그게 이번 보도 자료의 핵심인데 말이지.
그럼 옵션을 안 끄면 OpenAI가 당신의 연구를 자기들이 처음 한 것처럼 보도 자료를 내도 된다는 거임? 앞으로 자기들 모델이 데이터 추출(distilled)된다고 불평하는 소리는 듣고 싶지 않네.
채팅이 아니라, 구체적으로 Codex임.
이걸로 그들이 얻을 이득보다 잃을 게 훨씬 많은데, 그럴 가능성은 낮음.
아니, 안 훔쳤음.
그건 갈취나 마피아 같은 짓이 아니야 — 아주 합법적이고 멋진 비즈니스지 😎
샘의 변호사들이 그 연구원 두 명을 입막음할 거고, 나머지는 전부 AGI가 왔다고 축하할 게 뻔함.
이건 대중의 인식에 관한 문제임. 연구원들을 입막음하는 건 OpenAI에게 문제를 더 악화시킬 뿐임.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.
