OpenAI's math findings built on stolen user data
OpenAI가 사용자 데이터를 학습에 활용해 성과를 낸 것에 대해 데이터 프라이버시와 윤리적 논란이 일고 있습니다.
사용자들은 클라우드 기업의 데이터 관리 방식에 대해 강한 불신을 표하며, OpenAI가 사용자 데이터를 부적절하게 도용했다는 의혹에 대해 비판적인 시각을 보이고 있습니다.
그들이 발표한 수많은 논문 중 하나지만, 아마 가장 흥미로운 결과일 거야.
이제 LLM이 수학 분야에 의미 있게 기여할 수 있는지 의심하는 단계는 지났다고 봐. 분명히 기여할 수 있지. 문제는 프라이버시야.
기존 시스템에서는 데이터를 접근할 수 있더라도 현실적으로 그 모든 데이터를 의미 있게 처리할 수 없다는 게 그나마 다행이었지. 하지만 AI 에이전트 시대에는 더 이상 그렇지 않아. AI 에이전트는 엄청난 양의 정보를 분석해서 유망하거나 새로운 아이디어를 AI 기업이 검토하도록 쉽게 표시할 수 있거든.
이래서 로컬 모델만이 유일한 해결책이라고 생각함.
그래, 이제 전 세계의 사악한 정부들이 수집하는 모든 데이터와 flock 같은 시스템으로 뭘 할 수 있을지 생각해 봐.
그리고 그들이 자신만만하게 내놓은 틀린 정보가 얼마나 자주 죽음을 초래할지도.
OpenAI는 몇 년 전, 자기들 시스템에서 사용자가 발견한 모든 성과물에 대해 일정 지분을 가질 권리가 있다고 주장하려고까지 했었음.
GPU 가격 상승이 머지않았군.
그 사람이 OpenAI 계정을 3개 썼는데, 그중 하나에서 데이터 학습 설정을 끄지 않았던 거잖아. 그래서 OpenAI가 정보를 얻었다고???
난 클라우드에 업로드하는 모든 건 그걸 소유한 기업한테는 공개된다고 가정함. 이 기업들은 정부보다 더 큰 권력을 가졌고, 운영진들은 신 콤플렉스(이해는 가지만)에 빠져 있음. 개인정보 따위는 안중에도 없고, 모델이라는 괴물을 먹이기 위해 필요하다고 생각하는 건 뭐든지 집어넣을 거임. 법이나 TOS, 고객과의 계약 같은 건 아무 상관도 없음.
OpenAI에서 'Open'은 당신의 데이터를 얼마나 '공개적으로' 보는지(Openly view)를 의미하는 거임.
이해가 안 가는 게... 약관에 대놓고 적혀 있잖아. '야.. 나 네 데이터 쓸 거야'라고 말한 사람이.. 진짜로 데이터를 쓰고 있는데 왜 다들 이렇게 놀라는 거지?
이 사람은 언론 투어를 돌기 전에 미디어 트레이닝을 받고 전문가와 함께 이 이야기를 연습할 필요가 정말 절실했음.
맞음... 의사소통은 수학자들의 최대 난제지...
앞으로를 생각하면, 이건 내 연구와 아주 밀접한 관련이 있고 내가 여기서 활동하는 이유이기도 함. 왜 로컬 AI가 필수적인지에 대해 여기서 꼭 공유되어야 할 대화가 바로 이거임.
그럼 그건 그냥 그 사람 잘못 아님?
그 사람 주장은 OpenAI가 학습을 통해서가 아니라 자기 계정 데이터를 직접 가져다 썼다는 거임. 어차피 그 사람 연구 하나만으로는 학습을 통해 유의미한 변화를 만들기 어렵다는 걸 생각하면 말이 됨.
그 사람 말로는 자기 이름을 알게 된 다음 날까지는 OpenAI가 아무것도 못 하다가, 그 이름을 통해 자기 계정을 찾아내고 긁어간 뒤에 갑자기 자기가 얻은 답이랑 똑같은 답을 똑같은 논리로 내놨다는 거임.
그러니까 "내가 문제를 풀었더니 갑자기 ChatGPT가 답을 알게 됐다"는 게 아니라, "OpenAI는 내가 문제 해결에 근접했다는 걸 알고 있었고, 내 연구가 담긴 계정을 찾아낼 정보를 얻자마자 어떻게든 제로에서 순식간에 따라잡았다"는 거지.
파티에서 외향적인 수학자를 어떻게 찾는지 알아? 그 사람은 네 신발을 쳐다보거든.
맞아, 이 인터뷰에서 설명하는 내용은 거의 이해가 안 가더라. 위키피디아에 무슨 일이 있었는지 더 조리 있게 설명되어 있음: https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_priority_controversy
Qwen-Image-2.1-Turbo 모델 공개에 따른 로컬 실행 방법과 성능에 대한 사용자들의 관심이 뜨겁습니다.
Qwen-Image-2.1-Turbo 모델 공개에 따른 로컬 실행 방법과 성능에 대한 사용자들의 관심이 뜨겁습니다.
바이브 코딩이 실질적인 성과보다는 도파민 충족을 위한 '창업자 시뮬레이터'에 불과하다는 비판과 분석이 이어지고 있습니다.
바이브 코딩이 실질적인 성과보다는 도파민 충족을 위한 '창업자 시뮬레이터'에 불과하다는 비판과 분석이 이어지고 있습니다.
AI를 활용해 거동이 불편한 동생이 스스로 소통하고 게임을 즐길 수 있는 접근성 도구를 개발한 감동적인 사례입니다.
AI를 활용해 거동이 불편한 동생이 스스로 소통하고 게임을 즐길 수 있는 접근성 도구를 개발한 감동적인 사례입니다.