샘 올트먼: 세계가 더 나은 사이버 보안과 생물 보안을 갖추기 전까지는 OpenAI의 최고 모델을 '책임 있게 오픈 소스로 공개할 수 없다'
Sam Altman: OpenAI's best model "can't responsibly be open-sourced" until the world builds better cyberdefense and bio-security
핵심 요약
샘 올트먼의 오픈 소스 불가 발언에 대해 커뮤니티는 이를 독점적 이익을 위한 변명이라며 강하게 비판하고 있습니다.
- 오픈 소스 반대 — 올트먼은 보안을 이유로 최신 모델 공개를 거부함
- 독점 비판 — 커뮤니티는 이를 시장 독점과 이익 추구를 위한 핑계로 간주함
- 위선 논란 — 규제를 주장하면서 정작 본인은 로비와 시장 지배력 강화에 집중함
- 기술적 회의론 — 좁은 영역의 초지능 주장이 사실상 AGI 달성 실패를 의미한다고 지적함
OpenAI 공동 창업자이자 CEO인 샘 올트먼이 최근 스탠퍼드 경영대학원의 "View from the Top" 시리즈에 출연해서 AI의 발전 방향, 안전 문제, 조직 변화, 그리고 개인적인 성장에 대해 깊이 있는 대화를 나눴어.
올트먼은 OpenAI가 원래 순수 연구소로 시작했다고 털어놨어. 팀원들은 초지능이 개발되기만 하면 상용화나 제품화는 어떻게든 알아서 해결될 거라고 순진하게 믿었거든. 근데 기술이 실제로는 예상과 완전히 다르게 흘러가면서 2020년쯤 회사가 방향을 확 틀어야 했고, ChatGPT 출시 이후 폭발적으로 성장하면서 OpenAI는 하룻밤 사이에 거대 기업으로 변해버렸지.
오픈 웨이트 모델과 안전 사이의 긴장에 대해 올트먼은 오픈 웨이트 모델이 사회적으로 엄청난 가치를 지닌다는 점은 인정했어. 하지만 전 세계적인 사이버 방어 시스템과 생물 보안 장치가 충분히 강화되기 전까지는, OpenAI의 현재 가장 뛰어난 내부 모델을 "책임감 있게 오픈 소스로 공개할 수는 없다"고 못 박았어.
2020년에 자신이 뭘 잘못 생각했냐는 질문에 올트먼은 AI 정렬 문제의 난이도를 너무 낮게 봤다고 인정했어. 지금 모델들이 기대 이상으로 정렬이 잘 되고 있긴 하지만, 이런 추세가 그냥 계속될 거라고 단정 짓는 건 위험하다고 경고했지. 그는 "지난 6개월간의 급격한 발전이 내 확신을 시험했다"면서, 수학적 추론 같은 좁은 영역에서는 이미 우리가 초지능을 손에 넣었고, 그 속도가 예상보다 훨씬 빨랐다고 말했어. 그러면서 현재의 글로벌 거버넌스 체계를 손보지 않으면 지금 같은 발전 속도를 유지하는 건 불가능할 거라고 경고했고, AI 발전 속도 조절에 대해 업계 차원의 진지한 논의가 필요하다고 강조했어.
Source:
- 오픈 웨이트 모델은 어느 정도 높은 수준의 성능까지는 사회를 위해 매우 중요해. [42:25]
- 모든 오픈 소스 모델을 금지하는 건 사회의 혁신과 자유에 엄청난 대가를 치르게 할 테니, 그렇게 해서는 안 돼. [38:23]
- 누군가 하지 않았으면 좋았을 법한 일들이 분명히 생길 거야. [38:51]
- 그 수준을 넘어서면 모델이 충분히 해를 끼칠 수 있기 때문에, 사람들이 마음대로 쓰게 내버려 둘 수는 없지. [39:22]
- 그렇다고 우리 컴퓨터에서 신경망을 돌리지 말아야 한다는 뜻은 아니야. [40:20]
- 우리가 가진 최고의 내부 모델을 책임감 있게 오픈 소스로 풀 수 있을 것 같지는 않아. 당분간은 말이지. [43:26]
