수학 커뮤니티와 가까운 사람으로서, 환경 변화에 적응하는 데 어려움을 겪고 있어. 이 성명서가 매우 결함이 많고 그들의 요구사항에 전반적으로 반대한다는 점에는 동의해. 하지만 그들의 우려를 제대로 설명할 수는 있을 것 같아:
가장 큰 우려는 LLM이 수학 분야에서 단기적인 승리일지는 몰라도 장기적으로는 손실이 될 수 있다는 점이야. 수학 문제를 하나 풀면, 그냥 문제 하나를 푼 것뿐이지. 하지만 새로운 기법을 알아내면, 완전히 새로운 종류의 문제들을 풀 수 있게 돼.
여기엔 두 가지 문제가 있어. 첫째, LLM은 자신들이 새로운 기법을 발견했는지 설명하는 데 젬병이야. LLM에게 결과물을 검토하라고 시킬 수는 있고, 이게 문제를 어느 정도, 혹은 완전히 완화할 수도 있겠지. 하지만 원래 증명을 만들어낸 에이전트가 어떤 통찰의 순간을 가졌는데, 그 통찰이 영원히 사라져 버렸을 가능성도 있어.
더 큰 우려는 이 문제를 풀려는 실패한 시도들이 더 많은 도구를 만들어낼 수도 있었다는 점이야. 내 이해로는, LLM 이전에도 이런 일은 수없이 많았어. 우리는 LLM이 인간과 같은 방식으로 작동하는지, 아니면 기존 기법에만 의존해서 인간이 찾을 수 있는 새로운 기법을 찾아내지 못하는 건지 확신할 수 없어. 내가 지금 궤변을 늘어놓는 게 아니라, 우리는 LLM이 어떻게 통찰을 얻는지 이해하지 못하기 때문에, 우리가 깨닫지도 못한 채 다리를 불태우고 있는 건 아닌지 우려된다는 거야.
다른 주요 우려는 당연히 경제적인 문제지. 이미 낮은 임금을 받으면서도 자신이 즐기는 일을 해온 전체 직업군이 있어. 물론 취미로 즐길 수는 있겠지만, 단순히 다른 직업을 구하기 어려운 상황일 수도 있지. 나는 수학자는 아니지만 같은 처지이고, 불과 1년 전까지만 해도 내 일을 사랑했음에도 불구하고 지난 몇 달간 퇴직하고 싶다는 생각에 괴로워하고 있어.
LLM을 가르치는 도구로 쓰는 건 괜찮지만, 분야가 너무 빨리 변해서 그럴 여유가 없어. 오히려 모든 걸 LLM에 외주 주도록 내몰리고 있지. 그래서 가장 참신한 연구를 하는 것으로 알려졌던 사람들이 이제는 버튼 누르는 기계로 전락해 버렸어. 그게 그들의 문제처럼 보일지 몰라도, 만약 분야의 대다수가 그만두고 나서 LLM이 수학자들을 100% 대체할 수 없다는 게 밝혀진다면 그건 큰 문제야. 난 그들이 못한다는 게 아니라, 아직 모른다는 거야.
하지만 이런 문제들에 쉬운 답은 없다고 봐. 수학자들이 내놓은 요구사항은 논리적으로 문제를 해결하려는 노력이라기보다는 분노를 표출하는 것에 더 가까워.
OpenAI가 일을 처리한 방식이 최선은 아니라고 생각하지만, 왜 그랬는지는 이해해. 이상적인 세상이라면 LLM은 수학자들이 가지고 놀 수 있는 도구가 되었을 것이고, 수학적 해법은 점진적으로 발견되면서 변화를 이해하고 흡수할 시간과 공간이 주어졌을 거야. Anthropic은 어느 정도 그렇게 했지만, OpenAI는 말 그대로 Navier Stokes 문제를 풀기 위해 약 1,500만 달러를 썼어. 이건 단순히 수학을 발견하는 문제가 아니라, 두 가지를 말하는 권력 과시야: 우리는 돈으로 지적인 사람들을 대체할 수 있고, 너희는 이제 그 지능을 우리에게 의존하게 될 것이다. 이건 OpenAI의 목표와는 일치하지만, 인류의 목표와 일치하는지는 확신할 수 없어.
