It is what it is 💀
수학계의 난제를 해결하려는 OpenAI의 태도와 AI의 수학적 성과를 둘러싼 논쟁이 벌어지고 있습니다.
AI의 기술적 가속화가 가져올 사회적 변화에 대해 기대와 우려가 섞인 논쟁이 이어지고 있습니다.
대부분의 수학자는 AI를 통한 학문적 진보를 반대하지 않음. 하지만 OpenAI와 그 직원들이 다음과 같이 행동하지 않았으면 좋겠음:
자신들 또한 거인의 어깨 위에 올라탄 난쟁이임을 인정할 것. 이전 과학자들의 모든 업적을 가져와 그 위에 쌓아 올린 것임. 그에 걸맞게 행동하길.
돌파구가 임박했다는 걸 알고는, 이 유망한 경로를 이용해 수만 개의 에이전트를 문제에 투입함. 그리고는
동료 중 한 명에게 논문에 공동 저자로 이름을 올리라고 압박함, 단 그가 Anthropic에서 일하는 파트너를 배신하는 조건으로.
발견한 내용을 제대로 이해하고 설명하기보다는, 린 프루프(lean proofs)를 사용해 수백 개의 해결책을 무작정 밀어붙이지 말 것
문제는 AI가 아니라 사람들이 멍청하게 구는 게 문제인 것 같은데...
우린 이제 완전히 자동화된 멍청이 짓을 하고 있지
AI는 결국... 기다려봐... 사람들에 의해 만들어지고 통제되는 거야.
레딧 유저들의 이런 인식 부족은 진짜 놀라울 따름임.
수정: 통제된다고 말했는데, 부디 그게 계속 유지되길 바랄 뿐 🤞
LLM은 항상 이래왔지. 강력한 기술이 그걸 통제할 능력도 없는 최악의 인간들 손에 들어간 꼴이야.
마지막 게 제일 중요함. 만약 우리가 뭔가를 해결하긴 하는데 이해를 못 한다면, 우린 우리가 이해하지 못하는 시대로 흘러가게 될 거고, LLM조차 감당하지 못할 상황이 올 수도 있음.
근데 풀고 나면 이해하기 더 쉽지 않나?
최고의 댓글
테렌스 타오가 열대우림 위를 나는 헬리콥터 비유를 썼지.
물론 폭포까지 데려다줄 순 있겠지만, 정작 숲에 대해 뭘 배웠지? 별로 배운 게 없지.
마치 망누스 칼센이 체크메이트를 앞두고 있는데, 그 사람 대신 말을 옮겨놓고는 "내가 이겼다"라고 말하는 꼴이지.
내 말은, 이 문제에 신경 쓰는 건 수학자들뿐이라는 거임. 이런 식으로 행동하는 수학자들을 비판하는 사람들은, 모든 미해결 문제의 답과 증명을 간절히 알고 싶어 하는 거대한 집단이 따로 있고, 사악한 수학자들이 그 지식을 독점하며 '진보를 막고 있다'고 생각하는 모양임. 하지만 사실 수학자들 말고는 이런 문제들에 관심 있는 사람이 거의 없음.
체스 클럽을 생각해 보셈. 사람들이 즐겁게 체스를 두고 있는데, 체스 엔진을 개발한 어떤 놈이 밖에서 계속 최선의 수를 고래고래 소리 지르는 거임. 그래서 체스 선수들이 빡쳤는데, 뜬금없는 제3자들이 선수들이 '진보를 막는다'며 선수들한테 화를 내는 상황이지.
내 관점이라는 건 아니지만(아님), 많은 수학자가 지금 이렇게 느끼고 있을 거라 생각함.
사람들이 즐겁게 체스를 두고 있는데
아니, 이 비유에서 그들은 최선의 수를 찾는 대가로 돈을 받고 있음
그러니 대안을 선택하셈: 이 문제들을 푸는 게 쓸모가 있든 없든. 쓸모가 있다면 수학자들은 아무것도 안 하면서 돈을 받는 거고, 쓸모가 없다면 OpenAI가 인류를 위해 가치 있는 일을 한 거임.
수학에는 적용 가능성이 각기 다른 수많은 하위 분야가 있어.
정수론도 예전에는 쓸모없는 두뇌 유희로 여겨졌고, 어떤 거물급 수학자는 자기 연구에서 적용 가능성을 철저히 배제한다고 주장하기도 했지. 근데 결국 현대 사회에서 가장 영향력 있는 수학 분야 중 하나가 됐잖아.
너한테 더 익숙할 만한 다른 비유를 들어볼게. 바로 등산이야. 사회적으로는 쓸모없어 보이지만, 누군가는 등산 과정의 아름다움 때문에 좋아하고, 누군가는 건강해지려고 해. 그리고 아주 극소수만이 등산을 직업으로 삼아 남들을 가르치며 돈을 벌지.
등산을 아예 없애버리고 사람들한테 정상에서 찍은 파노라마 사진만 보여주면 그만 아니냐고? 이미 있는 건데 굳이 왜 고생하냐고? 사람들이 더 원한다면 케이블카를 싸게 제공하면 될 수도 있겠지. 물론 그게 먹힐 수도 있겠지.
알다시피 유용성이라는 건 매우 주관적인 거야. 난 자본주의 주식 시장 전체가 사회적으로 쓸모없다고 주장할 수도 있어. 하지만 어떤 억만장자들은 자기 자산 숫자가 올라가는 걸 보고 싶어 하니까 지금 우리가 이렇게 살고 있는 거지.
OpenAI가 발전에 기여하지 않는다는 말을 하는 게 아니야. 만약 그들의 솔루션이 새로운 기술이나 일반화 가능한 정리를 암시한다면 그건 매우 가치 있는 일이지. 중요한 건 바위를 오르는 것 자체가 아니라, 다른 사람들이 비슷한 바위를 오를 때 사용할 수 있는 '바위를 오르는 기술'이 유용한 거야.
이런 문제들이 수학자나 수학 애호가들한테만 도움이 된다고 말하는 건 틀렸어. 수학은 물리학, 화학 등 다른 과학 분야의 근간이라는 걸 이해해야 해. 지식이 발전한다는 건 모든 분야에 장기적인 영향을 미치고, 모두가 사용할 수 있는 더 나은 것들을 발명하게 된다는 뜻이야. 물론 나를 포함한 99.99%의 사람들이 지금 당장은 이 논문들을 이해할 수 없다는 건 알아. 하지만 10년 뒤에는 모두가 이 발전의 혜택을 누리게 될 거야.
그러니까... 이제 수학이 스포츠가 된 건가? 인류의 발전을 선수들의 재미 때문에 가로막아야 한다고? 체스 게임의 목적은 선수들이 재미를 느끼는 거지, 인류의 지식을 발전시키는 게 아니야. 수학을 체스에 비유하는 것 자체가 네가 이 문제에 대해 잘못된 사고방식을 가지고 있다는 증거지. 더 적절한 비유는 암 연구야. 외부에서 누군가 암 치료법을 알아내서 그걸 소리 높여 외치고 다니는 게 나쁜 일인가? 병원이나 연구소들이 자기들 재미를 망친다고 불평해야 할까? 말도 안 되는 소리.
OpenAI의 수학 문제 해결을 비판하는 성명에 대해 수학계의 권위주의적 태도라며 반발하는 여론이 지배적입니다.
OpenAI의 수학 문제 해결을 비판하는 성명에 대해 수학계의 권위주의적 태도라며 반발하는 여론이 지배적입니다.
Saluki 27B 모델의 성능과 명칭에 대해 마케팅 과장 논란과 양자화 방식에 대한 기술적 회의론이 제기됨.
Saluki 27B 모델의 성능과 명칭에 대해 마케팅 과장 논란과 양자화 방식에 대한 기술적 회의론이 제기됨.
