LLM이 코딩을 그렇게 잘한다면...
If LLMs are so good at coding…
핵심 요약
LLM의 코딩 능력과 하드웨어 소프트웨어 생태계(ROCm vs CUDA) 간의 괴리에 대한 의문과 토론.
- CUDA 독점 — NVIDIA의 소프트웨어 생태계가 타사 대비 압도적임.
- LLM 한계 — LLM은 코딩 보조 도구일 뿐 복잡한 시스템 개선은 어려움.
- 시장 경쟁 — 소프트웨어 격차가 줄어야 하드웨어 가격도 합리화됨.
ROCm이나 인텔 스택 같은 것들이 왜 CUDA에 필적할 만큼 소프트웨어 생태계를 빠르게 개선하지 못하는 걸까? NVIDIA 소프트웨어가 타사 제품을 압도하는 한, 그들은 "그냥 잘 돌아가는" 제품이라는 이유로 엄청난 프리미엄을 계속 요구할 것이다.
이건 순수한 질문이다. 나는 지금까지 AI 작업을 위해 NVIDIA와 Apple Silicon을 사용해 왔지만, 이 서브레딧의 다른 사람들처럼 나도 가격이 더 저렴해졌으면 좋겠다. 시장에 진정한 경쟁이 생기기 전까지는 가격이 내려가지 않을 것이다.


