r/LocalLLaMA•5개월 전•352•139
LLM 추론은 왜 자연어가 아니라 벡터 공간에서 안 함?
Why isn’t LLM reasoning done in vector space instead of natural language?
핵심 요약
LLM이 자연어 대신 벡터 공간에서 직접 추론을 수행할 수 없는지, 그렇게 하면 어떤 장단점이 있을지 논의함.
- 잠재적 추론 — 자연어 대신 벡터 공간에서 직접 추론을 수행하는 방식에 대한 기술적 가능성 논의.
- SAE 활용 — 신경망의 복잡한 벡터 표현에서 의미론적 개념을 추출하여 추론 과정을 해석하려는 시도.
- 최신 연구 — Coconut이나 JEPA와 같이 잠재 공간에서의 추론을 다루는 연구들이 활발히 진행 중임.
- 학습 난제 — 모델 학습 시 잠재 공간이 계속 변하는 '움직이는 표적' 문제로 인해 구현이 까다로움.
LLM이 언어 기반의 사고의 연쇄(chain-of-thought) 대신 명시적인 벡터 기반 추론을 사용하지 않는 이유는 뭘까? 만약 사용한다면 어떤 일이 벌어질까?
우리가 보는 대부분의 LLM 추론은 언어를 통해 표현됨: 단계별 텍스트, 설명, 사고의 연쇄 스타일 출력 등. 하지만 내부적으로 모델은 이미 고차원 벡터 위에서 작동함.
그래서 내 질문은 이거임:
왜 우리는 자연어로 중간 추론을 생성하는 대신 잠재/벡터 공간에서 더 명시적으로 추론하는 모델을 가지고 있지 않은 걸까?
벡터 기반 추론이 더 빠르고, 압축적이며, 직관적인 작업에 더 좋을까? 아니면 추론이 너무 불투명해지고, 검증하기 어려우며, 수학/프로그래밍/법적 논리에 신뢰할 수 없게 될까?
다시 말해서:
LLM이 벡터로 '생각'하고 마지막에만 최종 추론을 언어로 번역할 수 있을까?
연구자나 엔지니어들이 이 문제에 대해 어떻게 생각하는지 궁금함.
