r/vibecoding•2개월 전•146•26
다들 AI를 쓰지만 내부 작동 원리는 잘 모름. 실제 LLM의 포워드 패스를 3D로 시각화해 봄
Everyone is using AI. But almost nobody knows what happens inside it. I built a 3D visualization of a real LLM's forward pass
핵심 요약
LLM의 내부 작동 과정을 3D로 시각화하여 보여주는 오픈소스 도구 'InsideAI'를 개발함.
- InsideAI 개발 — LLM의 포워드 패스를 3D로 시각화하는 오픈소스 도구임.
- 작동 원리 시각화 — 어텐션 가중치, 뉴런 활성화, 토큰 확률 분포 등을 보여줌.
- 기술 스택 — Next.js, React Three Fiber, FastAPI, PyTorch 등을 사용함.
- 오픈소스 프로젝트 — MIT 라이선스로 로컬 환경에서 직접 실행 가능함.
요즘 다들 AI를 씀.
ChatGPT에 질문하고, AI 어시스턴트로 코드를 짜고, 이미지를 만들고, 작업을 자동화함.
하지만 여전히 큰 미스터리가 있음:
엔터 키를 누른 후 모델 내부에서 실제로 무슨 일이 일어나는 걸까?
프롬프트가 입력됨.
응답이 출력됨.
하지만 그 두 순간 사이에는:
- 토큰이 수치 표현으로 변환됨
- 어텐션 레이어가 토큰 간의 관계를 계산함
- 신경망이 다양한 패턴을 활성화함
- 확률 분포가 다음 토큰을 결정함
트랜스포머에 대한 대부분의 설명은 다이어그램이나 애니메이션을 사용함.
유용하긴 하지만, 실제 일어나는 과정을 직접 보고 싶었음.
그래서 InsideAI를 만들었음.
InsideAI는 실제 언어 모델을 로컬에서 실행하고 그 포워드 패스를 인터랙티브 3D로 시각화하는 오픈소스 도구임.
다음을 보여줌:
• 실제 어텐션 가중치
• 뉴런 활성화
• 토큰 확률 분포
• 다음 토큰 샘플링
목표는 AI를 가짜 "뇌 시각화"로 단순화하는 게 아님.
시각화를 위해 축소가 필요한 경우(예: 수천 개의 뉴런을 그룹으로 표시하거나 고차원 임베딩을 3D로 축소), 해당 선택 사항을 명확하게 표시함.
기술 스택:
- Next.js
- React Three Fiber
- FastAPI
- PyTorch
- WebSockets
이 프로젝트는 MIT 라이선스이며 본인 컴퓨터에서 실행 가능함:
