r/LocalLLaMA•2개월 전•406•36

Felix Rieseberg(Anthropic, ElectronJS)가 자신만의 LLM을 처음부터 구축할 수 있도록 돕는 무료 Mac 앱을 출시함.

Felix Rieseberg (Anthropic, ElectronJS) has released a free Mac app designed to help people build their own LLMs from scratch.

핵심 요약

Mac에서 LLM을 처음부터 직접 학습시켜 볼 수 있는 교육용 도구 'Language Model Builder'가 공개되었습니다.

교육용 도구 — LLM을 처음부터 학습시키는 과정을 배우기 위한 Mac 전용 앱임.
성능 한계 — GPT-2 수준의 소규모 모델 학습에 적합하며 최신 대형 모델은 불가능함.
학습 경험 — 직접 모델을 밑바닥부터 학습시키는 것이 가장 좋은 공부 방법이라는 평가를 받음.
플랫폼 요구사항 — 현재 Mac 전용으로 출시되어 x86 환경 사용자들이 아쉬움을 표함.

공식 트윗: Announcement tweet here.

직접 링크: Language Model Builder

사이트 내용: "기본 설정을 사용하면 하루 만에 문맥이 맞고 문법적으로 올바른 다문단 텍스트를 작성하는 모델을 얻을 수 있습니다. MacBook Pro M5 Max에서는 약 일주일 만에 GPT-2-small급 모델(수십억 개의 토큰으로 약 1억~1억 5천만 개의 파라미터)을 학습시킬 수 있습니다. 당연한 소리겠지만, 실망하지 않으려면 알아두세요: 차고에서 Claude Fable 5나 ChatGPT 5.6 Sol을 학습시킬 수는 없습니다."

원문

커뮤니티 목록

r/LocalLLaMA•2개월 전•406•36

Felix Rieseberg(Anthropic, ElectronJS)가 자신만의 LLM을 처음부터 구축할 수 있도록 돕는 무료 Mac 앱을 출시함.

Felix Rieseberg (Anthropic, ElectronJS) has released a free Mac app designed to help people build their own LLMs from scratch.

핵심 요약

Mac에서 LLM을 처음부터 직접 학습시켜 볼 수 있는 교육용 도구 'Language Model Builder'가 공개되었습니다.

교육용 도구 — LLM을 처음부터 학습시키는 과정을 배우기 위한 Mac 전용 앱임.
성능 한계 — GPT-2 수준의 소규모 모델 학습에 적합하며 최신 대형 모델은 불가능함.
학습 경험 — 직접 모델을 밑바닥부터 학습시키는 것이 가장 좋은 공부 방법이라는 평가를 받음.
플랫폼 요구사항 — 현재 Mac 전용으로 출시되어 x86 환경 사용자들이 아쉬움을 표함.

공식 트윗: Announcement tweet here.

직접 링크: Language Model Builder

주요 댓글

r/localllama

해당 도구의 유용성에 대한 기술적 논의와 함께, 작성자 계정의 진위 여부를 의심하는 냉소적인 반응이 섞여 있음.

내 GPU랑 RAM도 직접 만들게 좀 도와줘라.

와, x86 기기용 버전도 있었으면 좋았을 텐데. 그래도 진짜 멋지네!

파이썬으로 할 수 있어. 이거 관련해서 몇 가지 버전 본 적 있음 https://medium.com/@a.arun283/pretraining-gpt-2-from-scratch-a812b4095675

아 맞음, 당연히 할 수 있지. 내가 말한 건 교육적인 부분인데, 여기선 모든 걸 아주 멋지고 고퀄리티로 설명해주는 것 같아서 말이야.

맥 전용인 게 그냥 마케팅 때문이 아니라 통합 메모리 때문임. 150M 모델 하나 훈련하는 데도 모델 전체를 메모리에 올려야 하는데, 8~12GB VRAM 달린 중급형 x86 GPU는 헉헉대는 반면 M 시리즈 기기는 그냥 시스템 RAM을 갖다 쓰니까. 큰 모델 로컬 추론이 맥에서 유독 잘 돌아가는 것도 같은 이유고...

최고 사양 맥북 프로를 샀는데.. 150M BERT급 장난감 모델 사전 학습시키느라 일주일 동안 아무것도 못 하네. 다 끝나도 모델이 횡설수설해서 아무 데도 못 쓸 텐데 말이야..

'임의의(Arbitrary)'라는 단어도 '말 그대로(literally)'처럼 의미가 변질된 건가?

진짜 맞는 말이긴 한데, 만약 메모리가 문제라면 이 커뮤니티 사람들 대부분은 로컬 컴퓨팅 파워가 있거나(아니면 최소한 클라우드 자원을 써서 작업할 수 있거나) 할 것 같음. 보통 로컬 추론 논의에서 클라우드는 좀 논란이 되기도 하지만, 교육용이라면 충분히 타당하다고 봄. 사실 애플 실리콘도 램 용량 큰 건 여전히 비싸긴 하니까. 같은 타겟층이라면 빠른 DDR 메모리나 VRAM을 쓸 수 있는 환경이거나, 아니면 온라인에서 싸게 자원을 빌릴 수 있는 사람들이겠지. (F …

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

ㅋㅋㅋ

웹사이트 디자인에서 대놓고 Fable 냄새가 나네.

맞아, Claude나 다른 코드 에이전트들이 템플릿 렌더링할 때 기본값으로 쓰는 전형적인 tailwindcss 클래스랑 객체들 보면 질려. 에이전트가 기본값만 뱉어내지 못하게 하려고 엄격한 규칙을 만드는 게 의외로 어렵거든. Claude Design 처음 나왔을 때 자기네 색상 체계로 기본 설정되던 그 이상한 점은 좀 웃겼지만.

직접 처음부터 학습해보는 것만큼 많이 배우는 건 없지. 학습용으로 이렇게 깔끔하게 만들어진 게 나와서 정말 좋네. x86 버전도 있으면 좋겠다.

진짜 멋지네! 공유해줘서 고마워

원문r/LocalLLaMA