Apple has new Mac app coming to make running local AI models easy
애플의 새로운 로컬 AI 실행 앱 'Harbor'에 대한 커뮤니티의 회의적인 반응과 기존 도구들과의 비교가 이어지고 있습니다.
9to5mac.com
원문 사이트로 이동
애플의 로컬 AI 앱 출시 소식에 대해 에이전트 마켓플레이스에 대한 기대감과 하드웨어 판매 전략이라는 분석이 공존하며, 기존 로컬 AI 도구들의 편의성과 비교하는 반응이 나타나고 있습니다.
부정적인 의견이 많지만, 애플이 사용자들이 직접 로컬 LLM을 돌릴 수 있게 노력하는 건 올바른 방향으로 나아가는 큰 발걸음이라고 생각함. 이렇게 거대한 기업이 로컬 LLM을 접근하기 쉽게 만드는 데 힘을 쏟는 건 환영할 일임. 애플은 그냥 클라우드 AI 서비스에만 집중할 수도 있었는데, 굳이 여기에 자원을 투자하는 건 정말 대단하다고 봄.
에이전트를 위한 애플 앱스토어를 상상해 봐. 개인 비서를 넣고 공식 MCP 마켓플레이스를 이용하는 거지. 인테리어 디자인이나 3D 프린팅, 최적의 호텔 요금 검색 같은 특정 작업을 수행하도록 로컬 모델을 파인튜닝해 주는 앱들이 있는 거야.
그러면 모두가 자기만의 에이전트를 갖게 되고, 기업들은 그 에이전트의 성능을 높여주는 서비스를 판매하겠지.
내가 완전히 틀렸을 수도 있지만, 소프트웨어/앱 형태의 마켓플레이스가 지금 가장 부족한 부분 중 하나라고 봐.
오픈 소스 레포를 뒤지고, 리버스 엔지니어링을 시도하고, 가이드라인도 없거나 엉망으로 설계된 가이드라인만 있는 상태로 뮤즈(muse)나 닷(dot) 같은 모델을 야생에 풀어놓는 건 사용자 친화적이지도 않고 사람들이 쉽게 신뢰할 수 있는 것도 아니야.
하지만 사람들이 뭘 신뢰할지는 알지. 애플페이로 한 번 결제해서 항공권을 사고, 24시간 내 취소/환불이 보장되는 시스템 말이야. 애플의 쉬운 UI로 결제와 환불 정책을 처리하고, 애플이 해당 MCP나 앱이 검증된 공식 업체인지 확인해 준다면 사람들이 안심하고 쓰겠지.
애플이 클라우드 AI 서비스에만 집중할 수도 있었을 텐데, 굳이 이런 쪽에 자원을 투자하기로 결정한 건 정말 대단하다고 생각해.
애플의 주력 사업은 하드웨어 판매야. 새로운 시리를 돌릴 때마다 애플이 너 대신 구글에 돈을 지불하는 꼴이지.
그러니 겉보기만큼 자비로운 건 아니겠지만, 로컬 LLM에 대해 더 많은 사람이 알게 되는 건 우리한테 좋은 일이니까 환영할 만해.
걔네 주력 사업은 하드웨어 파는 거잖아. 새로운 시리 돌릴 때마다 걔네가 너 대신 구글에 돈을 내는 꼴이지.
애플은 생태계를 하나로 묶는 걸 목숨처럼 여기지. 머지않아 애플도 사용자가 시리를 집에 있는 맥에서 돌아가는 로컬 모델에 연결할 수 있게 해주는 게 낫겠다는 걸 깨달을 거라고 봐.
Harbor는 당신의 Mac을 개인용 AI 추론 서버로 바꿔줍니다. Apple Silicon에서 오픈 웨이트 모델을 로컬로 실행하세요. 데이터는 하드웨어를 떠나지 않으며 클라우드로 전송되는 것도 없습니다. 여러 대의 Mac을 Thunderbolt 5로 연결해 통합 메모리를 공유함으로써, 단일 컴퓨터로는 불가능한 대규모 모델과 높은 동시성을 구현할 수 있습니다.
이건 Exo를 좀 더 사용자 친화적으로 만들려는 시도인 것 같네.
Exo는 별로니까 이건 환영함
애플이 집에서 모바일로 접속 가능한 초개인화 LLM을 아주 쉽게 돌릴 수 있게 만드는 건 내가 수년 전부터 예상했던 거임. 이건 고사양 컴퓨터를 엄청나게 팔아먹을 수 있는 초프리미엄 서비스지.
리눅스랑 엔비디아 카드 돌리면서 겪는 온갖 난리보다 훨씬 편한 건 확실함.
살 돈이 없는데 그게 무슨 소용임? 512GB M5 기다렸더니 가격이 BMW M5랑 똑같던데.
잘 모르겠는데, 올해 초까지만 해도 다들 Exo를 엄청나게 찬양하지 않았나? 무슨 일 있었음?
Harbor라는 이름의 또 다른 AI 툴이 나왔네
이거 구글링하면 진짜 재밌겠네...
우리 RAM을 샘 와이즈먼 경에게 바쳐야 하는 거 아님? 난 죄짓기 싫고 내 통합 메모리는 나만 쓰고 싶다고!
LM Studio보다 더 간단할 순 없지. ROCm을 빌드하고 LM Studio용 AppImage를 가져오는 bash 스크립트를 5줄 정도로 짤 수도 있는데.
Mac Mini에서 로컬 LLM을 완벽하게 돌리고 다른 애플 기기에서도 쓸 수 있게 된다면, 드디어 안드로이드에서 아이폰으로 갈아탈 이유가 생길지도 모르겠네.
Anthropic의 모델이 안전을 명목으로 성능을 의도적으로 제한하고 있다는 의혹에 대해 사용자들의 비판이 이어지고 있습니다.
Anthropic의 모델이 안전을 명목으로 성능을 의도적으로 제한하고 있다는 의혹에 대해 사용자들의 비판이 이어지고 있습니다.
ChatGPT의 기존 음성 모드 삭제 소식에 사용자들의 불만과 우려가 쏟아지고 있습니다.
ChatGPT의 기존 음성 모드 삭제 소식에 사용자들의 불만과 우려가 쏟아지고 있습니다.
Anthropic의 새로운 모델 Fable 5.2가 출시되었으며, 사용자들은 모델 성능과 리셋 정책에 대해 논의 중입니다.
Anthropic의 새로운 모델 Fable 5.2가 출시되었으며, 사용자들은 모델 성능과 리셋 정책에 대해 논의 중입니다.