r/LocalLLaMA•29일 전•31•5
아이폰 16에서 Arctic Embed와 Bonsai 8B를 사용한 로컬 문서 추출 데모 (KernelAI 앱)
Demo of local document extraction (52 pages) using Arctic Embed and Bonsai 8B on an Iphone 16 (KernelAI app)
핵심 요약
아이폰 16에서 로컬 LLM을 구동해 52페이지 문서를 추출하는 KernelAI 앱의 기능을 소개함.
- 로컬 LLM 구동 — 아이폰 16에서 8B 모델과 문서 추출 기능을 동시에 실행함
- KernelAI 앱 — 웹 검색, 문서 추출, 모델 임포트 기능을 지원하는 무료 앱
- iOS 지원 — Apple 파운데이션 모델을 활용해 별도 설치 없이 사용 가능
- 안드로이드 출시 — 2주 내로 안드로이드 버전 출시 예정
다들 안녕,
KernelAI 모바일 앱에 있는 개꿀 기능 하나 공유하려고. 거의 모든 모델에서 다 돌아가고, 8B 모델이랑 추출(extraction) 기능을 동시에 돌릴 수 있는 게 진짜 대박임. IOS 26 쓰는 형들은 별도 설치 필요 없는 애플 파운데이션 모델로 바로 써볼 수 있으니까 한번 해봐!
참고로 KernelAI v2 나왔는데 웹 검색, 문서 추출, 모델 직접 불러오기 같은 쩌는 기능들 많이 추가됐음.
당연히 앱은 무료고, 광고도 없고, 귀찮은 것도 없음. 앞으로도 계속 이럴 거니까 걱정 말고.
❤️
