llama.cpp를 활용한 전문가 확장(Expert expansion)

난 1986년부터 공개 코드를 배포해왔는데, 방금 진지하게 오픈소스는 죽었다고 글을 올렸어.

내 Forgejo에 많은 프로젝트를 올리지만, 처음으로 다른 사람들이 이걸 쓰든 말든 상관없고 기대도 안 하게 됐어.

https://blog.troed.se/posts/open_source_is_dead_whats_the_fuss/

맘에 드네. 앱을 수명이 아주 짧은 일회성 문제 해결 도구로 보는 내 생각과 완전히 일치함.

그 방향으로 가고 있다고 생각하긴 하는데, 소규모 프로젝트에만 해당될 듯. 비용이랑 시간은 절대 0이 될 수 없고, 큰 프로젝트에선 체감이 확 될 거거든. 그래서 우리가 여전히 사전 컴파일된 바이너리가 있는 패키지 매니저를 쓰는 것과 같은 이유로, FOSS도 계속 존재할 거야. 처음부터 전부 다시 빌드하는 건 느리고 낭비니까.

난 사실 레딧에서 사람들이 AI로 만든 프로젝트들 보면서 내 프로젝트 아이디어 얻거든. 그 사람들이 프로젝트에 쏟은 디버깅 과정은 뭐든 다 고맙게 생각함. 왜냐면 내가 직접 버그 찾느라 토큰 낭비 안 해도 되니까. 결국 AI가 만든 거긴 하지만, 가끔은 몇 번의 개선 과정을 거친 거라 내 시간, 토큰, 전력을 아껴주거든.

내가 보기엔, 요즘 서구권의 다른 대다수 답변들과 마찬가지로, 답은 더 많은 자동화야. 네가 설명한 것 같은 작업에 왜 다른 LLM이 검토하고 거부하거나, 결국 승인까지 할 수 없는지 잘 모르겠어. 만약 tokenmaxxing이 너무 비싸다면, PR이 승인되기 전에 에이전트가 코드 리뷰를 수행하도록 요구하는 다른 댓글의 의견이 타당해 보여.

난 그저 내 취미 연구 프로젝트를 위한 협업자를 찾고 있을 뿐이야. 로컬 LLM 추론의 미래에 기여하는 게 유일한 주된 목표라고.

맞아, 다른 버전보다 낫다고 주장하면서 보여줄 건 아무것도 없다는 게 진짜 어이없네.

z.code인데 배경에는 인간의 아이디어가 들어간 거지