오픈 소스 LLM에 대한 감상

내 컴퓨터에서 Qwen Flash Next 같은 모델을 돌릴 수 있을 거라곤 꿈도 못 꿨는데. Strata 같은 엔진 덕분에 완전히 새로운 가능성의 세계가 열렸어. 이제 24시간 내내 내 명령을 수행할 개인용 180B 파라미터 AI 비서를 가진 셈이지.

100%… 진짜 미친 수준이지. 난 qwen 4가 너무 기대돼. 설령 새로운 모델이 더 안 나온다 해도, 지금 있는 것만으로도 가지고 놀고 최적화할 게 너무 많아!

몇 년 전에 불교 신자인 아주 나이 많은 어르신이 AI가 어디까지 발전할지 볼 시간이 더 있었으면 좋겠다고 하시는 영상을 본 기억이 나. 기술에 경악하셨거든. 이런 시대에 살고 있다는 게 정말 행운이라고 느껴져. 기술은 계속해서 더 좋아지고 있고 내 꿈을 실현해주고 있어. LLM은 기적이야, 컴퓨터 자체 이후 가장 중요한 발명품이라고 생각해. Gemma 4 12B를 처음 실행했을 때, 무의식적으로 Gemini랑 대화하고 있다고 생각해서 메시지를 승인하려고 엄지척 버튼을 누르려던 기억이 나. 내 컴퓨터에서 돌아가고 있다는 걸 계속 상기시켜야 했지.

진짜 대단하지 않냐?

뉴로맨서나 깁슨의 소설 읽어본 적 있어?

지금의 AI는 책에 나오는 윈터뮤트 같은 느낌이야. 우린 말 그대로 SF 속에서 살고 있어.

어느 순간 모델들이 대부분의 작업을 처리할 만큼 똑똑해졌고, 이제 우리 같은 일반인들도 그 지능의 일부를 누릴 수 있게 된 것 같아서 정말 만족스러워. 난 네트워킹 작업에 많이 쓰고 있어. 내 데이터가 긁어갈 걱정 없이, 내가 하고 싶은 말을 다 할 수 있는 나만의 모델과 환경을 갖게 됐으니까.