오늘 AI를 처음 시작한다면, 무엇부터 배우시겠습니까?

매주 쏟아지는 모델들에 현혹되지 말고, 이미 알고 있는 언어로 API 호출부터 시작하세요. 그냥 키를 발급받고, 요청을 보내고, 응답을 파싱해서 아주 단순한 기능을 수행하는 작은 도구를 만들어 보세요.

그러면 프롬프트, 토큰 제한, 그리고 AI가 실제로 어떻게 실패하는지 이해하게 될 겁니다. 유행하는 논문들을 쫓아다니는 대신, 실제 벽에 부딪히면서 나머지를 배우게 될 거예요.

맞아. 가장 빨리 배우는 방법은 보통 AI에 대해 공부하는 걸 멈추고 직접 뭔가를 만들어 보는 거야. 작은 도구를 만들다가 갑자기 컨텍스트 제한에 걸리거나, 쓰레기 같은 결과물을 내놓거나, 자신만만하게 작업을 잘못 이해할 때 훨씬 더 많이 배우게 되지. 그런 실패를 겪어야 단순히 용어만 수집하는 게 아니라 실제로 무슨 일이 벌어지는지 이해하게 돼. '이번 주의 모델' 같은 건 네가 준비됐을 때도 여전히 거기 있을 테니까 걱정 마.

내가 오늘 처음부터 다시 시작한다면, 'AI'를 하나의 거대한 주제로 배우려는 유혹을 뿌리칠 거야. 용어 배우는 데만 6개월을 쓰고도 정작 쓸모 있는 건 하나도 못 만들 수 있거든. 나라면 아마 이런 순서로 할 것 같아: LLM 기초 → API → 툴/함수 호출(function calling) → RAG → 에이전트 → 평가/배포.

먼저 LLM이 실제로 뭘 하는지, 토큰이나 컨텍스트 윈도우가 뭔지, 왜 hallucination이 발생하는지, 모델이 뭘 잘하고 뭘 못하는지부터 이해해. 그다음 API를 통해 모델을 호출하는 법을 배우고...

모든 AI 도구를 최대한 활용하기 위해 프롬프트를 제대로 작성하는 법이요.

위에서 말한 API 호출 한 번 해봤으면, 이제 작은 작업 하나를 정해서 툴 호출 루프를 직접 짜봐. 예를 들면 메모 폴더 검색 같은 거. 모델 호출하고, 모델이 요청한 검색 실행하고, 그 결과를 메시지 기록에 추가한 다음 다시 모델을 호출하는 거지. 모델이 툴 호출 안 하고 답변하면 멈추게 하고, 코드에 단계 제한도 걸어보고. 그다음엔 일부러 엄청 큰 검색 결과를 던져줘서 기록이 쌓일 때 뭘 남길지 결정해 봐. 원래 작업 내용을 유지하면서 말이야. 그럼 프레임워크가 뭘 하는지 이해하게 될 거임...