프롬프트 엔지니어링은 죽었다. 개인화된 컨텍스트만이 유일한 경쟁력이다.
Prompt engineering is dead. Personal context is the only edge left.
핵심 요약
범용 모델의 지능이 상향 평준화됨에 따라, 프롬프트 기술보다는 개인화된 데이터와 컨텍스트를 활용하는 것이 핵심 경쟁력이 되었다는 주장.
- 지능의 상품화 — GPT-4o나 Claude 3.5 같은 모델의 접근성이 높아지면서 프롬프트 엔지니어링의 가치가 하락함.
- 개인화된 컨텍스트 — 챗봇이 기억하지 못하는 사용자의 작업 맥락을 외부 데이터베이스로 보완하여 활용함.
- 데이터 기반 워크플로우 — Recall 같은 도구를 통해 개인의 연구 자료와 노트를 모델과 연동하여 답변의 질을 높임.
- 차별화 전략 — 모두가 동일한 모델을 사용하는 상황에서 개인의 고유한 데이터를 결합하는 것이 유일한 차별점임.
최근 이 문제에 대해 많이 생각하고 있어. 지능은 기본적으로 상품화되었지. 누구나 GPT-4o나 Claude 3.5에 접근할 수 있으니, 경쟁의 장은 평준화된 셈이야. 영리한 프롬프트를 작성하는 건 1년 전만큼 대단한 능력이 아니게 됐어.
ChatGPT에 대한 내 가장 큰 불만은 항상 매일 아침 완전한 기억상실증 상태로 깨어난다는 점이었어. 그래, 커스텀 인스트럭션으로 톤을 설정하는 건 괜찮지만, 내가 실제로 작업 중이거나 시간이 지나면서 생각하고 있는 내용에 대한 진짜 지식을 주지는 못하거든.
그래서 커스텀 인스트럭션 블록에 모든 걸 쑤셔 넣는 걸 그만뒀어. 이제 내 전체 워크플로우는 챗봇 외부에서 컨텍스트를 유지하는 방식으로 구축되어 있어. 나는 온라인에서 읽고 조사하는 모든 것을 개인 데이터베이스로 만들기 위해 Recall을 사용하고 있지.
멋진 점은 챗 인터페이스가 내 개인 데이터베이스와 실시간 인터넷을 동시에 대화할 수 있다는 거야. 그래서 ChatGPT에게 프로젝트에 대해 상기시켜 주는 대신, 그냥 이렇게 물어볼 수 있지. "지난주에 저장했던 벡터 데이터베이스에 관한 기사들을 바탕으로, 어제 내 노트에 설명했던 프로젝트에 가장 적합한 건 뭐야?"
내가 소비한 자료에서 직접 가져오기 때문에 결과물이 엄청나게 일반적이지 않아. 모두가 똑같은 기본 모델을 사용하는 상황에서 진짜 경쟁력을 얻는 유일한 방법처럼 느껴져. 다른 사람들도 이런 시스템을 구축하고 있어? 이게 다음 단계의 논리적인 흐름인 것 같아.
