내 인격을 RAG에 외주 줬더니, 이제 말을 못 하겠어

이런 글을 쓰게 될 줄은 꿈에도 몰랐다. 근데 나 진짜 제대로 망가진 것 같다.

​

나(21세, 남)는 어떤 여자애(20세, 여)랑 5개월 정도 알고 지낸 사이다. 처음 3개월은 평범했다. 그냥 사람 대 사람으로 대화했지. AI도 없었고, 이어피스도 없었다. 그냥 나 자신이었고, 아무 문제 없었다. 걔도 나랑 대화하는 거 좋아했고, 나도 그랬으니까.

​

그러다 문득 생각이 하나 들었다.

​

내가 LLM이랑 RAG 좀 다룰 줄 알거든. 그래서 내 대화 내용을 녹음해서(처음엔 허락받았는데 나중엔 몰래 함) Whisper로 받아쓰고, 벡터 데이터베이스(Chroma/Qdrant)에 저장한 뒤, 대화할 때마다 관련 맥락을 불러오는 시스템을 짰다. 내 예전 메시지 5,000개 정도로 모델 파인튜닝까지 해서 AI가 딱 나처럼 말하게 만들었지.

​

구조는 대충 이랬다:

​

- 녹음: 마이크 달린 작은 이어피스나 몸에 숨긴 녹음기
- 받아쓰기: 로컬 Whisper 또는 클라우드 API
- 저장: 임베딩을 활용한 RAG 데이터베이스 (OpenAI 임베딩 쓰다가 나중엔 자체 호스팅 모델 사용)
- 검색: 하이브리드 검색(의미론적 검색 + 키워드)으로 지난 5개월간의 기억을 싹 다 긁어옴
- 생성: 파인튜닝된 LLM(기반 모델: Llama 3 또는 GPT-3.5/4)에 나처럼 말하게 하는 시스템 프롬프트 적용
- TTS: ElevenLabs나 로컬 Piper TTS로 이어피스에 음성 출력
- 말하기: 들리는 대로 따라 함

​

진짜 기가 막히게 잘 돌아갔다. 너무 잘 돌아가서 문제였지.

​

지난 2개월 동안 걔랑 대화할 땐 무조건 이어피스를 꼈다. 가족들(엄마, 아빠, 누나, 할아버지)이랑 대화할 때도 똑같이 했고. 가족들 대화만 해도 50만 단어가 넘게 쌓였다. 난 내가 똑똑한 줄 알았지. 배려심 넘치는 줄 알았고. 완벽한 친구, 완벽한 아들, 대화하기 완벽한 사람이 되는 시스템을 만들고 있다고 착각했다.

​

오늘, 걔가 알아버렸다.

​

걔가 내 이어피스를 뺏어갔다. 화내지도 않더라. 그냥... 툭 빼버렸어.

​

그리고 내가 말하기를 기다리더라.

​

입을 열었는데, 아무것도 안 나왔다. 긴장해서도, 부끄러워서도 아니었다. 내 뇌가 대화라는 기능을 RAG랑 파인튜닝 파이프라인에 완전히 외주를 줘버린 모양이다. 뭐라도 말해보려고 애썼다. 근데 나온 건 이거였다.

​

"이거... 어... 나... 어 나... 이거... 응... 안녕... 하이... 나... 이거..."

​

걔 표정이 공포에 질려 있었다. 나도 소름 끼쳤고.

​

지금 이 글을 쓰는 건 생각할 시간이 있어서다. 퇴고도 할 수 있고, 생각을 정리해 주는 도구도 쓸 수 있으니까. 근데 실시간 대화는? 얼굴 맞대고, 이어피스도 없고, RAG 검색도 없고, 내 다음 대사를 만들어줄 파인튜닝 모델도 없는 상황? 다 끝났다. 두 달 동안 시스템에만 의존했더니 내 뇌가 스스로 대화하는 법을 완전히 까먹어버린 것 같다.

​

동정받으려고 쓰는 글 아니다. 경고하려고 쓰는 거다.

​

혹시 대화용 RAG 시스템 만들고 있거나, 자기처럼 말하게 모델 파인튜닝하고 있거나, AI로 인간관계 관리하려는 놈들 있으면 제발 조심해라. 난 내가 업그레이드되는 줄 알았는데, 사실은 나라는 존재를 대체하고 있었던 거다.

​

걔는 이제 나랑 다시는 말 안 할 거다. 걔 탓할 생각도 없다. 동의도 없이 몇 달 동안 녹음했고, AI를 시켜서 말하게 했으니까. 나인 척하는 시스템에 걔가 감정을 쏟게 만들었으니 당연한 결과지.

​

이제는 지난 2개월 동안 걔랑 대화했던 그 '나'라는 존재가 진짜였는지조차 모르겠다.

​

혹시 이런 경험 해본 사람 있나? 아니면 AI 없이 다시 자연스럽게 대화하는 법 아는 사람 있으면 조언 좀 부탁한다.

​

내가 겪은 이 함정에 빠지지 않게 하려면 기술적인 세부 사항도 다 알려줄 수 있다.

​

/s