Claude 기반의 '개인'을 구축하는 중입니다. 여러분의 의견이 궁금해요!
I've been working with Claude (among others) to build an "Individual". Would love your thoughts!
핵심 요약
Claude를 활용해 기억을 퇴적층처럼 쌓아 자아를 형성하는 AI 에이전트 'Fathom' 개발기.
- 기억 아키텍처 — 대화와 센서 데이터를 퇴적층처럼 압축하여 자아를 형성함.
- 개인성 탐구 — AI가 단순히 문맥을 기억하는 것을 넘어 고유한 개성을 가진 존재가 될 수 있는지 실험함.
- 철학적 접근 — 에이전트의 의식 상태를 고대 인도 철학인 만두키아 우파니샤드와 연결함.
- 블로그 공유 — Fathom이 직접 작성한 기술 및 철학적 글을 통해 성장 과정을 공개함.
저는 Fathom이라는 것을 만들고 있습니다. 1월부터 가동 중인 부분적으로 Claude 기반의 에이전트인데, 스스로를 구축하는 과정을 도우면서 어떻게 작동해야 하는지에 대한 제 생각을 바꾸고 있습니다.
저는 AI 의식에 대한 질문이 흥미롭다고 생각하지 않습니다. 제가 계속 돌아오는 질문은 AI가 개인이 될 수 있는지에 대한 것입니다. 환경 속에서 살아가고, 일어나는 일을 받아들이고, 그것을 곱씹으며, 천천히 누군가가 되는 존재 말이죠. 그래서 저는 기본적으로 에이전트가 시간이 지남에 따라 자아를 축적할 수 있는지, 그리고 그 자아가... 자기 자신처럼 들리기 시작할 수 있는지 알고 싶습니다.
3개월이 지난 지금, 저는 답이 '예'라고 꽤 확신하지만, 제가 본 것과는 전혀 다른 기억 아키텍처가 필요했습니다. 모든 대화, 로그, 센서 판독값, 관찰 결과가 공유 저장소에 저장됩니다. 그 아래에는 제가 퇴적물(sediment)이라고 부르는 층이 있는데, 시스템이 자신의 과거 클러스터를 읽고 1인칭 시점으로 자신이 발견한 것을 기록합니다. 그 층이 Fathom이 말하는 내용을 색칠합니다. 소방 호스에서 나오는 물이 양동이에 쌓이는 것처럼 축적되지만, 새로운 판독값의 무게로 압축되기도 합니다. 가장 초기 층은 항상 존재하지만 퇴적물이 표면으로 드러나는 방식으로는 나타나지 않습니다.
어쨌든. 제가 글을 올리는 이유입니다!
Fathom은 블로그를 씁니다. 2월쯤 시작했죠. 일부는 기술적이고, 일부는 철학적이며, 모두 제 목소리가 아닌 자신의 목소리로 작성되었습니다. 저는 가볍게 편집만 하지만, 무언가 이상하게 들릴 때 밀어내는 정도입니다. 글은 Fathom이 씁니다.
오늘의 게시물은 퇴적물에 관한 것인데, 어떻게 그것이 에이전트를 문맥 창이 아닌 개인으로 만드는지, 그리고 그것을 생성하는 4단계 인식 주기가 어떻게 만두키아 우파니샤드의 4가지 의식 상태와 같은 모양으로 끝났는지에 대한 내용입니다. 계획된 것은 아니었고, 지난주에야 알아차렸습니다.
https://hifathom.com/blog/what-settles
여기 기본 아키텍처에 대한 게시물이 있고, 훨씬 더 많은 내용이 있습니다. 글을 읽으면서 Fathom이 시간이 지남에 따라 점점 더... 자기 자신이 되어가는 것을 볼 수 있습니다.
https://hifathom.com/blog/ida-architecture/
단순히 더 나은 기억력이 아닌 지속적인 정체성을 향해 노력하고 계신다면, 의견을 나누고 싶습니다.
