Fable 5로 구축한 심층 추론 머신
Fable 5 Built a Deep Reasoning Machine.
핵심 요약
칼 포퍼의 인식론을 기반으로 LLM이 스스로 논쟁하며 추론하는 시스템을 개발했습니다.
- 심층 추론 시스템 — LLM이 스스로 가설을 세우고 비판하며 검증하는 추론 프레임워크임
- 칼 포퍼 인식론 — 반증 가능성을 통해 가설을 검증하고 생존한 가설만 남기는 방식을 채택함
- 투명한 로그 기록 — 모든 추론 과정을 바이트 단위로 기록하여 재현 및 검증이 가능함
- 수학적 접근 — 비전공자가 수학적 사고를 바탕으로 LLM의 논리적 한계를 탐구함
Claude의 Fable 5를 사용하여 이것을 만들었습니다. 칼 포퍼의 인식론에 기반한 추론 머신입니다.
Repo Specs 여기
Research Agenda 여기
DeepReason은 LLM이 스스로 논쟁하게 만드는 하네스입니다. 어려운 "왜"라는 질문을 던지면, 모델이 대담한 설명들을 추측하게 하고 그것들을 비판하게 합니다. 모든 후보는 어떤 증거가 자신을 반박할 수 있는지 명시해야 하며, 약한 가설은 논파되고 살아남은 가설들은 서로 경쟁합니다. 모델이 해결책을 제시하면, 결정론적 하네스가 모든 기록을 관리하고 판단합니다.
모든 내용은 **추가 전용 로그(append-only log)**에 기록되어 바이트 단위로 재현 가능하므로, 모델이 내놓는 모든 주장은 재도출되거나 반박될 수 있습니다. 출력물은 자신감 넘치는 문단 하나가 아니라, 어떤 설명이 검토를 통과했고 어떤 설명이 왜 죽었는지, 그리고 증거가 결정할 수 없는 부분이 어디인지 보여주는 지도입니다. 또한 모델이 계속 탐색 중인지 아니면 좋아하는 아이디어만 맴돌고 있는지 측정하고, 정체될 때 이를 포착합니다. 약 900줄의 소형 버전인 MiniReason은 몇 센트의 비용으로 전체 과정을 실행합니다.
공개: 저는 탐구하고 싶은 개인적인 연구 의제가 있습니다. 약 10년 전, 저는 칼 포퍼 인식론의 계산 가능성에 대한 논문을 썼습니다. Fable 5 덕분에 이제야 구체적인 것을 만들 수 있게 되었습니다.
저는 수학을 공부했습니다. 컴퓨터 과학자나 소프트웨어 엔지니어가 아니기 때문에, 커뮤니티의 도움을 주시면 정말 감사하겠습니다.
