Claude와 GPT의 AI 가스라이팅에 지쳐서 아예 스타트업 방향을 틀어버림
I got tired of AI gaslighting across claude and gpt. pivoted the whole startup to fix it.
핵심 요약
AI의 환각과 가스라이팅 문제를 해결하기 위해 여러 모델이 토론하는 새로운 인터페이스 'Serno'를 개발함.
- AI 가스라이팅 해결 — 여러 모델이 서로 다른 관점에서 토론하게 하여 환각 문제를 방지함.
- 새로운 UI 도입 — 기존 채팅 방식의 한계를 극복하기 위해 캔버스 모드를 통해 복잡한 질문을 구조화함.
- Claude 활용 — 서비스의 핵심 로직과 코드 작성에 Claude를 적극적으로 활용함.
- 모바일 지원 예정 — 현재 데스크톱 위주로 서비스 중이며 모바일 지원을 위해 개발 중임.
예전에 Roundtable이라는 장난감 같은 걸 여기 올린 적이 있는데, 채팅창에서 두 개의 AI가 서로 논쟁하는 거였어요. 별 기대는 안 했는데 반응이 장난 아니더라고요. 사람들이 재미로 쓰는 게 아니라, 진짜 무거운 질문들을 거기다 던지고 있었거든요.
알고 보니 다들 우리가 겪던 똑같은 AI 가스라이팅 문제로 골머리를 앓고 있었고, 어떤 모델이 환각을 일으키는지 확인하려고 탭을 옮겨 다니거나 최고의 답변을 찾느라 시간을 낭비하는 비효율적인 워크플로우에 시달리고 있었던 거죠.
그런데 우리 앱으로 이 문제를 해결하려는 사람들과 대화해보니 한 가지가 뼈저리게 느껴졌어요. 채팅은 복잡한 질문을 다루기엔 정말 최악의 UI라는 거예요. 스레드는 산으로 가기 일쑤고, 옆으로 나란히 띄워놓은 채팅창은 인지 부하만 가중시킬 뿐이며, 깊이 있는 조사를 위해 읽어야 할 양은 말할 것도 없죠.
그래서 우리는 새로운 캔버스 모드를 추가했어요. AI가 가정으로 가득 찬(당신을 가스라이팅하는) 정중한 에세이 하나를 툭 던져주는 대신, 질문 전체를 눈앞에서 분해해버리는 거죠. 여러 모델이 서로 다른 각도에서 조사하고 토론하게 만들었어요. 그러고 나면 당신에게 중요한 방향들을 제시해 줍니다.
이건 챗봇이랑 대화하는 느낌이라기보다는, 전문가들이 방에 모여서 치열하게 토론하는 걸 지켜보면서 방향을 잡아주는 느낌에 가까워요.
일상적인 질문을 위한 일반 채팅창은 그대로 남아있어요. 캔버스는 진짜 중요한 문제를 다룰 때 쓰는 거죠.
(Claude가 거의 모든 힘든 일을 다 해줬고, Serno 자체의 대부분도 Claude로 코딩했는데, 지금 생각해도 제정신이 아닌 것 같아요).
무료로 이용 가능하고, 크레딧은 우리가 제공합니다. 다 쓰면 언제든 연락 주세요.
