어떤 AI 제품을 더 신뢰하게 만드나요?

화려한 기능이나 마케팅보다 일관된 정확성과 실수를 솔직하게 처리하는 태도가 훨씬 중요함.

단순한 UI와 투명성이 항상 승리함(적어도 나한테는). 어떤 출처를 가져왔는지 쉽게 확인하거나 잘못된 행동을 되돌릴 수 없으면 자율적으로 실행되도록 신뢰할 수 없음.

나한테는 두 가지가 중요함. 첫째는 실적(얼마나 오래 운영됐는지, 실제 기업들이 의존하는지). 많은 AI 도구가 출시 때는 인상적이지만 6개월 뒤에 사라짐.

둘째는 회사가 제품의 한계에 대해 솔직한지 여부. 지금 모든 AI 제품은 어느 정도 과대광고를 하고 있고 사용자들이 피해를 보고 있음. 무한한 가능성을 떠드는 제품보다 한계를 미리 명확히 밝히는 제품을 신뢰함.

정확성과 일관성. 신뢰할 수 있는 답을 주면 계속 사용함.

신뢰 같은 건 없음, 그냥 선호도와 결과물뿐임. 내 에이전트가 쉽게 연결할 수 있고, 내가 아직 복제하거나 커스텀하지 않은 매우 유용한 기능을 수행하는 앱과 시스템에 끌림.

정확성도 중요하지만, 불확실성에 대해 솔직하고 맥락을 제공하는 시스템을 더 신뢰함.

신뢰는 지능보다 예측 가능성에서 온다고 생각함. AI가 매번 맞을 거라고 기대하지 않음. 다만 내가 이해할 수 있는 방식으로 실패하기를 기대함. 언제 어려움을 겪을지 알면 그에 맞춰 대비할 수 있음. 매일 사용하는 도구는 가장 똑똑한 게 아니라 일관된 것들임.

인지 부조화.

가장 중요한 건 내가 기대하는 결과물을 얻느냐임. 그다음은 프라이버시 정책이나 데이터를 사용하는 방식, 그리고 당연히 가격과 제품의 투명성임.

신뢰는 예측 가능성에서 온다. 나는 출처를 밝히고, 자신의 한계를 인지하며, 틀렸을 때 투명하게 실패하는 AI를 원한다.