영업 중에 'ChatGPT 쓰면 되는 거 아님?'이라는 질문을 받았습니다. 뭐라고 답하시나요?

AI도 책임 소재 문제를 해결할 수 있다고 볼 여지가 있음. 이건 현재 많은 연구와 개발이 진행 중인 문제임. AI가 멍청한 짓을 하거나, 거짓말을 하거나, 규칙을 어기지 않게 만드는 방법에 엄청난 노력이 쏟아지고 있음. 완전히 해결된 문제라고 할 순 없지만, 해결되기까지 그리 멀지 않았다고 봄.

책임 소재를 어떻게 정의하느냐에 따라 다르겠지.

그건 책임 소재가 아님. 결국 어떤 시스템도 완벽할 순 없고, 에이전트가 사고를 치면 '어이쿠, 당신 말이 맞아요, 제가 실수했네요'라고만 할 텐데, 실질적인 피해가 발생하는 상황에서는 그게 전혀 충분하지 않음.

그럼 당신에게 책임 소재란 뭔데?

그리고 인간도 업무 중에 실질적인 결과를 초래하는 실수를 얼마나 자주 하는데? 잘 설계된 AI 시스템이 지금 당장은 인간보다 더 신뢰할 만할걸.

그게 다 AI 서비스에도 해당되는 거 아님? 계약이란 게 왜 있겠어? 내가 AI 기반 회사를 운영하면서 당신에게 돈을 받고 서비스를 제공한다면, 예상 서비스 수준과 내가 그걸 제공하지 못했을 때의 중재 조건이 담긴 계약서가 있을 거 아님? 인간이 모든 일을 다 하는 회사랑 AI 기반 회사가 뭐가 다르겠어?

우린 지금 AI 서비스를 말하는 게 아님. 비즈니스 오너가 작성자의 서비스를 ChatGPT로 대체하는 상황을 말하는 거라고.

무슨 말인지 알겠음. 내 실수임. 이 경우라면, 그래, 책임 소재가 전혀 없지.

AI는 확률적으로 생성함. 신뢰성은 주변 시스템에서 나오는 거임. AI는 웹페이지의 채팅창 그 이상임. 지금 환각을 잡아내고, 출력을 사실 확인하고, 결과가 나오기 전에 행동을 교정하는 주변 시스템에 대한 훌륭한 연구가 많이 진행되고 있음.

AI가 환각을 일으키니까 신뢰할 수 없다는 건 게으른 생각임.

신뢰성은 높일 수 있어도 책임 소재는 명확히 할 수 없다는 게 문제지. 기계는 자기 결정 과정을 설명조차 못 하는데 어떻게 책임을 물어? 그냥 사후에 그럴듯한 이야기를 지어낼 뿐이라고. 인간도 자기 행동에 대해 사후에 합리화한다고 반박할 수도 있겠지만, 우리는 인간이 만든 법과 사회 속에서 살고 있잖아.

완전 공감함. 요즘 진짜 흥미로운 건, ChatGPT 좀 써본 사람들이 이제 뭐든 다 된다고 생각하다가, 막상 안 되면 자기 탓이라고 자책하게 만드는 교육이 필요하다는 점임.