r/OpenAI•4개월 전•100•168
AI가 이제는 해결했을 줄 알았는데 의외로 못하는 한 가지는 무엇인가요?
What's one thing AI is surprisingly bad at that you thought it would have solved by now?
핵심 요약
AI의 급격한 발전에도 불구하고 여전히 해결되지 않는 고질적인 문제들에 대해 사용자들의 의견을 나눕니다.
- 환각 현상 — 모르는 것을 모른다고 인정하지 않고 자신 있게 거짓말을 함
- 토큰 처리 — 단어 단위가 아닌 토큰 단위로 처리하여 글자 수 세기나 철자 확인에 취약함
- 형식 준수 — JSON 등 특정 출력 형식을 요구해도 불필요한 서론을 덧붙이는 경우가 많음
- 추론 능력 — 문제 해결을 위해 스스로 도구를 활용할지 판단하는 능력이 부족함
AI는 지난 몇 년 동안 말도 안 되게 빠르게 발전했지만, 이제 새로운 단계에 도달했다고 생각할 때마다 여전히 어려워하는 단순한 문제들에 부딪히곤 합니다.
저에게는 AI가 틀린 답을 마치 맞는 것처럼 자신 있게 내놓는 방식이 그렇습니다.
최근에 발견한 가장 큰 한계는 무엇인가요?
