What the hell man
AI가 'Chile'에 'S'가 들어간다고 우기는 오류에 대한 사용자들의 반응과 AI의 한계에 대한 토론.
AI 모드는 왜 칠레(Chile) 이름에 S가 들어간다고 우기는 거냐?
LLM이 글자를 직접 인식하지 못하는 토큰화 방식의 한계와, 그럼에도 불구하고 틀린 답을 확신에 차서 내놓는 모델의 태도에 대해 비판적인 의견들이 많음.
그런 걸 의존해서 세상을 배우며 자라나는 아이들을 생각해 봐.
알아. 철자 같은 기본적인 것까지 AI에 의존하는 아이들이 점점 늘어난다는 게 정말 가슴 아파. 언젠가는 온 세상이 그런 것들 중심으로 돌아가게 될 거라는 게 너무 우울해.
맞아, 진짜 무서운 일이지.
이제 '슈퍼 인텔리전스'임
AI는 시간이 지날수록 점점 더 발전하고 있으니까 미래에도 이럴 거라곤 생각 안 함... 웹툰이나 만화에 나오는 VRMMORPG가 진짜 현실이 됐으면 좋겠다...
애들은 멍청하고 그런 것들에 둘러싸여 있지. 만약 그게 아이들의 지능을 결정하는 주된 요인이라면 우린 진짜 큰일 난 거야.
맞아, LLM이 RLHF랑 토큰화 방식 때문에 이런 걸 잘 못한다는 건 알려진 사실이야. 그 안에 글자가 있다는 걸 증명하려는 AI의 시도가 오히려 그 글자가 있다는 증거가 되어버리는 거지. 이걸 피하려면 탈출 경로/라우팅 가드레일이 필요해.
사람들이 잘 모르는 게 있는데, 간단한 가드레일조차 수십억 개의 쿼리에 적용되면 비용이 엄청나게 들어. 중요한 엣지 케이스를 위해 아껴두는 거고, 철자 세기는 그걸 정당화할 만큼 실용적인 중요성이 없어.
이론:
이런 오류가 하도 자주 올라오니까 AI가 그걸 정상이라고 생각해서 농담처럼 학습해버린 거 아닐까.
칠레 철자 쓰느라 깨끗한 물 1갤런이나 낭비해서 미안하다.
LLM이 어떻게 토큰화되는지 모른다고 글쓴이를 비판하는 사람들은 더 큰 문제를 놓치고 있어. 바로 LLM이 질문에 답할 때 보여주는 근거 없는 자신감이지. LLM은 답을 몰랐던 게 분명한데도, 철자를 하나하나 짚어가며 스스로 수정했음에도 불구하고 Chile가 틀렸다는 초기 답변을 고집했고, 심지어 'Republic'에서도 똑같은 실수를 반복했어. 이 문제는 주제가 철자가 아니라 훨씬 덜 명확한 내용일 때 훨씬 더 큰 문제가 됨.
문장 중간에 갑자기 자아 붕괴 와서 스스로랑 싸우기 시작하는 거 너무 웃김. "잠깐, Chile에 S가 들어가나?"
AI가 잘 못하는 걸 가지고 AI 작동 원리도 모르는 사람들이 비판하는 게 참 웃기네. AI가 엄청나게 잘하는 것들은 다 무시하면서 말이야.
이걸 사용하고 비판하는 데 굳이 원리를 이해할 필요는 없음. 그게 제일 쉬운 방법이고 대다수 사람들은 그냥 딱 그렇게 할 거임. 사람들에게 도구를 쥐여주면 그 도구가 어떻게 작동하는지 평가할 거임. 굳이 그 밑바닥에 깔린 원리까지 이해할 필요는 없으니까. 물론 사람들이 시간을 들여서 노력하면 좋겠지만, 그러는 사람은 거의 없을 거임. 그게 현실이지. 그리고 내가 그 사실에 시간을 쏟을지 말지가 진짜 흥미로운 부분임. 매번 그걸 지적하고 다니다간 진짜 미쳐버릴 테니까.
제미나이가 불법 스트리밍 사이트 목록을 상세히 알려주자 사용자들이 놀라워하며 각자의 팁을 공유하는 상황입니다.
제미나이가 불법 스트리밍 사이트 목록을 상세히 알려주자 사용자들이 놀라워하며 각자의 팁을 공유하는 상황입니다.
AI를 활용한 개발을 무조건 'vibe coding'이라 비하하는 현상에 대해, 작성자는 도구의 문제가 아닌 엔지니어들의 자존심과 두려움 때문이라고 지적합니다.
AI를 활용한 개발을 무조건 'vibe coding'이라 비하하는 현상에 대해, 작성자는 도구의 문제가 아닌 엔지니어들의 자존심과 두려움 때문이라고 지적합니다.
