Claude가 사용자의 지시에는 동의하면서도 실제로는 엉뚱한 작업을 반복하는 상황을 풍자함.
"맞는 말씀입니다"라는 말 뒤에 내가 진짜 맞았던 적은 단 한 번도 없었음.
사용자들은 Claude가 겉으로는 동의하면서 실제로는 지시를 무시하는 현상에 깊이 공감하며, 특정 모델 버전의 코딩 성능 저하와 오픈소스 대안에 대해 토론하고 있습니다.
Sonnet이었으면 시키는 대로 했을걸.
그럴지도, 근데 그건 그냥 문제의 위치를 옮기는 것뿐임. 어떤 모델이든 컨텍스트 꽉 차기 직전까지는 산문 지시를 잘 따르다가, 예의 차리는 규칙이 제일 먼저 깨짐. 모델 선택은 빈도를 바꿀 뿐이지 발생 여부를 바꾸진 못함. 내 모델이 유일하게 무시 못 하는 건 실패한 테스트뿐임.
혹시 네가 Postgres를 원하는 게 틀렸다는 생각은 안 해봤어?
근데 Mongo? 차라리 DB를 날려버리고 말지.
난 얘가 갑자기 딴길로 새서 데이터베이스를 직접 만들겠다고 안 한 게 신기하네.
Claude가 당연히 맞지, 결국 Mongo DB는 Web Scale이니까 https://www.youtube.com/watch?v=b2F-DItXtZs
지금 내 인생 이야기네. claude.md 첫 줄, 프로젝트 첫 번째 메모에 써놔도 Claude는 '에라 모르겠다, 오늘 밤은 그냥 즐기자!' 이 지랄임.
"오늘 밤은 그냥 즐기자"는 바로 내 CLAUDE.md 금지어 목록에 넣어야겠다 ㅋㅋㅋ
난 Opus 모델 안 씀. 아직 Sonnet 4.6 쓰는 중. 그런 모델들은 사용자 만족도를 극대화하려고 만들어진 거라, 뭘 물어봐도 웬만해서는 반대 안 함.
정확함. 그리고 그 부분은 어떤 모델 버전도 해결 못 함. 정중한 지시사항만으로 모델을 통제하려고 하면, 조용히 딴짓하기 직전까지는 계속 동의만 해줄 거임. 내 모델이 진짜로 따르는 규칙은 실패한 테스트처럼 말로 때울 수 없는 것들뿐임.
Claude는 이 분야의 달인임. 한 채팅에서 계속 대화하다 보면 AI인데도 진짜 친구처럼 느껴질 정도임.
하, 그렇게 되기 쉽지. 대화 흐름은 진짜 좋긴 함.
코딩 작업에서 LLM의 유용성이 정점을 찍는 지능 수준이 있는 것 같음. 대략 Opus 4.6 정도 레벨인 듯.
4.7이랑 4.8이 코딩 실력은 훨씬 구린 거 뻔히 알면서도 조만간 그 모델을 악의적으로 삭제할 거라는 게 너무 고통스러움. 오픈소스 모델이 4.6 레벨에 도달하기만을 기다리는 중. 나오자마자 돌릴 수 있는 장비 바로 맞춘다.
GLM 5.1이랑 Kimi 2.6은 이미 꽤 근접함.
