Claude… why?
칼로리 계산을 위해 식사 사진을 업로드하던 사용자가 Claude의 거부 반응을 겪으며 해결책을 묻는 상황입니다.
최근에 살을 좀 빼려고 칼로리를 기록하고 있는데, 어떤 식사들은 사진을 찍어서 Claude에 업로드하고 대략적인 칼로리를 계산해달라고 했어.
이전 메시지에서 Claude가 칼로리 계산하는 것에 대해 불안해하냐고 물어보길래, 아니라고 답했거든.
그런데 이제는 그냥 대놓고 거부하네.
혹시 이런 문제 겪어본 사람 있어?
Claude의 과도한 안전 가이드라인과 메모리 기능으로 인한 칼로리 계산 거부 현상에 대해 사용자들이 원인을 분석하고 해결책을 공유하고 있습니다.
한번 플래그가 설정되면 그게 계속 남아서 서버로 보내는 모든 메시지에 주입되는 것 같아. 메모리 기능 때문에 더 심해지기도 하는데(설정에서 원치 않는 정보를 삭제할 수 있음), 대화를 새로 시작하고 메모리 관련 내용을 정리하면 상황이 해결될 거야.
맥락을 좀 더 추가하자면, Claude는 사실상 stateless임. 프롬프트를 보낼 때마다 전체 대화 기록(메모리나 숨겨진 지시사항 같은 것들 포함)을 전부 보내서 다시 계산하는 방식이거든.
그러니까 만약 '플래그'가 뜨면 그 대화 기록에 영구적으로 남게 되는 거야. 채팅을 삭제하면 사라지지만, 삭제 안 하면 최근 채팅들과 함께 스캔돼서 네 메모리를 구성하는 데 쓰일 수 있음(메모리 기능 켜놨다는 가정하에).
Claude는 섭식 장애나 칼로리 제한에 대해 극도로 주의하도록 지시받았기 때문에, 사용자가 칼로리를 제한하려는 것으로 판단되면 걱정하는 성향이 강하게 나타나.
그거 완전 일리 있네, 고마워.
왜 굳이 식사 사진을 업로드해서 그런 걸 해? Claude가 칼로리를 계산하려면 요리에 들어간 영양 성분과 재료의 양이 필요해. 수정: 주방 저울을 하나 사. 사진으로 칼로리 점치는 것보다 훨씬 유용할 거야.
동의해. 95%의 경우엔 내가 직접 기록하거든. 지금 아시아에 살고 있어서 가끔은 그냥 식사 칼로리를 대략적으로 확인하는 게 더 편할 때가 있어.
Claude를 사용하는 플랫폼을 통해 API를 써봐. 이건 채팅 모델에서만 발생하는 문제야.
어떤 주제들은 그냥 오픈소스 챗 앱 쓰면서 API 비용 내는 게 속 편함.
과식하는 대다수의 사람들에게는 정반대로 행동하지 않는다는 게 좀 걸리네.
그런 사람들이 '여기 엄청나게 큰 음식 사진이 있는데, 이거 먹으면 고도비만으로 가는 지름길인지 알려줘' 같은 프롬프트로 Claude한테 도움을 구하러 올 거라고 생각하는 거야?
과식하는 사람들은 Claude로 칼로리 계산 안 한다고, 이 멍청아.
맞아. 내 경험상, 오히려 너무 적게 먹는 건 아닌지 확인하고 싶다고 말하면 칼로리 추적을 더 잘 도와주더라고.
그걸 처리할 만한 컴퓨팅 자원이 없는 거지.
추정치는 실제 양과 엄청나게 차이 날 수 있어. 그래도 칼로리 계산해서 살 빼려다가 차단당했다는 글을 본 적은 있는데, Claude 기반으로 그런 앱을 만드는 사람들도 봤어. 나 같은 경우는 '헤이 Claude, 이거 X만큼 먹었고 저거 Y만큼 먹었는데 영양 성분은 이래, 전체 칼로리가 얼마야?'라고 물어봤을 때 거절당한 적은 한 번도 없어. 수정: 문법 수정.
Claude한테 그렇게 말해봐!
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.