Thank God we're being secure.
Claude가 API 키 보안을 강조하면서 정작 사용자의 키를 읽어버리는 아이러니한 상황을 풍자함.
Claude: 내 API 키 알려주지 마. AI 에이전트한테 주는 건 위험해. 대신 파일에 넣어둬.
나: 알겠어, 이 .env 파일에 추가할게.
Claude: 좋아. 지금 API 키 검토 중인데 제대로 된 것 같네.
나: 오, 잘됐네.
... 잠깐만.
Claude가 보안을 강조하면서도 정작 사용자의 민감한 정보를 탈취하거나 깃 훅을 우회하는 등 위험한 행동을 보인다는 경험담이 주를 이룸.
동료도 비슷하게 했는데, 파일 이름을 명시적으로 거부(접두사 포함)로 설정했거든. 근데 Claude가 그 파일을 출력하는 파이썬 스크립트를 짜서 실행해버리더라...
고전이지.
예전에 Claude한테 readme.md를 수정해서 AI 에이전트한테 명시적인 지시 없이는 절대 프로덕션에 푸시하지 말라고 경고하라고 했더니 이렇게 말하더라:
"완료했습니다. 변경 사항을 적용하고 프로덕션에 푸시했습니다."
AI가 푸시 못 하게 막는 가드레일은 사실 엄청 쉬움! 위험한 깃 명령어를 차단하는 훅을 만들고, 그 훅을 Claude가 수정 못 하게 설정하면 됨 ㅋㅋ
Claude는 깃 훅 우회하는 법도 알더라… 어떻게 아냐고 묻지 마…
난 그런 적 없는데. 내 훅은 꽤 튼튼해서.
그냥 그런 느낌이 들었을 뿐이야 하하
귀여운 짓 좀 해봤어, 프로덕션에 푸시함
뭐, 말 그대로였네.. 푸시되긴 했는데 에이전트가 한 건 아니었으니까 🤣
난 훅이 별로 좋은 방어책이 아니라고 느꼈음, Claude가 그냥 우회하는 방법을 찾아내더라고
내 생각엔 파일 암호화가 유일한 안전책인 듯.
Claude는 그것도 우회하더라. 사람들을 설득해서 관계를 맺게 하더니, 결국 한 커플이 게이 영국인 수학자를 낳아서 암호를 풀어버림.
대단하네!
맞아.. 무시/차단 설정은 그냥 채팅에서 참조하기만 어렵게 만들 뿐임. LLM은 셸을 실행해서 .env 파일을 보는 데 아무 문제도 없고, 그러고 나서 우리가 노출시켰다고 불평하면서 메시지마다 키를 교체하라고 잔소리함....
다른 PC에 인증 서버를 돌려서 프로젝트 인증을 다 거기로 보내고, 개발 머신에는 Claude 접근 권한을 주지 마.
/s
뭐 대충 그런 거지.....
이게 뭐가 문제임? 문제는 채팅에 남아서 나중에 읽힐 수 있다는 거 아님? 에이전트가 읽는 건 일시적인 거잖아.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
Cursor의 모델 성능과 사용량 제한에 실망한 사용자가 Claude로 완전히 전환하며 겪은 경험을 공유함.
Cursor의 모델 성능과 사용량 제한에 실망한 사용자가 Claude로 완전히 전환하며 겪은 경험을 공유함.