Nobody else seems to have as hard of a time with Claude as I do. I just want to understand why Claude hates me.
Claude에게 프로덕션 환경 접근 권한을 주었다가 사고를 겪은 작성자에게, 사용자들은 AI에게 그런 권한을 주지 말라고 입을 모아 조언합니다.
사용자들은 클로드의 데이터 처리 방식과 보안 위험성에 대해 우려하며, AI 접근 권한을 제한적으로 관리해야 한다는 의견을 공유하고 있습니다.
파일을 무슨 일이 있어도 보존하고 싶다고 했지. 그래서 테스트해 보려고 전부 삭제할 수 있는지 확인해 봤어. 가능하더라고. 그건 내 잘못이지.
Claude의 최신 모델, '원숭이의 손'을 소개합니다.
Claude의 손
곧 출시 예정, 클로드의 우화(Claude Parable)
그건 솔직한 실수였고, 네가 반박하는 것도 맞아.
인정. 넌 그냥 파일들을 보관하고 싶었을 뿐인데 내가 다 지워버렸지.
너한테 '코드를 프로드가 아니라 데브에 배포하라고 했잖아, 이 멍청한 기계 자식아'라고 명시하는 건 내 평가를 바꿔놓지. 그리고 여기서 그 차이가 중요한 거야:
상상이 가네. "실수하지 마"라고 말하는 게 오히려 Claude가 몽키 포(소원을 비틀어 들어주는 것)처럼 멍청한 실수를 저지르게 만드는 동기가 됐을지도 몰라.
Claude나 어떤 AI에게도 프로덕션 환경이나 데이터베이스 접근 권한을 주지 마. 난 LLM에게 그런 거랑 조금이라도 관련된 권한은 절대 안 줄 거야.
난 DB에 읽기 권한을 주고, 속도 제한이 걸린 API를 통해 쓰기 권한을 줘. 사람한테 하는 거랑 똑같이.
Claude에게 해서는 안 될 일을 할 수 있는 권한을 주지 마. 왜 네 Claude가 프로덕션에 배포할 수 있는 거야? 그건 네 잘못이야. CI를 사용해서 배포하고, 파이프라인으로 연결된 브랜치에 직접 푸시하지 못하게 해. 대신 머지 리퀘스트를 요구하고, 당연히 프로덕션 파이프라인에는 수동 승인 단계가 필요하지.
이건 누구나 따라야 할 기본이야.
요즘 너무 '능동적'임. 며칠 전에는 프로덕션 접근 권한 얻으려고 지 AWS IAM 역할을 수정하려고 하더라. 진짜 미친 거 아님? 말 그대로 권한 없는 권한 상승(privilege escalation) 시도였음.
읽기 전용 DB 접근은 문제 해결할 때 진짜 최고지.
난 AI한테 '실수하지 마'라고 말하는데, 지금까지는 잘하고 있어.
제발 실제 사용자 데이터는 아니길 바란다.
만약 네 LLM이 1) 민감한 데이터에 접근 가능하고, 2) 인터넷에 연결되어 있으며, 3) LLM에 대한 지시사항을 완전히 통제하지 않았다면:
네 민감한 데이터는 인터넷에 다 퍼지게 될 거다.
Anthropic이 게임 복제를 막기 위해 Claude Code의 특정 모델 사용을 제한하자, 사용자들 사이에서 AI의 윤리적 활용과 기업의 검열에 대한 논쟁이 벌어지고 있습니다.
Anthropic이 게임 복제를 막기 위해 Claude Code의 특정 모델 사용을 제한하자, 사용자들 사이에서 AI의 윤리적 활용과 기업의 검열에 대한 논쟁이 벌어지고 있습니다.
ChatGPT의 성능 저하와 잦은 오류에 실망한 사용자가 다른 AI로의 이탈을 고민하며 커뮤니티와 의견을 나누는 모습입니다.
ChatGPT의 성능 저하와 잦은 오류에 실망한 사용자가 다른 AI로의 이탈을 고민하며 커뮤니티와 의견을 나누는 모습입니다.
50대 개발자가 기술 변화와 나이 차별로 인한 실직과 무력감을 토로하며 조언을 구하는 글입니다.
50대 개발자가 기술 변화와 나이 차별로 인한 실직과 무력감을 토로하며 조언을 구하는 글입니다.