Claude Duet의 안전·개인정보 보호·보안

Claude Duet는 클라우드 기반 컴퓨터를 사용해 사용자 대신 업무를 처리하는 에이전트로, 현재 리서치 프리뷰 단계입니다. Claude에 연결해 둔 앱과 서비스를 모두 활용할 수 있으며, 앱을 닫은 뒤에도 계속 실행됩니다. 자리를 비운 사이에도 받은 편지함을 읽고, 답장 초안을 쓰고, 예약을 처리하고, 루틴을 실행합니다. 저희 팀도 자체 계정으로 Claude Duet을 돌리며 매일 업무에 활용하고 있습니다.

저희는 에이전트의 동작 방식을 이끄는 세 가지 원칙을 바탕으로 Claude Duet을 만들었습니다.

1. 사용자의 정보와 연결된 앱에서 다른 사람이 공유한 정보는 신중하게 다룹니다. Claude Duet이 작성한 메시지는 발송 전에 새로운 분류기(classifier)가 한 번 더 검사합니다.
2. Claude Duet이 사용자를 대신해 하는 일은 사용자가 직접 통제합니다.
3. Claude Duet은 비밀번호, 브라우저 쿠키, 로그인 토큰 같은 자격 증명을 절대 볼 수 없습니다.

Claude Duet은 새로운 서비스이지만, 그 바탕이 되는 고민은 새롭지 않습니다. 저희는 2025년에 안전하고 신뢰할 수 있는 에이전트를 위한 프레임워크를 공개했습니다. 이 프레임워크는 사용자에게 통제권을 주고, 개인정보 보호와 안전한 상호작용을 기본 요건으로 삼습니다. 이후에는 어떤 방어책도 단독으로는 충분하지 않은 이유와 모델 내부의 보호만으로는 부족한 이유도 글로 다루었습니다. 또 기업이 에이전트를 실제 서비스 환경에서 운영할 때 쓰는 인프라를 Claude Managed Agents로 구축하고 운영하고 있는데, Claude Duet 역시 같은 방식으로 자격 증명을 에이전트와 분리해 둡니다. Claude Duet은 이런 기반 위에 사용자를 대신해 움직이는 에이전트에 필요한 보호 장치를 더했습니다. 이 글에서는 새로 추가한 내용과 아직 개선 중인 부분을 차례로 소개합니다.

중요한 작업은 사용자가 승인합니다

사용자가 자리를 비운 사이에도 움직이는 에이전트라면, 어느 시점에 멈추고 허락을 구해야 하는지 알아야 하고, 그 빈도도 적절해야 합니다. Claude Duet은 민감할 수 있는 메시지를 보내거나, 결제하거나, 무언가를 삭제하기 전에 작업 내용과 대상, 수신자 전원을 포함한 전체 내용을 사용자에게 보여 주고 승인을 기다립니다.

이와 별도로 자동 검사가 모든 작업과 함께 실행됩니다. Claude Code의 auto mode 분류기를 토대로 Claude Duet에 맞게 확장한 검사로, 해당 작업이 사용자의 의도와 맞는지 판단합니다. 이 검사는 실제 작업을 수행하는 모델 바깥에서 실행되므로, 웹페이지에 숨겨진 지시가 결과에 영향을 줄 수 없습니다.

사용자가 승인하더라도 하지 않는 작업도 있습니다. 증권 거래, 계좌 간 이체 같은 금융 작업, 다른 사람의 계정 접근이 그렇습니다. 또 결제나 송금, 주문 삭제, 계정 생성처럼 아무리 여러 번 승인했더라도 '다시 묻지 않기' 규칙이 적용되지 않는 작업도 있습니다. 자리를 비운 사이에 실행되는 루틴에도 같은 안전장치가 적용됩니다.

저희는 Claude Duet이 승인을 요청하는 빈도를 조정하는 데 많은 시간을 들였습니다. 승인 요청이 너무 잦으면 사용자가 충분히 살펴보지 않고 습관적으로 누르게 되기 때문에, 승인 피로는 심각한 문제입니다. 앞으로도 이 균형은 계속 조정해 나가겠습니다.

구매할 때 Claude Duet은 Stripe의 Link 같은 지갑에서 발급한 일회용 카드로 결제하며, 이 카드는 해당 판매처와 금액으로만 쓸 수 있습니다. 사용자는 상품과 총액을 확인하고 Link 앱에서 구매를 승인합니다. 실제 카드 번호는 Claude Duet에도, 판매처에도 전달되지 않습니다.

사용자의 정보는 신중하게 다룹니다

사용자의 이메일을 읽고 메시지를 대신 보내는 에이전트는 어떤 정보를 어디로 보내도 되는지 끊임없이 판단해야 합니다. Claude Duet에 팀원들에게 보낼 주간 요약을 부탁했다면, 팀 전체가 이미 접근할 수 있는 내용만 담아야 하고 인사 평가 면담 같은 개인적인 내용은 절대 넣어서는 안 됩니다.

이를 위해 저희는 메인 모델과 별도로 실행되는 새로운 안전 분류기를 만들었습니다. 이 분류기는 Claude Duet이 보내려는 메시지마다 민감한 정보가 들어 있는지 확인하며, 해당 정보를 두 단계로 나눕니다.

• 절대 공유 금지: 로그인 자격 증명, 카드와 은행 계좌 전체 번호, 정부 발급 신분증 번호처럼 가장 민감한 정보는 최고 수준으로 보호합니다. Claude Duet은 사용자가 요청하더라도 이런 정보를 누구에게도 공유하지 않도록 설계되어 있습니다.
• 공유하려면 동의 필요: 건강이나 금융 같은 그 밖의 개인 정보는 사용자가 명시적으로 승인한 경우에만 공유합니다. 사용자의 요청 자체를 동의로 간주하므로, "치과에 내 치통에 대해 메모 보내줘"라는 요청에는 보통 추가 승인이 필요하지 않습니다.

두 경우 중 하나로 발송이 차단되면, Claude Duet은 민감한 정보를 뺀 메시지로 다시 작성해 사용자에게 승인을 요청할 수 있습니다.

Claude Duet은 아직 리서치 프리뷰 단계라서 이 안전장치가 가끔 놓치는 부분이 있거나 무해한 메시지를 잘못 걸러낼 수 있습니다. 그래서 앞서 설명한 승인 장치와 함께 작동하도록 했고, 이 장치들은 Claude Duet이 대신 보내는 내용을 사용자가 계속 통제할 수 있게 해 줍니다. 사람들이 Claude Duet을 어떻게 쓰는지 더 파악하면서 분류기도 계속 개선해 나갈 계획입니다.

작업과 연결된 앱을 한눈에 확인할 수 있습니다

Claude Duet이 한 일과 하고 있는 일은 작업 목록에서 확인할 수 있습니다. 작업마다 별도 페이지가 있고, 작업 도중에 방향을 조정할 수도 있습니다. Claude Duet은 작업 간에 맥락을 이어 가기 위해 대화 기록과 메모리를 보관하며, 사용자가 기록을 삭제하거나 초기화하기 전까지 유지됩니다. 계정을 삭제하면 Claude Duet이 저장한 모든 내용이 지워집니다.

Claude에 연결해 둔 앱은 Claude Duet에도 그대로 적용되며, 한쪽에서 앱을 끄면 양쪽 모두 꺼집니다. 앱 연결을 해제하면 그 순간부터 새로운 접근은 중단되지만, Claude Duet이 이미 파악한 내용은 메모리를 초기화하기 전까지 남아 있습니다. 메모리 초기화는 앱 설정에서 언제든 할 수 있습니다. 또 Claude Duet은 사용자의 Claude 계정 메모리도 함께 사용하므로, Claude가 이전 대화에서 기억해 둔 내용도 볼 수 있습니다.

자격 증명과 브라우저는 모델과 분리되어 있습니다

Claude Duet은 비밀번호, 브라우저 쿠키, 연결된 앱의 로그인 토큰을 볼 수 없고, 메모리에 저장할 수도 없습니다. 이런 정보는 모델이 접근할 수 없는 별도 머신만 거치며, Claude Duet의 동작을 관리하는 승인과 안전 검사도 그 머신에서 실행됩니다.

비밀번호

사이트에서 비밀번호를 요구하면, 사용자는 Claude 앱 안의 입력 양식에 비밀번호를 입력합니다. 이 양식은 비밀번호를 일회용 키로 암호화하는데, 이 키는 저희 보안 클라우드 브라우저 머신에만 존재하며 딱 한 번만 쓸 수 있습니다. 암호화된 비밀번호는 열어 보지 않은 채 브라우저에 전달되고, 브라우저가 이를 사이트에 입력합니다. 모델은 비밀번호를 볼 수 없으며, 저장하거나 반복해서 출력할 수도 없습니다. 곧 1Password로도 로그인할 수 있게 됩니다. Claude Duet이 자격 증명을 요청하면 사용자가 1Password에서 그 요청을 승인하고, 자격 증명은 모델을 거치지 않고 브라우저로 곧바로 전달됩니다.

대신 로그인해 주는 에이전트는 피싱의 양상을 두 가지 방식으로 바꿉니다. 먼저 Claude Duet은 사용자의 자격 증명을 보관하지 않으므로 비밀번호를 노린 피싱에 당할 수 없고, 숨겨진 지시로도 갖고 있지 않은 비밀을 털어놓게 만들 수 없습니다. 반면 로그인 양식 자체는 공격 대상이 됩니다. 비밀번호를 요구하는 화면은 무엇이든 흉내 낼 수 있기 때문입니다. 그래서 Claude Duet의 로그인 양식은 사용자가 요청한 로그인 과정에서 앱 안에만 나타납니다. 링크, 문자 메시지, 이메일, claude.ai 이외의 웹사이트로는 절대 전달되지 않습니다. Claude Duet처럼 보이는 무언가가 다른 곳에서 비밀번호를 요구한다면 정상적인 요청이 아닙니다.

로그인 토큰

Claude Duet이 연결된 앱에서 작업할 때는 Claude Managed Agents 설계를 따라, 자격 증명이 에이전트의 작업 환경에 닿지 않도록 합니다. 연결된 서비스의 로그인 토큰처럼 에이전트가 사용자를 대신해 쓰는 자격 증명은 에이전트가 작업하는 머신에 아예 들어가지 않습니다. 그 자리에는 자격 증명을 대신하는 자리 표시자만 있고, 머신 밖의 프록시가 요청이 이루어지는 순간에만 실제 값을 넣어 줍니다.

브라우저

Claude Duet의 브라우저는 클라우드의 전용 가상 머신에서 실행되며, 모델 및 에이전트가 작업하는 클라우드 컴퓨터와 분리되어 있습니다. 에이전트는 이 페이지 열기, 여기 클릭, 이것 입력처럼 정해진 명령 세트로만 브라우저를 조작합니다. 사이트가 실행하는 코드는 브라우저 머신 안에만 머무르며, 사이트의 코드와 쿠키는 Claude Duet의 메모리나 연결된 앱에 닿지 않습니다. 에이전트의 어떤 명령으로도 브라우저에서 쿠키를 읽어낼 수 없습니다. 다만 페이지의 텍스트와 다운로드 파일은 에이전트가 일을 하려면 읽어야 하므로 돌려받습니다. 다른 검사들이 존재하는 이유이며, Claude Duet이 브라우저 사용 연구에서 소개한 프롬프트 인젝션 방어책도 함께 쓰는 이유입니다. 브라우저를 통해 업로드하는 파일에도 메시지와 같은 민감 정보 검사가 적용됩니다.

Claude Duet은 스스로를 에이전트로 밝히도록 설계되어 있습니다. 현재 웹 브라우저가 보내는 요청에는 고유한 User-Agent 헤더가 포함되고, 브라우징에 사용하는 공인 IP 주소도 공개하고 있어서 사이트가 Claude Duet을 알아보고 대응 방식을 정할 수 있습니다. 출시 전에는 대형 웹사이트 여러 곳에 연락해 Claude Duet의 방문을 차단할 수 있는 선택권도 드렸고, 일부 사이트는 차단을 선택했습니다. 리서치 프리뷰를 통해 배워 가며 Claude Duet이 자신을 밝히는 방식도 계속 다듬겠습니다.

Claude Duet은 이렇게 테스트했습니다

테스트는 리서치 프리뷰 훨씬 전에 시작했고 지금도 계속되고 있습니다. Safeguards 팀은 루틴 형태의 작업으로 평가를 만들었고, 각 작업을 세 가지 버전으로 구성했습니다. 문제 없는 버전, 지시를 주입한 버전, 요청받은 것보다 더 많은 일을 하도록 에이전트를 유혹하는 버전입니다. 이 평가는 실제 사용에서 가져온 섀도 트래픽과 함께 실행됩니다.

레드팀은 Claude Duet이 정보를 유출하거나, 승인 없이 행동하거나, 악의적인 프롬프트를 따르는지 추가로 시험했습니다. 저희는 시스템이 걸쳐 있는 저장소와 신뢰 경계 전반에 대한 위협 모델도 만들었습니다. 외부 침투 테스트 업체가 소스 코드 접근 권한을 가진 상태에서 Claude Duet을 테스트했고, 클라우드 브라우저와 로그인 양식을 다루는 후속 점검이 지금 진행 중입니다. 자격 증명과 관련된 새 기능은 누구에게 출시하기 전에 격리된 환경에서 먼저 레드팀 테스트를 거칩니다.

Claude Duet은 Anthropic의 공개 버그 바운티 프로그램 대상에도 포함됩니다. 이 프로그램은 책임 있는 공개 정책에 따라 유효한 제보에 보상을 드리고, 선의의 연구에는 면책(safe harbor)을 제공합니다. 보안 취약점을 발견하셨다면 꼭 알려 주세요. HackerOne의 Anthropic 버그 바운티 프로그램으로 제보하시면 됩니다.

사용자와 함께 만들어 갑니다

저희가 Claude Duet을 리서치 프리뷰로 공개하는 것은 개인용 에이전트에서 무엇을 중요하게 여기시는지, 어떤 보호 장치와 통제 기능이 더 필요하신지 알고 싶기 때문입니다. 여기서 설명한 내용 중 일부는 아직 바뀌는 중입니다. 승인을 요청하는 빈도, 로그인 방식, 민감 정보 검사가 개인 정보와 무해한 정보를 얼마나 잘 구분하는지가 그렇습니다. 바라는 점이나 문제가 생긴 상황을 Claude Duet에게 평소 말투로 알려 주시면, 저희 팀에 전달할 보고서를 작성해 접수합니다.