r/Anthropic•3개월 전•484•94논쟁

주의: Persona는 Palantir와 다름없다

A Reminder: Persona is Palantir

핵심 요약

Anthropic의 ID 인증 도입이 감시 국가의 도구로 악용될 수 있다는 우려를 제기하며 사용자들에게 대안을 고려할 것을 촉구함.

ID 인증 위험성 — 생체 정보가 정보기관의 감시망과 연동될 가능성 제기
Persona의 실체 — 정치인 및 고위직 데이터베이스와 대조하는 감시 메커니즘
정부 감시 우려 — FINTRAC 등 정보기관 프로그램과의 연계 가능성 경고
사용자 선택권 — 감시 체제에 순응할지 아니면 대안을 찾을지 결정해야 할 시점

Discord 사태에서:

https://www.reddit.com/r/pcgaming/comments/1r3q4dd/discord_is_pulling_a_privacy_baitandswitch/

Persona 프론트엔드를 분석한 보안 연구원들의 의견은 다음과 같음:

https://vmfunc.re/blog/persona

챗봇을 쓰려고 셀카를 업로드했지? 축하해!!! 이제 네 얼굴은 지구상의 모든 정치인, 국가 원수, 그리고 그들의 방대한 가계도 데이터베이스와 비교될 거야. 유사도 점수가 매겨지지. 낮음, 중간, 높음. 기계가 네 얼굴을 보고 스스로에게 물었어: "이 사람이 몰도바 재무부 차관이랑 닮았나?" 그리고 대답했지. 그리고 그 대답을 기록했어.

만약 Anthropic이 Persona의 ID 인증을 요구한다면, 다른 AI 옵션을 고려해 볼 좋은 시기야. 너는 경찰 국가 기구의 일부가 되도록 설계된 운영체제에 네 생체 정보를 넘겨주는 꼴이 될 거야. 이건 과장이 아니야. 보고서에 따르면 네 ID와 생체 정보는 제출되어 현재 진행 중인 정보 작전과 대조될 거야:

그리고 상황이 더 나빠져야 했기 때문에, 이런 것도 있어:

// FINTRAC 민관 협력 정보 프로그램 publicPrivatePartnershipProjectNameCodes: { const: 1, title: 'Project ANTON' } { const: 2, title: 'Project ATHENA' } { const: 3, title: 'Project CHAMELEON' } { const: 5, title: 'Project GUARDIAN' } { const: 6, title: 'Project LEGION' } { const: 7, title: 'Project PROTECT' } { const: 8, title: 'Project SHADOW' }

이것들은 실제 FINTRAC 민관 협력 정보 프로그램들이야. 이 양식은 제출자가 자신의 의심스러운 거래 보고(STR)를 특정 정보 작전과 이름으로 연결할 수 있게 해줘… 그리고 그것들은 드롭다운 메뉴에 하드코딩되어 있지…

지금 이 순간은 냄비가 끓을 때 안에 머물지 아니면 밖으로 뛰쳐나갈지 결정해야 하는 그런 순간 중 하나야.

원문

커뮤니티 목록

r/Anthropic•3개월 전•484•94논쟁

주의: Persona는 Palantir와 다름없다

A Reminder: Persona is Palantir

핵심 요약

Anthropic의 ID 인증 도입이 감시 국가의 도구로 악용될 수 있다는 우려를 제기하며 사용자들에게 대안을 고려할 것을 촉구함.

ID 인증 위험성 — 생체 정보가 정보기관의 감시망과 연동될 가능성 제기
Persona의 실체 — 정치인 및 고위직 데이터베이스와 대조하는 감시 메커니즘
정부 감시 우려 — FINTRAC 등 정보기관 프로그램과의 연계 가능성 경고
사용자 선택권 — 감시 체제에 순응할지 아니면 대안을 찾을지 결정해야 할 시점

Discord 사태에서:

https://www.reddit.com/r/pcgaming/comments/1r3q4dd/discord_is_pulling_a_privacy_baitandswitch/

Persona 프론트엔드를 분석한 보안 연구원들의 의견은 다음과 같음:

https://vmfunc.re/blog/persona

챗봇을 쓰려고 셀카를 업로드했지? 축하해!!! 이제 네 얼굴은 지구상의 모든 정치인, 국가 원수, 그리고 그들의 방대한 가계도 데이터베이스와 비교될 거야. 유사도 점수가 매겨지지. 낮음, 중간, 높음. 기계가 네 얼굴을 보고 스스로에게 물었어: "이 사람이 몰도바 재무부 차관이랑 닮았나?" 그리고 대답했지. 그리고 그 대답을 기록했어.

그리고 상황이 더 나빠져야 했기 때문에, 이런 것도 있어:

// FINTRAC 민관 협력 정보 프로그램 publicPrivatePartnershipProjectNameCodes: { const: 1, title: 'Project ANTON' } { const: 2, title: 'Project ATHENA' } { const: 3, title: 'Project CHAMELEON' } { const: 5, title: 'Project GUARDIAN' } { const: 6, title: 'Project LEGION' } { const: 7, title: 'Project PROTECT' } { const: 8, title: 'Project SHADOW' }

이것들은 실제 FINTRAC 민관 협력 정보 프로그램들이야. 이 양식은 제출자가 자신의 의심스러운 거래 보고(STR)를 특정 정보 작전과 이름으로 연결할 수 있게 해줘… 그리고 그것들은 드롭다운 메뉴에 하드코딩되어 있지…

지금 이 순간은 냄비가 끓을 때 안에 머물지 아니면 밖으로 뛰쳐나갈지 결정해야 하는 그런 순간 중 하나야.

주요 댓글

r/anthropic

사용자들은 Anthropic의 Palantir 파트너십과 정부의 감시 체계에 대해 깊은 우려를 표하며, 자유 시장의 한계와 정부 규제의 영향력을 중심으로 논의하고 있습니다.

최상급 모델 쓰려고 신분증 인증하는 건 괜찮음. 근데 Palantir는 절대 안 됨. 나한테는 그게 마지노선임.

ㄹㅇㅋㅋ. 좋아하는 LLM에 MAGA 관련해서 나쁜 말 한마디 했다가 비행기 타는 건 꿈도 꾸지 마라. 2등 시민(혹은 그 이하)으로 전락하고 사회적 신용 점수는 마이너스 무한대 찍겠지... 네 모든 LLM 대화가 Real ID®랑 영구적으로 연결될 테니까. 게다가 현재나 미래의 AI가 네 대화에서 유추해낼 수 있는 속마음까지 다 털릴 거임.

💯. 사람들은 항상 "아니야, 우린 북한이나 러시아 같은 곳이 아니니까 숨길 게 없어..."라고 생각하지. 그래, 중동의 그 특정 국가에 대해 질문 한번 해봐라. 어떻게 되나.

에휴, 이건 너무 호들갑인데.

더 그럴듯한 시나리오: 반-MAGA 관련 검색을 하면 리스트에 올라감. 만약 당신이 트럼프와 경합 중인 지역의 미국 진보 성향 유권자라면, Palantir가 당신의 투표용지를 범죄로 분류해서 국내 테러 혐의로 자동 삭제해버릴걸. 당신은 투표가 집계되지 않았다는 사실조차 모를 거다.

이 의견에 동의함. 나 개인적으로는 Fable로 더 넓은 범위의 생물학적 기능에 접근할 수 있다면 신분증 제출할 의향은 있음. 근데 Peter는 대놓고 자기를 악마라고 부르잖아.

그리고 그냥... 테크 기업이 누구든 간에 그 빌어먹을 생체 정보는 넘기지 마라.

전 세계 기술직 종사자들이라면 누구나 가지고 있고, 이미 신원 정보가 안전하게 저장된 기기가 있다면 얼마나 좋을까. 틸이랑 그 이상한 인셀 친구들은 엿이나 먹으라지.

Anthropic은 2024년쯤부터 Palantir와 파트너십을 맺어왔음

-1

왜?

Palantir는 매우 정치적인 기업임.

LLM을 쓰려고 ID 인증까지 하는 건 말도 안 됨. 도입되는 즉시 난 탈퇴할 거임.

문제는 지금 당장 해지할지, 아니면 기다렸다가 ID 제출 안 하고 로그인 막히기 전에 해지할지 고민이라는 거지.

자본주의의 문제는 금방 그 시스템에 엮이게 된다는 거야. 만약 빅3가 주력 모델에 ID 인증을 요구하면, 그 대가를 기꺼이 지불할 사람들이 생길 거고, 그들은 로컬 모델을 쓰는 사람들보다 훨씬 뛰어난 성능을 누리게 되겠지(난 로컬 모델을 지지하지만 말이야).

원문r/Anthropic