OpenAI Work leaking other peoples data.
OpenAI Work 사용 중 타인의 프로젝트 코드가 내 프롬프트처럼 삽입되는 데이터 유출 의심 사례가 보고됨.
내 코드 좀 봐달라고 codex work한테 시켰더니, 전혀 상관없는 deliveroo 팀 프롬프트를 가져오네. 내 데이터도 다른 사용자 화면에 줄줄 새고 있을 거란 소리잖아. 와, 진짜 소름 돋네.
사용자들은 Codex의 자동 제안 기능에서 타인의 데이터가 유출되는 현상에 대해 심각한 우려를 표하며 보안 문제를 지적하고 있습니다.
보시다시피, 이 PR에 뭔가 이상한 일이 벌어지고 있네요. Codex의 자동 제안 프롬프트와 관련된 것 같아요.
그쪽 레포지토리가 공개인 거 같은데, 학습 데이터의 일부인 듯.
LLM의 응답이 아니라, 마치 내가 직접 입력한 것처럼 채팅에 추가됐음.
소름 돋네. 사용 기록 확인해 봤어? 혹시 누가 네 계정 쓰고 있는 건 아닌지 확실해?
더 자세한 설명 가능함?
내 프롬프트 텍스트를 채팅 메시지에 넣었더니, 채팅을 기존 프로젝트 중 하나에 추가할 거냐고 묻더라. 그걸 클릭했더니 그 텍스트가 마치 내가 직접 입력한 프롬프트처럼 나타났음. 다시 메시지를 보냈더니 GPT가 그게 Deliveroo 프로젝트랑 무슨 상관인지 이해를 못 하더라고. 내 OpenAI 계정에 없는 다른 프로젝트에 추가된 게 분명함. 위 메시지를 내가 보낸 것처럼 표시된 게 제일 걱정되는 부분임...
과거에 이런 일이 있었을 때마다, 사람들은 그게 진짜 다른 사람 데이터를 가져온 게 아니라 모델이 hallucination을 일으킨 걸 가능성이 더 높다고 했음.
LLM 응답 영역이었으면 모르겠는데, 평소 내 프롬프트가 렌더링되는 오른쪽 사이드바에 떴단 말이지.
지난주에 프로젝트 간 에이전트 통신 기능이 새로 생겼는데, 그거랑 같은 거 아님? 나도 에이전트 여러 개 돌리는데, 지난주부터 서로 다른 프로젝트끼리 작업을 주고받기 시작해서 좀 혼란스러웠음.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.