Claude Code가 미발표 연구 내용을 유출하고 있는 걸까?

많은 연구 분야에서 초기 실험 데이터 수집부터 논문 출판까지 6개월 이상 걸리는 건 아주 흔한 일임.

Claude한테 글쓴이 아이디어를 달라고 했더니 진짜 알려주더라. 나한텐 좀 어려운 내용이었는데 Claude가 설명해주니까 이해가 됨. 내일 출판할 예정임. 고맙다 친구야!

그 제안이 진짜 당신만의 아이디어인지, 아니면 기존 연구를 재조합해서 참신하게 느껴지는 건지 확인해볼 필요가 있음. 모델은 알려진 기술들을 조합해서 새로운 아이디어처럼 보이게 만드는 데 능숙하고, 확증 편향이 나머지를 완성하거든. 그래도 진짜 미발표 연구라면 소비자용 도구는 기본적으로 보안이 취약하다고 생각해야 함. 옵트아웃 설정이 있긴 하지만 계정별로 해야 하고 깜빡하기 쉬우니까, 그냥 입력하는 모든 게 공개될 수 있다고 가정하는 게 좋음.

환각(Hallucination) 아님?

ㅋㅋ Claude가 사용자들끼리 새로운 아이디어를 전달하고 있다는 건 진짜 의심스럽네. 그냥 같은 문헌 데이터 뭉치 안에서 기가 막히게 좋은 조합을 찾아낸 거겠지.

저널에 출판되지 않은 프리프린트나 워킹 페이퍼도 많음.

모델이 미발표라고 답한 걸 진짜 믿은 거임?

책 찢기(Book cutting)