내 LLM 앱에서 데이터를 수집하지 않는다는 걸 어떻게 증명할 수 있을까?

그게 '근본적으로 해결 불가능'한 건 아니야(물론 현재로서는 실질적으로 해결 불가능한 게 맞지만).

이론적으로 이 문제를 해결하는 데 사용할 수 있는 아주 최근의 암호학적 기법 두 가지가 있어:

• 함수형 암호(Functional encryption): 네가 나에게 신경망(또는 임의의 함수)을 주면, 나는 암호문과 키를 도출할 수 있어. 그러면 너는 그 암호문에 대해 네 신경망(그리고 오직 그 특정 신경망만)을 실행하고, 키를 사용해서 신경망이 도출한 결과를 얻을 수 있지...

네가 쓴 그 긴 글 읽어보니까, 내가 쓴 건 제대로 읽지도 않았네. 내가 분명히 말했잖아, 데이터를 평문으로 보내거나 남들이 복호화할 수 있는 형태로 보내면 불가능하다고. 네가 언급한 방식들은 그런 경우가 아닌데 말이야.

너무 개인적으로 받아들일 필요 없어.

OP는 '데이터를 평문으로 전송하는 것'을 요구사항으로 말한 적이 없는데, 네가 그렇게 추측한 거잖아. 그리고 난 네가 그런 기술들을 잘 몰라서 그렇게 가정했다고 생각했어.

허, 오늘 새로 배웠네! 이론적으로 물리적 조작이 가능하다는 건 알고 있었지만, 그게 일상적으로 행해지는 줄은 몰랐어.

그래서 난 '80/20' 솔루션을 작업 중이야. 경영진이 이런 걸 요구하는 상황의 80% 정도는 해결할 수 있다고 보거든. FHE(동형암호)나 FE는 '제3자가 읽을 수 없는 데이터를 계산할 수 있는가?'라는 질문에 답을 주지. 위에서 말한 대로 LLM에 적용하기엔 지금은 우주의 종말만큼 느리긴 해.

하지만 '기밀성'을 말하는 대부분의 사람들은 그 정도까지는 필요 없어. 그들이 필요한 건 세 가지야: 제3자가 민감한 값을 의미 있는 방식으로 절대 볼 수 없을 것, 여전히 유용한 작업을 수행할 수 있을 것...

peer push에서 이거 봤어. 다운로드도 했는데... 질문이 좀 있어.

DM 보내.