'무엇이든 역공학': AI 기업들이 사람들이 AI로 하던 가장 멋진 일을 막고 있다

이거 진짜 마음에 든다. 사람들이 BMW를 리버스 엔지니어링해서 이미 돈 내고 산 열선 시트 잠금 해제하는 날만 기다리고 있음.

맞아. 게다가 다리오 등이 계속 주장하듯이 LLM이 계속해서 더 좋아진다면, 역공학은 그의 걱정거리 중 가장 작은 게 될 거야. 왜냐하면 그들은 단순히 소프트웨어가 어떻게 사용되는지 관찰하고 그걸 바탕으로 다시 만들어낼 수 있을 테니까. 로직 흐름 말이야. 가드레일을 얼마나 많이 세울 수 있겠어? 이 모델들이 얼마나 강력해질지는 모르겠지만, 연구 분야에서 발전이 둔화되는 징후는 전혀 보이지 않으니... ^^'

수정: 내 말은, 대안이 인위적으로 부족해지는 상황이 올 거라는 거야. 모델이 어떤 소프트웨어 엔지니어보다 똑똑하다고 가정해 보자. 엔지니어는 주로 설계도나 사양 등을 준수하는지 확인하는 역할만 하겠지. 하지만 프로젝트의 99%에서 엔지니어는 실제로 코딩을 하거나 수정하는 게 아니라, 그냥 누군가 지켜보고 있다는 느낌을 원해서 있는 거잖아. 그래서 그 시점이 되면, TV 제조사가 "우리 스마트 TV 소프트웨어는 역공학할 수 없습니다"라고 말해도 소비자는 "문제없어. 그냥 당신네 스마트 TV OS를 삭제하고 대신 이 커뮤니티 LLM 기반 OS를 설치해서 쓸게"라고 할 수 있다는 거지. 그리고 그건 엄청나게 쉬울 거야. 거의 노력도 안 들겠지.

일본은 이미 학습은 공정 이용이라는 저작권법을 통과시켰어.