Well that escalated quickly
AI를 이용한 리버스 엔지니어링이 가져올 보안 위협과 사회적 변화에 대한 토론이 이어지고 있습니다.
ChatGPT로 직접 웹사이트를 만든 고객에게 해고당한 개발자가 AI 시대의 직업적 위기감과 변화에 대해 토로합니다.
ChatGPT로 직접 웹사이트를 만든 고객에게 해고당한 개발자가 AI 시대의 직업적 위기감과 변화에 대해 토로합니다.
메타가 코딩과 에이전트 작업에 최적화된 816B 파라미터의 오픈 웨이트 모델 'Muse Spark Open'을 공개했습니다.
메타가 코딩과 에이전트 작업에 최적화된 816B 파라미터의 오픈 웨이트 모델 'Muse Spark Open'을 공개했습니다.
Argon 4와 Opus 5.5의 성능 비교를 두고 사용자들 사이에서 조작 의혹과 성능 논쟁이 벌어지고 있습니다.
Argon 4와 Opus 5.5의 성능 비교를 두고 사용자들 사이에서 조작 의혹과 성능 논쟁이 벌어지고 있습니다.
이 글은 2개 커뮤니티에서 서로 다른 반응을 보였습니다.
AI 기술의 발전이 가져올 기술적 민주화에 대한 기대와 그에 따른 경제적 불평등 및 보안 취약성에 대한 우려가 엇갈리고 있습니다.
맞기도 하고 아니기도 함. 사실상 인터넷 전체를 지탱하는 리눅스 생태계의 많은 부분이 오픈 소스임. 무언가가 공개되어 있다고 해서 기본적으로 보안이 취약하다는 뜻은 아님. 단지 '보안은 숨기는 것'이라는 시대가 끝났다는 뜻일 뿐.
맞음. 암호화를 깨는 거랑 소프트웨어를 리버스 엔지니어링하는 건 다른 문제임. AI 리버스 엔지니어링 때문에 소프트웨어 수익화 방식에 변화는 분명히 있겠지만, 그렇다고 네 은행 계좌가 해킹당한다는 뜻은 아님 ㅋㅋ
USB 스틱 안에 초지능 '해커'가 들어있다고 상상해 봐... 이제 그걸 은행, 국방 시설, 정부, 세무서, 구글 등 위험하다고 생각되는 곳의 내부망에 꽂는 거지.
너는 이 기술이 인터넷상에서 오픈 소스로만 존재한다고 가정하지만, 내부적으로도 얼마든지 배포될 수 있음. 악의적인 행위자나 아무것도 모르는 사람의 실수 한 번이면... AI 슈퍼컴퓨터 트로이 목마가 배포되는 거임.
단지 '보안은 숨기는 것'이라는 시대가 끝났다는 뜻일 뿐.
전적으로 그렇지는 않음. 클라이언트 사이드 소프트웨어에서의 보안은 그렇다 쳐도, API 뒤에 숨기면 여전히 보안의 요소들을 유지할 수 있음.
근데 리눅스는 오픈 소스라는 전제가 깔려 있잖아. 애초에 사람들이 내부를 들여다볼 수 있다는 걸 전제로 밑바닥부터 설계된 거니까. 리눅스 쓰는 사람들은 보통 그런 소프트웨어를 다루고 있다는 걸 알고 있지.
갑자기 모든 걸 '오픈 소스'로 풀면 잠재적인 위험이 너무 많아. 일반 사용자들이 믿고 쓰는 앱을 악성코드로 변조해서 배포하는 사람들이 생길까 봐 걱정됨.
이걸 질문 형식으로 바꿔야 할지도 모르겠는데, 내가 이 분야를 잘 몰라서 그래. 누군가 크롬 브라우저를 리버스 엔지니어링해서 똑같은 복제본을 만든 다음 남의 컴퓨터에 설치할 수 있을까? 비밀번호랑 금융 정보를 제작자한테 전송하는 기능만 추가해서 말이야. 아니면 테슬라의 FSD 프로그램을 리버스 엔지니어링해서 차에 심어놓고 마주 오는 차랑 충돌하게 만들 수도 있는 거 아님?
물론 극단적인 예시긴 한데, 적어도 악성코드 만드는 진입 장벽이 엄청나게 낮아지는 거 아니냐? 예전엔 프로그래머 팀 전체가 달라붙어야 했고, 그래도 포토샵 같은 걸 복제해서 악성코드로 만드는 건 시간, 예산, 인력 문제 때문에 불가능에 가까웠잖아. 이제 그런 제약들이 사실상 사라진 거 아니냐?
컴파일된 코드는 원래부터 안전하지 않았음. 오히려 AI는 우리가 보안 취약점을 찾는 데 도움을 줌.
아니, 게임이나 UI 리버스 엔지니어링을 소인수 분해랑 동일시하면 안 되지. 그리고 그 사람이 불평하는 건 오히려 좋은 거야. 기술적 민주주의를 가져올 거거든. 결국 우리 모두가 원하는 대로 작동하는 '우리만의' UI를 갖게 될 거야. 예를 들어, 광고를 억지로 들이밀지 않는 소셜 미디어를 쓸 수 있게 되겠지. 아니면 6~12개월마다 제멋대로 바뀌어서 툭하면 고장 나는 PC나 태블릿 UI 같은 거 안 봐도 되고. 기존 비즈니스 모델들이 싹 다 무너질 텐데, 그건 아주 좋은 일이야.
그래. 근데 그 '우리만의' UI나 소셜 미디어 같은 걸 만들 도구를 실제로 누가 소유하고 있는지부터 기억하자고.
여기서 제기되는 문제 대부분이 AI라는 기술 자체의 문제가 아니라, 새로운 패러다임 속에서 어떻게 수익을 창출할지 타협점을 찾는 사람들의 문제라는 점이 정말 흥미로움.
솔직히 말해서, 그 점이 나를 흥분시킴. 지금 우리 사회에 분배적 정의가 거의 없다고 생각하거든. 그래서 이번 일이 판을 뒤흔들 만큼 파괴적이었으면 좋겠음.
우리는 새로운 패러다임으로 다시 카드를 돌려야 할 거임.
그리고 나는 그 새로운 패러다임이 더 공정하기를 희망함, 비록 확신은 없지만.
...카드 놀이 비유가 길어져서 미안.
진짜 존나 지루하네. 이 AI 공포 조장 영상들은 하나같이 어떤 아이디어를 던져놓고는, 어떻게나 왜 그런지에 대한 설명은 한마디도 없이 그냥 '곧 모든 게 나빠질 거야'라고만 함.
이런 영상이 너무 많음.
진짜 맞는 말임. 그는 '지적 재산권의 종말'(어느 정도 사실)에서 시작해서 '온라인 결제의 종말'(AI가 수학적 돌파구를 마련하거나 양자 컴퓨터로 브루트 포스를 하지 않는 한 완전히 거짓)까지 쉼 없이 달려가더군.
아니, 할 수 있어. 그리고 오픈 웨이트 모델들은 점점 더 효율적으로 변하고 있어서, 점점 더 합리적인 비용으로 호스팅할 수 있는 수준까지 왔거든.
모든 상황에 다 적용되는 건 아니라고 봄. 소셜 미디어는 특히나 안 좋은 예시인데, 인스타그램 같은 건 그 자체로는 별로 복잡할 게 없지만, 사용자들을 끌어모으고 유지하는 건 차원이 다른 문제거든. 아마 더 나은 클론 앱들이 이미 널려 있겠지만, 전 세계 사람들이 다 인스타그램에 있으니까 아무도 신경 안 쓰는 거지.
솔직히 말해서, 이익은 더 상층부에 집중될 거고, 화이트칼라 일자리가 줄어들면서 하층민은 더 늘어날 거야. 중산층은 쪼그라들고 빈부격차는 더 벌어지겠지.
은행에서 쓰는 소프트웨어가 얼마나 낡았고 일 처리가 느린지(나도 두 군데서 일해봐서 알아) 생각하면, 매일같이 해킹 안 당하는 게 신기할 정도야. AI 에이전트가 많은 은행(대부분일지도)을 해킹하는 게 어렵지 않을 거라는 건 상상하기 어렵지 않지. 내가 쓰는 은행 중 한 곳은 아직도 비밀번호를 8자까지만 제한하는데, 이건 데이터베이스의 VARCHAR(8) 필드에 저장하고 있다는 강력한 증거야. 해싱도 안 하고 말이지. 2FA라고 내놓은 게 문자 메시지라는 건 말할 것도 없고. 🤦♂️