Israeli researchers develop method letting AI teach itself without human-generated data
인간 데이터 없이 AI가 스스로 학습하는 새로운 연구 방식에 대해 정치적 반감과 냉소적인 반응이 이어지고 있습니다.
jpost.com
원문 사이트로 이동
AI의 자가 학습 기술 발전에 대한 우려와 규제의 실효성에 의문을 제기하는 반응이 주를 이룸.
댓글들 읽어보니까 레딧이 얼마나 쓰레기장인지 다시금 깨닫게 되네.
논문은 안 읽어봤는데 이게 GAN이랑 뭐가 다른 거임?
이 기사에 유료 결제 장벽 같은 게 있는지 확실하지 않지만, 빙에서 제목을 검색하면 많은 기사를 찾을 수 있음:
텔아비브 대학교(TAU)와 스탠퍼드 대학교 연구진이 AI 시스템이 인간이 생성한 콘텐츠나 외부 데이터셋에 의존하지 않고 서로를 가르치며 예측 능력을 향상할 수 있는 새로운 AI 학습 방식을 개발했다고 TAU가 수요일 발표함.
'유대인 ≠ 이스라엘'이라는 말 기억하지? 서로 다른 국가의 여러 기관도 마찬가지임. 내 말은 테헤란 대학교가 곧 이란을 의미하는 게 아니고, 스탠퍼드 대학교가 미국이나 캘리포니아를 의미하는 게 아니며, 텔아비브 대학교가 이스라엘을 의미하는 게 아니라는 뜻임. 어쨌든
연구진은 두 개의 AI 모델을 포함하는 학습 시스템을 만들어 이 개념을 테스트함. 하나는 기호 시퀀스를 생성하는 임무를 맡았고, 다른 하나는 다음에 어떤 기호가 나타날지 예측하려고 시도함.
이 과정에서 모델들이 문서, 사진 또는 기타 외부 소스를 참조할 필요는 없었음. 대신 학습 자료는 시스템 내부에서 자체적으로 생성됨.
연습이 진행됨에 따라 시퀀스를 생성하는 모델은 파트너의 성능을 향상할 수 있는 과제를 만드는 데 점점 더 정교해짐. 반대로 두 번째 모델은 그러한 문제를 해결하려고 반복적으로 시도하면서 더 강력한 예측 능력을 갖추게 됨.
이 접근 방식은 AI 시스템이 점점 더 어려운 연습 문제를 생성하고 해결하는 지속적인 과정을 통해 학습 기술을 효과적으로 개발할 수 있게 함.
자아란 무엇인가?
연구진은 이러한 기술이 인공적인 학습 환경 너머에도 적용될 수 있는지 확인하기 위해, 문어, 이미지, 오디오, 음악, 컴퓨터 코드, DNA 시퀀스 등 여러 유형의 정보에 대해 결과 모델을 평가함.
실험 결과, 학습에 더 많은 컴퓨팅 자원이 할당될수록 예측 정확도가 높아졌으며, 이는 컴퓨팅 용량이 확장됨에 따라 이 방법이 더 효과적일 수 있음을 시사함.
정치는 제쳐두고, 개념적으로는 GAN이랑 비슷한 거 같은데.
GAN은 사람이 큐레이션한 데이터에 의존함. 이건 우리가 의인화해서 'AI가 다른 AI를 가르친다'는 식으로 포장하는 학습 알고리즘일 뿐임.
댓글들 수준 처참하네. 왜 레딧은 이렇게 뻔한 집단 사고만 하는 거냐? 너무 예측 가능하잖아! 깊이도 없고.
제목에 이스라엘이랑 AI가 들어갔네. 외국 봇 네트워크들 자극하기엔 충분하지.
이래서 미국 차원에서 속도 조절 법안을 만들어봤자 절대 안 통하는 거임.
“해자 같은 건 없다.”
누군가는 계속 밀고 나갈 거니까. 외국 정부든, 테크 브로든, 사우디 왕자든. 누군가는 무조건 함.
지금 시점에서 법안은 전 세계적으로 적용되어야만 의미가 있음. 안 그러면 그냥 승자만 바뀌는 꼴이지.
봇들이랑 멍청이들 진짜 난리 났네 ㅋㅋ
아마 그냥 'israel' 들어간 제목만 보고 낚인 듯. 'israeli'랑은 다른 건데 그것도 모르고.
자신들을 전멸시키려는 테러 단체들에 둘러싸인 이 작은 나라가 여전히 세상에 이렇게 많은 기여를 할 수 있다는 게 놀라울 따름이다.
뭐, 우린 다 망했네 ㅉㅉ
이번 연구 결과는 패턴을 인식하는 법을 배우는 것과 세상에 대한 지식을 습득하는 것 사이의 중요한 차이점도 확립함.
이건 내가 최근 댓글에서 설명했던, AI가 학습하는 방식이 아니라 우리가 학습하는 방식(첫 번째 인용 단락 이후 내 말로 설명한 것보다 개념적으로 훨씬 더 유사한 두 가지)에 대한 것과 같음:
나에게 이 점이 떠오르게 하는 것은, 특히 소설 작품에 관해서는 사소한 사실들의 긴 목록을 암기하는 것이 완전히 역효과를 낸다는 점임. 모든 의미에서 역효과를 낸다는 뜻임. 그에 이어지는 것은 비소설 작품에 대한 사소한 사실들의 긴 목록을 암기하는 것 또한 역효과를 낸다는 것임. 이것의 역설적인 부분은, 고통(부정적 강화)이 모든 학습에 필요하다는 개념에 따라 때로는 역효과가 좋은 것일 수도 있다는 점임. 하지만 이유 없는 고통, 혹은 그 고통을 겪는 개인과 관련 없는 이유로 인한 인위적인 고통은 역효과를 낼 뿐만 아니라 기능 장애를 일으키며, 어떤 좋은 결과도 가져올 수 없다는 점을 언급할 필요가 있음. 맞음.
다음으로 넘어가서. 역설적이라는 단어 바로 뒤에 나온 그 부분에서 내가 의미한 것은 사소한 사실들의 목록을 암기하는 것이 실제로 학습에 필요하다는 것임. 이것이 우리가 현대 사회에서 이렇게 어려운 처지에 놓인 이유 중 일부임. 하지만 그게 가장 어렵거나 문제가 되는 부분은 아님. 왜냐하면 일반적인 시행착오를 통해 비교적 간단하게 알아낼 수 있기 때문임. 모든 인간, 개개인은 매우 똑똑하고, 우리 뇌가 정점에 있는 포식자인 데는 이유가 없음: 우리는 무엇이 효과가 있고 무엇이 없는지 본질적으로 알고 있음.
AI로 그렇게 될 거라곤 생각 안 하지만, 예를 들어 우리는 미러 라이프 연구를 다 같이 중단한 적이 있긴 함.
Astra에게 자유 시간을 줬더니 그림판으로 직접 색상 코드를 골라 그림을 그렸습니다.
Astra에게 자유 시간을 줬더니 그림판으로 직접 색상 코드를 골라 그림을 그렸습니다.
챗GPT의 재치 있는 답변에 사용자들이 샘 알트만의 RAM 도둑질 농담을 이어가며 즐거워하는 모습입니다.
챗GPT의 재치 있는 답변에 사용자들이 샘 알트만의 RAM 도둑질 농담을 이어가며 즐거워하는 모습입니다.
OpenCode를 활용해 36개의 서브 에이전트로 복잡한 워크플로우를 효율적으로 자동화한 사용자 사례입니다.
OpenCode를 활용해 36개의 서브 에이전트로 복잡한 워크플로우를 효율적으로 자동화한 사용자 사례입니다.