구글 딥마인드 창업자 하사비스, AGI 도달 시점 5년에서 2~3년으로 앞당겨

더 흥미로운 건 AI한테 자기 정체가 뭔지 추측해보라고 시키는 거임. 1901년 데이터에는 컴퓨터나 AI 개념이 없으니까, 그런 개념 없이도 자기가 LLM이라는 걸 알아내야 한다는 거지. 진짜 미친 거 같고 영화로 만들어도 될 듯.

그거 아주 좋은 리트머스 시험지네. 근데 아무도 속임수 안 쓴다는 보장이 어디 있어.

1901년 이전의 인류 데이터 총합은 아마 위키피디아보다도 훨씬 적을걸. 그리고 위키피디아 자체도 프론티어 모델들이 학습하는 데이터 양에 비하면 아주 작은 수준이고...

난 누가 그런 작은 데이터셋으로 학습하겠다는 생각을 한다는 거 자체가 개소리라고 봐. 지난 몇 년간의 성과는 전부 수집된 데이터의 질과 그걸 어떻게 활용했느냐에서 나온 건데 말이야...

어차피 대기업들 말고는 비용이 너무 많이 들어서 무리일 듯.

사실상 그게 진짜 AGI라면 말이지.

지금 시점에서는 길어야 2년, 아마 내년 4분기쯤 될 듯

난 향후 2년 안에 RSI가 일어날 가능성이 높다고 보는데, 그가 과거에 묘사했던 AGI는 새롭거나 수정된 아키텍처가 필요함. LLM으로 루프를 닫는 것만으로 샘플 효율성을 몇 배나 높이거나 지속적인 학습을 가능하게 할 근본적인 아키텍처 변화를 찾아낼 수 있을지는 불분명함.

내 기억엔 1년 전에도 팟캐스트 하나에서 이미 그렇게 말했던 것 같은데, 그 뒤로는 다시 언급도 안 하고 인터뷰마다 원래 하던 예측으로 돌아가더라고. 이번엔 진짜일지 한번 보자고.

진짜 다들 헤드라인만 보지 말고 실제 내용에 대해 댓글 좀 달았으면 좋겠음.