기초 생물학 질문조차 허용되지 않는 건가요?

사실 이게 내가 AI에 대해 가진 두려움 중 하나야.

표준 자원들이 AI 때문에 접근하기 어려워지고 있어. 연구하고 정보에 접근하는 우리의 능력, 심지어 웹 검색 같은 것들조차 이제 AI에 의해 조정되기 시작했고, 우리의 일상과 관행이 AI에 의존하기 시작했지.

하지만 AI 기업들이 사용자에게 어떤 자원을 제공할지 결정하는 데 있어 상당한 영향력을 행사한다는 점도 중요해. 종종 안전이라는 명목하에 이루어지지만, 항상 그런 건 아니야. 예를 들어, Claude와 경쟁할 만한 무언가를 개발하는 방법을 묻기 시작하면 제한이 걸리기 시작할 거야. 특히 증류(distillation) 같은 걸 조사할 때 말이지. 이건 안전 문제라기보다는 시장 내 자신들의 위치를 보호하려는 성격이 더 강해(물론 안전 요소가 있다고 주장할 수도 있겠지만).

그렇다고 전통적인 학습 방식이 사라진다는 건 아니야. 문제는 다른 분야나 관행, 표준에서는 AI를 활용해 공부하고 배우고 구현하는 습관과 행동이 훈련될 텐데, 특정 분야들은 AI로 건드리면 차단당하거나 심지어 계정이 해지될 위험까지 있도록 따로 분리되어 있다는 거지.

그러니까 AI 튜터의 도움을 받아 물리학이나 수학은 마음껏 배울 수 있어. 하지만 화학이나 생물학의 특정 부분에 발을 들이기 시작하면 벽에 막히는 거야. 교과서와 강의로 돌아가야지. 하지만 그뿐만이 아니야. 감히 질문을 던지는 것 자체가 계정 해지 위험 때문에 위태로운 상황에 놓이게 만들어.

그래서 위축 효과가 생기는 거야. AI 기반의 매우 효율적인 프로세스에 맞춰 습관과 워크플로우를 구축했을지도 모르지. 아마 배우는 것에 관심이 많은 호기심 많은 사람일 수도 있고. 그런 사람들은 단순히 이런 주제들을 피하게 될 거야. 왜냐하면 이런 것들을 배우기 위해 도서관 카드가 필요하거나 대학에 등록할 필요가 없으니까. 그냥 계정 제한이나 플래그가 찍히는 걸 피하려고 주제 자체를 멀리하게 되겠지. 이건 일반적인 지식, 팩트 체크를 하거나 학생이나 일반인들이 기본적인 개념을 이해하도록 돕는 우리의 능력이 완전히 금지된 건 아니더라도, 일상적인 관행에서 벗어나게 된다는 걸 의미해.

AI 이전에는 구글 검색을 통해 이런 것들을 배울 수 있는 온라인 자원을 찾을 수 있었잖아. 지금도 할 수는 있지만, 만약 그전에 생물학에 대해 검색하려고 할 때마다 검색이 차단되고 IP가 잠재적 오용으로 플래그되었다는 메시지를 받는다고 상상해 봐. 물론 대학 도서관으로 돌아가서 책을 빌릴 수는 있겠지, 근처에 대학이 있고 그럴 능력이 된다면 말이야. 하지만 그건 지식에 큰 장벽을 세우는 꼴이 될 거야.

지금 당장 우리가 처한 상황은 아니야. 여전히 생물학 주제에 대해 온라인 조사를 할 수는 있지. 하지만 검색 엔진들도 AI 쪽으로 움직이고 있고, 검색 엔진의 품질은 떨어지고 있으며 검색 기능을 개선하는 것보다 AI에 더 집중하고 있어. 그래서 시간이 지날수록 이런 자원들은 찾기 점점 더 어려워질 거고, 생물학 전공자는 여전히 자원에 접근할 수 있겠지만, 우리가 나머지 95%의 모든 것을 배우는 방식과는 다른 경로를 이용해야 할 거야. 그리고 특정 기관 밖에 있는 사람들은 인터넷이 생긴 이래로 누려왔던 주제에 대한 가시성을 잃게 되겠지.

내 다른 두려움은 이게 다른 주제들로도 번질 수 있다는 거야. 아이러니하게도 대부분의 지식은 손끝에 있지만, 몇몇 주제들은 완전히 벽으로 막혀버리면서 우리는 세상을 배우고 이해하는 능력을 집단적으로 잃게 될 거야.

내 생각엔 Haiku로는 안전성을 장담할 수 없어서 Opus로 넘기는 것 같아. 그 경우라면 Opus로도 충분히 많은 작업을 처리할 수 있으니까.