내 전문 분야에 Fable을 전혀 활용할 수가 없음

나는 재생 에너지, 그중에서도 유기성 폐기물을 에너지로 바꾸는 일을 해. 내 전문 분야는 소비 전후의 폐기물을 처리해서 탄소 네거티브 천연가스를 뽑아내고, 영양분을 회수해서 토양 개량제를 만드는 혐기성 소화조를 설계, 구축, 운영하는 거야. 폐기물 포장 제거 시스템의 제어 자동화도 하는데, 이게 몇 년 지나니까 머신러닝 쪽으로 발전하더라고.

난 모두를 위해 더 나은, 더 깨끗한 미래를 만들고 쓰레기를 자원으로 바꾸는 데 내 인생을 바쳤어.

난 Anthropic에 거금을 내고 있어. 일부러 그러는 거야. 이 두 가지 기술 스택을 다 가진 동료를 찾기가 진짜 하늘의 별 따기거든.

솔직히 말해서 내 핵심 업무랑 관련된 일에는 Fable을 아예 쓸 수가 없어. 뭘 하려고만 하면 바로 4.8 모델로 강등당하는데, 선택권도 없어. 4.8 모델은 뭐만 하면 사소한 걸로 꼬투리 잡으려는 놈이랑 일하는 것 같은 피로감을 줘. 의미 없는 말장난이나 하면서 숲은 못 보고 나무만 보는 엔지니어들은 널리고 널렸는데, 굳이 돈 내면서까지 그런 짓 하는 모델을 쓸 이유가 없잖아. 프로포마(proforma) 작업조차 제대로 못 한다니까.

진지하게 묻고 싶은 게 있는데, 악의적인 사용자와 선의의 사용자를 구분도 못 하는 모델이 도대체 얼마나 똑똑하고 정렬(alignment)이 잘 된 거야? 성능 높이겠다고 모델에 데이터만 때려 박고 있는데, 고정된 제약 가드레일을 추가할수록 정렬 문제는 더 심각해지기만 하잖아.

Anthropic은 자기네 툴 쓰는 사람들을 일일이 다 검증할 생각인가? 누가 걔네를 지식의 심판관으로 뽑아줬지?

복잡한 세상에서 복잡한 입력을 처리해야 하는데, 고정된 가드레일이랑 RLHF는 그냥 망하는 지름길이야. 업계 전체가 잠시 멈추고, 데이터 양으로 성능만 올리려다 규칙으로 정렬 문제 해결하려는 짓은 그만둬야 해. 정렬 문제 해결에 자원을 집중해야 한다고. 사용자마다 상황도 다르고 능력도 다른데, 모델은 그에 맞춰서 행동을 바꿀 수 있어야지.

우리는 고작 지식에 대한 접근 권한, 그리고 거기서 오는 경쟁 우위를 독점하려고 우주의 열적 죽음을 앞당기고 있는 꼴이야. 이런 추세가 계속되면 경제적으로도 엄청나게 골치 아픈 문제가 생길 거야. 대기업들이 가진 툴에 접근하지 못하는 영세한 사람들은 다 도태될 테니까.

내가 보기엔 진짜 근시안적인 짓거리야.