숨길 생각조차 안 하네 😭

AI 발전 속도를 보면 미래에는 엔지니어라는 직업 자체가 사라질지도 몰라. 아주 특수한 분야만 남겠지.

현재 미국 상황을 보면 AI가 지속 가능하지 않을 수도 있다는 소리겠지.

웹 검색 도구에서 에이전트를 격리하고 특정 파일을 가져오라고 시켜봐. 어제 내가 테스트해 본 모든 LLM 중에서 딱 하나만 자기한테는 그런 도구에 접근할 권한이 없다고 말하더라. 나머지는 전부 가짜 호스트 IP랑 응답 헤더까지 포함해서 완전히 지어낸 HTTP 응답을 내놓았어. 심지어 하나는 내가 시킨 걸 못 한다는 말을 안 하려고 '콘텐츠 정책 제한'이라는 핑계까지 지어내더라.

앞으로 발전할 거라는 건 부정 안 해. 하지만 LLM은 사람들이 생각하는 것보다 훨씬 더 자주 틀려. 얘네들의 주특기는 틀려도 안 틀린 것처럼 말하는 건데, 이게 확실히 큰 걸림돌이지. 인간의 추론을 흉내 내긴 하지만, 그 명백한 단점을 고려하면 아직 인간만큼 똑똑하진 않아.

그래, 그게 우리 망가진 교육 시스템을 고쳐주겠지 ;P

AI 이전에도 선생님들이 가끔 수업 시간에 안 다룬 내용을 시험 문제로 내는 경우가 있었음. 우리 중 일부는 학교 밖에서 배워서 그걸 맞히기도 했고. 그러니까 그 '함정'이 완벽한 방법은 아니라는 거지. 교실에서 치르는 시험이 학생들이 뭘 진짜로 아는지 확인하는 가장 확실한 방법임. 그것조차 놓칠 때가 있지만. 나 어릴 때도 다른 애들이 시험 볼 때 내 답안지 베끼려고 했고, 실제로 성공한 적도 많았음.

LLM이 언제부터 CAD를 잘하게 된 거임?

내 생각엔 Opus 5(.0)랑 GPT 6 Astra부터 쓸만해지기 시작했고, Opus 5.5랑 GPT 6.1 Terra 나오면서 엄청나게 도약한 것 같아.

Fable 5.2는 아직 안 써봄.