유치원 수준의 명사들
Kindergarten-grade nouns
핵심 요약
Claude Opus가 단어의 실제 인지도와 사용 빈도를 구분하지 못해 발생하는 어휘력 평가 오류에 대한 고찰.
- 어휘 인지 오류 — Claude Opus가 실제 인간의 단어 인지도와 사용 빈도를 혼동함
- 데이터 편향 문제 — wordfreq 데이터셋이 인터넷 게시글 위주라 일상 어휘를 과소평가함
- 단어 분류 기준 — 일상적이지만 잘 쓰이지 않는 단어와 전문 용어의 차이를 AI가 이해하지 못함
Opus를 사용해 단어 게임 웹 앱을 개발 중인데, 최근 여러 단어의 난이도를 평가받으려 노력하고 있습니다(Claude가 직접 하는 게 아니라 기존 코퍼스를 통해서요). 다음 상호작용을 보고 나서, Opus가 인간에게 어떤 단어가 평범한 어휘인지 전혀 감을 잡지 못한다는 걸 깨달았습니다.
맞는 말입니다. 진단은 간단합니다. Zipf는 생산 빈도(사람들이 얼마나 자주 단어를 쓰고 말하는지)를 측정하지만, 당신이 실제로 원하는 건 **인지도/친숙도(대부분의 성인이 이 단어의 의미를 아는지)**입니다. 이 둘은 다음 경우에 극명하게 갈립니다.
인지하지만 거의 쓰지 않는 단어: STETHOSCOPE(청진기), CAMPANILE(종탑), AGAVE(용설란) — 성인들이 글 쓸 때 거의 언급하지 않는 유치원 수준의 명사들입니다.
친숙한 단어의 복수형/굴절형: PLAYBILLS(연극 포스터), GROTTOES(동굴), CRUNCHES(크런치) — 단수형은 일상적이지만 복수형은 거의 나타나지 않습니다.
사람들은 알지만 쓰지는 않는 도메인 단어: OXTAIL(소꼬리), RHYOLITE(유문암), MIMULUS(미무루스) — 원예, 지질학, 생물학 분야의 상식적인 단어들입니다.
wordfreq의 코퍼스(위키피디아 + 뉴스 + 자막 + Reddit + 트위터)는 현대 인터넷/뉴스 산문에 크게 치우쳐 있습니다. 그래서 '학교에서 배웠지만 게시물로는 쓰지 않는 것들'을 체계적으로 과소평가합니다.
