r/ChatGPT•1일 전•8•2
OpenAI 안전 연구원: "RSI(재귀적 자기 개선)로 돌진하는 것은 세계 역사상 전례 없는 어리석은 짓이다... RLHF(9년 전) 이후 정렬에 대한 근본적인 발전은 없었다"
OpenAI safety researcher: "racing into RSI [recursive self-improvement] is a folly that is unprecedented in world history ... there have not been fundamental advancements in alignment since RLHF [9 years ago]"
핵심 요약
OpenAI 안전 연구원이 AI의 재귀적 자기 개선 위험성과 정렬 기술의 정체를 경고한 내용에 대한 반응입니다.
- AI 안전성 경고 — 재귀적 자기 개선의 위험성을 역사적 어리석음으로 규정함
- 정렬 기술 정체 — RLHF 이후 근본적인 발전이 없음을 지적함
