Someone teach Anthropic how to manage rollouts
Anthropic의 잦은 기능 업데이트 시 발생하는 API 오류와 불안정한 서비스 운영에 대한 불만 토로.
매번 모델 출시나 뭐 그런 거 할 때마다 몇 시간이라도 꼭 이렇게 개판이 나더라!
오늘 보니까 새로운 자동 분류 기능 배포하는 것 같은데, 몇 시간째 API 에러 터지고 Sonnet은 자동 분류 연결도 안 되고, 덕분에 내 작업 다 꼬여버렸네!
이 정도 규모 되는 회사가 사용자 경험 다 망쳐가면서 배포하는 거 보면 진짜 어이가 없다!
Anthropic의 기능 출시 시 발생하는 서비스 불안정 문제를 두고, 이를 운영상의 미숙함으로 보는 OP와 대규모 시스템 운영의 현실을 강조하는 댓글 작성자 간의 날 선 공방이 이어지고 있습니다.
왜 AI를 안 쓰는 거지?
그게 문제의 절반은 될 거라고 확신함. 진짜 문제는 제대로 된 롤아웃 프로그램이나 문화가 안 갖춰져 있다는 거지!
그건 NPDP / NPI 프로세스 흐름을 따르는 사람들이 있어야 가능한 일이지. Anthropic 채용 공고에서 그런 거 본 적이 없음. 오해는 마, 난 이 제품 (대체로) 좋아해. 근데 UI나 기능 변경 사항이 r/wtfclaude에서 충분히 좋아요를 받은 뒤에야 팝업으로 뜨는 건 좀 아니지.
걔네는 신경 안 써. 진짜 큰돈을 내는 엔터프라이즈 고객들은 우리랑 같은 상황을 겪지 않거든. 걔네는 특별한 모델과 특별한 액세스를 제공받고, 우리는 그냥 실험용 기니피그가 되는 거지. 그리고 오늘 추가된 분류기 기능은 대체 뭐야? 내가 더 이상 Claude의 사고 과정을 볼 수 없게 된 거랑 관련이 있나? 대신 그 유명한 '이 요청에 대한 윤리적 우려를 고려 중'이라는 문구는 보이던데.
참고로 말하자면, Dario가 이런 걸 직접 겪어야 할 거라고는 절대 생각 안 함, 왜냐하면…
같은 건지는 모르겠는데, Claude Code에 자동 승인 모드가 있거든. 거기선 분류기가 Claude가 명령어를 실행하거나 도구를 호출해서 작업을 수행할지 결정해. 만약 그런 식의 응답이 더 자주 보인다면, 안전을 위해 새로운 공통 인프라로 옮겨가는 중일 수도 있음.
미국이랑 이란이 쌈박질 시작할 때마다 중동에 있는 데이터센터 하나씩 박살 나더라...
아직도 왜 너 안 데려감? 수조 달러 가치의 회사 창업자들보다 네가 훨씬 더 잘 아는 게 분명한데.
당연한 소릴.
난 Anthropic 손절함. 다들 따라 하는 거 추천함, z.ai가 지금까지는 나한테 아주 좋았음.
OP는 세상에서 가장 많이 쓰이는 API를 운영할 때 프로덕션 가동 시간을 유지하는 게 얼마나 어려운지 배우는 중이네
댓글 작성자는 OP가 분명히 '이 정도 규모의 회사'라고 언급했고, 세상에 이 정도 규모로 운영되는 회사가 여기뿐만이 아니라는 걸 읽고도 배우는 게 없네.
이건 대규모로 돌아가는 최첨단 기술이고 컴퓨팅 자원 부족으로 병목 현상이 생기는 건데, 엔터프라이즈 플랜을 쓰지 않는 이상 SLA를 보장받을 수 있다고 생각하는 건 순진한 거지
아니, 문제는 일반적인 가용성이 아니라고! 댓글 달기 전에 글은 읽고 다는 거야?
난 지금 새로운 기능을 출시하거나 업데이트할 때 서비스 품질이 저하되는 걸 구체적으로 말하는 거야! 그건 SLA랑 아무 상관이 없어. 롤아웃 자체를 어떻게 관리하느냐의 문제라고.
나 구글에서 10년 일했고, 그중 7.5년은 준기술직이었어. 내가 무슨 말 하는지 잘 알고 있다고.
서비스 품질 저하는 SLA 범위에 포함되는 거야 😂
FAANG에도 무능한 사람들 엄청 많은데, 네가 방금 그걸 증명했네
분류기 한 시간 고장 난 거 가지고 레딧에 징징거리는 게 네 본능인가 본데, 그냥 권한 우회하거나 다른 하네스 쓰면 될 일을 가지고
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
