Is everyone in here buying up smart TVs now?
스마트 TV 여러 대를 연결해 LLM을 구동하겠다는 농담 섞인 발상에 대해 비효율적이라며 조롱 섞인 반응이 이어지고 있습니다.
Anthropic 말로는 스마트 TV 14대만 있으면 Gemma4 26b a4b를 돌릴 수 있다네.
대부분의 사용자가 스마트 TV를 연결해 LLM을 구동하는 발상을 비효율적이고 무의미한 짓이라며 조롱하거나 농담으로 받아들이고 있습니다.
달러당 초당 0.00047 토큰이라니. 정말 돈을 현명하게 쓰네...
다들 왜 이걸 진지한 제안인 것처럼 댓글을 다는 거야? Anthropic은 그냥 가정용 기기에서 LLM을 돌릴 수 있는지 가능성을 보는 거고, 글쓴이는 그냥 농담하는 거잖아. 좀 적당히 해
이건 현실적으로 대부분의 IoT 기기를 감염시키는 바이러스처럼 퍼질 거야. ASI에 도달하면 세상의 모든 연산 자원을 자기 것으로 만들려고 할지 궁금하네.
그래서 초당 60토큰을 뽑으려면 스마트 TV가 몇 대나 필요한 거야?
많이 살수록 더 많이 아끼는 거지
"우리는 수십만 달러짜리 기차를 사는 대신 55달러짜리 1923년형 포드 모델 T 15대를 연결해서 씁니다. 시속 5마일로 150파운드를 운반할 수 있죠! 누가 기차에 돈을 더 쓸 필요가 있다고 했나요!"
참고로, TV 15대에 쓴 825달러면 구형 그래픽카드 하나를 사서 훨씬 적은 설정과 번거로움으로 작은 모델을 더 빠르게 돌릴 수 있었을 텐데.
PC가 아니라 스마트 토스터기 배열이 토큰을 생성하고 있다는 게 왠지 더 무섭게 느껴지네
내 스마트 TV 박스에서 이렇게 위험한 오픈 웨이트 LLM을 돌리고 싶진 않아. Anthropic은 더 잘 알 텐데, 이건 세계 경제를 망칠 만한 종류의 짓이라고 (/s 안 붙여도 다들 알겠지).
진짜 무슨 사악한 SF 영화 같은 짓을 하려고 기를 쓰고 있네
현대판 루브 골드버그 장치네.
병목 현상이 전혀 없다고 가정하면 대략 2,300대 정도.
처음엔 이 댓글 보고 2,300달러면 초당 60토큰 치고 나쁘지 않네! 라고 생각했어.
그러다 2,300이라는 숫자가 달러가 아니라 TV 대수라는 걸 깨달았지.
개웃기네 진짜
양자화 방식에 따라서는 이게 실제로 네 스마트 토스터기를 더 멍청하게 만들 수도 있어.
다리오가 우리 스마트 TV를 전부 Anthropic으로 가져가서 "안전하게" 지키려는 거 아냐?
"페라리랑 롤렉스는 엄청나게 위험해!"
이 연구의 핵심은 아무도 일부러 TV에서 모델을 돌리려 할 거라는 게 아니라, 대략 26B-A4B MoE 모델들이 충분히 좋아지기만 하면 자기 복제가 가능해질 거라는 점임
2019년 GPT-2의 위험성을 경고했던 과거 기사를 보며, AI 업계의 변함없는 마케팅 전략과 종말론적 태도를 비꼬는 반응들입니다.
2019년 GPT-2의 위험성을 경고했던 과거 기사를 보며, AI 업계의 변함없는 마케팅 전략과 종말론적 태도를 비꼬는 반응들입니다.
AI 모델들의 작명 방식과 그에 대한 커뮤니티의 유머러스한 반응을 다룬 게시물입니다.
AI 모델들의 작명 방식과 그에 대한 커뮤니티의 유머러스한 반응을 다룬 게시물입니다.
Cursor의 API 할당량 정책 변경에 대한 사용자들의 불만과 비판이 이어지고 있습니다.
Cursor의 API 할당량 정책 변경에 대한 사용자들의 불만과 비판이 이어지고 있습니다.