AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market
AMD의 Taalas 인수로 인해 소비자용 AI 가속기 출시 가능성이 낮아지며 커뮤니티의 우려가 커지고 있습니다.
AMD의 Taalas 인수로 인해 개인용 AI 가속기 시장이 위축될 것이라는 비관적인 전망이 지배적이며, 기업용 하드웨어의 중고 시장 유입 가능성을 두고 의견이 갈리고 있습니다.
솔직히 이거 보고 한숨 나왔음. 이제 이 기술은 데이터 센터랑 AMD 기업 고객들만 쓸 수 있게 될 거임. 우리 같은 로컬 LLM 유저들은 이런 AI 가속기 구경도 못 할 거고, IP는 철저히 막힐 거임. 하드웨어는 앞으로 5년 동안은 중고 시장에 나올 일도 없을 거라 봄.
일반 소비자한테는 진짜 의미가 없음. 저 카드들은 엄청난 속도로 단일 모델만 돌리는 거니까. Llama 8b 모델로 초당 17,000 토큰 처리하는 식이지. 생산량도 적어서 엄청 비쌀 거고.
4개월 뒤면 소비자용으론 구식이 될 4,000달러짜리 카드를 산다고 생각해 봐.
근데 기업 입장에선 말이 됨. 초당 17,000 토큰(앞으로 더 빨라질 거고)을 처리해서 효율을 높이는 게 주 목적이니까, 6개월마다 하드웨어를 싹 바꿔도 감당이 되는 거지.
난 그 속도라면 4,000달러 낼 의향 있음. 미친 속도잖아. 실시간 처리랑 렌더링도 가능할 테고. 나한테는 쓸 데가 많음.
Llama 3.1 8b 모델 말하는 거임? 지금 나오는 모델들은 1년 뒤면 다 똑같이 느껴질 텐데.
아니, 3.1 8b 모델 때문에 4천 달러를 내는 게 아니라, 초당 17,000 토큰이라는 속도에 돈을 내는 거지. MCP 나오기 전에 우리가 도구라고 불렀던 방식, 즉 스크립트를 써서 브루트 포스 방식으로 제어할 수 있어. 그 정도 속도면 확실히 쓸만하지. 분당 100만 토큰이니까.
맞는 말임. 8000tok/sec 속도로 돌아가는 Qwen 3.6 27B 모델이라면 4000달러 낼 의향 있음. 곧 3.8이 나온다 해도 말이지. 왜냐면 요즘 유행하는 말처럼, '더 빠르게 틀릴 수 있으니까' :-)
기업들이 6개월마다 카드를 교체한다면, 사실 중고 시장에 꽤 빨리 풀릴 수도 있음. 실제로는 카드가 여전히 쓸만해서 새 카드를 사더라도 기존 카드를 6~12개월 더 운영하다가 팔 수도 있겠지. ROI 계산에 따라 다르겠지만. 그래도 최신형이 아니더라도 엄청나게 빠른 속도로 모델을 돌릴 수 있다는 건 변함없을 테니까.
너무 기대하지 마. A100이나 3090 같은 Ampere 카드들도 6년이나 지났는데 아직 중고 시장에 헐값으로 풀리지 않았음.
근데 이건 정적 모델 가중치 기반이라 모델 개발 속도가 지금처럼 미친 듯이 빠르다면 시장 가치가 더 빨리 떨어질 수도 있음. 물론 그건 큰 '만약'이지만. 지금 시점에선 뭐라 말하기 힘듦.
어디 사느냐에 따라 다름. 프랑스에서는 PNY가 ada 카드 엄청 많이 파는데, 4500 ada 7개짜리를 반값에 팔고 있음 : https://www.ebay.fr/itm/206251259772
하위 티어 기업들이 죄다 집어삼킬 거고, 나중엔 다른 데서도 팔겠지. 소비자 시장에 풀릴 때쯤이면 지금의 P40 같은 신세가 될걸.
장난함? 만약 대량 생산해서 GLM-6.0을 카트리지 형태로 2,000달러에 살 수 있고 초당 5,000 토큰이 나온다면, 이건 무조건 '내 돈 가져가라' 수준임. 그 속도면 고정 모델이라도 충분히 가치 있지. 솔직히 우리 중 많은 사람이 지난 6개월 동안 Qwen 3.x 27B만 돌려왔잖아.
야, 2,000달러는 대량 생산 제품 가격이고 저런 건 최소 개당 4,000~5,000달러는 할 거임. 그리고 초당 17,000 토큰 나오는 건 Llama 8b 모델만 돌릴 수 있다는 거 명심해.
3T 크기의 GLM 6.0을 돌리려면 필요한 SRAM 양 때문에 개당 수백만 달러는 할걸. 애초에 가능하기나 할지 모르겠지만.
최종 가격이 얼마가 될지는 알기 어렵다는 거 동의함. 내 말은 특정 가격 대비 성능 구간 내에 있다면 '고정 모델'이라는 점이 결정적인 결함은 아니라고 생각한다는 거임.
못 돌려. Taalas가 2026년 초에 더 큰 모델 지원한다고 약속했는데, 지금 상황이 이렇잖아.
기술적인 실현 가능성 말고도 업데이트된 모델을 공개하지 않을 사업적인 이유는 많을 수 있지. 7B 모델에서 아주 성공적이었던 접근 방식이 물리적으로 확장 불가능할 이유라도 있어?
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.