Нас радует не только NVidia со своим DGX Spark, недавно AMD выкатили свой новый процессор - AMD Ryzen AI Max+395, который работает не хуже, но, что важно - он дешевле. Жаль только что макс памяти у него 128гб...

Для примера пару сборок с этим процессором и памятью (унифицированной) - 128 гб:

раз, два по цене до ~230к рублей на озоне (может есть и другие сборки - особо не искал)

Что дает нам этот проц? Конечно! Запуск локальных LLM моделей, например gpt-oss-120b, со скоростью ~30+ токенов / секунду
Тоже самое выдает и DGX Spark - но стоит он в 2 раза дороже (в РФ продажи стартуют от 480к+, не знаю включена там таможня или нет)

Именно про этот процессор есть уже тесты, причем отличные, но только в красном видео, с подробным разбором: https://www.youtube.com/watch?v=pHB3-9AG6tw

Фото из видео на постере

P.S. я лично опять жду китайцев, они там бахнули (вчера) оптический квантовый - чип (пока это проект и только для датацентров), но чувствую скоро каждый у себя сможет дома запускать за разумные деньги модельки даже мощнее и существенно дешевле

ну и напомню еще есть cerebras - который выдает немыслимые 1,7к+ токенов в секунду (опять же пока для датацентров)

#gptoss #amd #ai #cerebras