[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fmN3c17GSVr1KrSkSMJgER5oewrluiF7rzPlhO5pMgck":3},{"article":4,"related":18},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Чем считают ИИ помимо видеокарт Nvidia","chem-schitayut-ii-pomimo-videokart-nvidia","На обучении Nvidia вне конкуренции. А вот за инференс уже борются специализированные чипы и собственный кремний гиперскейлеров.","Nvidia держит рынок обучения мёртвой хваткой, и в ближайшее время это не изменится. Но с инференсом всё иначе. Тут гонять модель нужно дёшево, быстро и в огромном объёме, и на этом поле появились соперники.\n\n## Кто бросает вызов\n\nСпециализированные чипы под инференс делают ставку на скорость выдачи токенов. Groq со своими LPU и Cerebras с их гигантским кристаллом показывают сотни и тысячи токенов в секунду на одном запросе, там где обычная видеокарта выдаёт десятки. Для чат-интерфейсов и агентов, где важна отзывчивость, это ощутимо.\n\nГиперскейлеры пилят свой кремний. У Google свои TPU, у Amazon Trainium и Inferentia, чтобы не зависеть от одного поставщика и сбить себестоимость. Своя вертикаль от чипа до дата-центра позволяет не платить наценку за чужой бренд. К ним подтягиваются AMD с линейкой Instinct и волна стартапов, режущих архитектуру прямо под трансформеры. Выбор у покупателя впервые за годы стал настоящим.\n\n## Где настоящая экономия\n\nЖелезо решает не в одиночку. Ключевая метрика — цена за миллион токенов, а она складывается из стоимости часа GPU и того, сколько токенов чип успевает выдать. Аренда H100 устаканилась около 3 долларов в час, но апгрейд на новые ускорители часто окупается: больше токенов на тот же ватт. Считать надо не ценник карты, а стоимость выданного токена: дорогой ускоритель с вдвое большей пропускной способностью нередко выходит дешевле в пересчёте на работу.\n\nДальше в игру вступает софт. Квантизация в FP8 добавляет от 1,3 до 2 раз пропускной способности почти без потери качества. Батчинг запросов, спекулятивное декодирование, грамотное распределение памяти под KV-кэш — всё это выжимает из одной карты кратно больше.\n\nМораль простая. Гнаться за самым мощным чипом бессмысленно, если ты недогружаешь его на 30%. Побеждает тот, кто считает токены на доллар и держит железо под нагрузкой, а не тот, у кого в стойке стоит самая дорогая коробка.",null,"analysis",2,"2026-06-27T01:52:46.000Z",{"name":14},"Железо",{"name":16,"role":17,"bio":9},"Редакция asiclub","редакция",[]]