Помимо китайцев, с их частично вынужденными разработками в области фотоники, мне еще попадалась информация, что AMD купила некий стартап Taalas, который разрабатывал технологию "запекания" весов уже обученной модели прямо в структуре кремния вычислительного чипа (Model-Specific Integrated Circuits (MSIC)). Это делает не актуальным классическую загрузку/ выгрузку весов модели в регистры, на которую и тратится большая часть энергии на саму процедуру и охлаждение для отвода выделившегося тепла. Первый тестовый чип компании — Taalas HC1 (созданный по 6-нанометровому техпроцессу TSMC и содержащий 53 миллиарда транзисторов) показал феноменальные результаты:Н. Светлов писал(а): 01.10.2026, 12:36 Надо научиться обучать ИИ ценой меньших затрат энергии. Природа указывает нам, что это возможно. Стрелять из пушки по воробьям — дурное занятие.
Но конечно минус в том, что переписать веса в уже произведенном чипе физически невозможно.Он выдает от 14 000 до 17 000 токенов в секунду на одного пользователя. Это почти в 48 раз быстрее, чем классические флагманские графические процессоры, и в 8,5 раз быстрее других систем инференса.
Энергоэффективность возрастает до 1000 раз, а себестоимость производства таких процессоров в 20 раз ниже, чем у универсальных ИИ-чипов конкурентов.
"Мы побредём, паломники Чувства придавив!"
Говорит, "Хрена ли нам в Мнёвники Едем в Тель-Авив!" (с)
И (по закону больших чисел) лишь малая часть из них будет занимать ту область, в которой нам будет хорошо и где мы могли бы быть счастливы.
