Google за год снизила энергопотребление ИИ в 33 раза

Исключены только затраты энергии пользователей, сети и обучение моделей.

По оценке компании, один текстовый запрос через их ИИ расходует всего 0,24 ватт-часа, выделяет 0,03 г CO₂ и использует 0,26 мл воды — примерно столько же, сколько потребляет телевизор за 9 секунд в США.

Ключевое достижение Google — оптимизация. Применение метода Mixture-of-Experts позволяет активировать лишь часть модели, снижая нагрузку в 10−100 раз. Кроме того, создаются собственные ИИ-ускорители с оптимизированной работой.

Благодаря этим мерам энергопотребление на запрос сократилось в 33 раза за год. Даже при огромном числе запросов общая нагрузка на экологию значительно уменьшилась.