Google извлекает DDR4 из списанных серверов для новых ИИ-систем
По данным Wccftech, компания наладила внутреннее повторное использование модулей памяти и разработала адаптеры для подключения DDR4 к серверам нового поколения.
Google разбирает выведенные из эксплуатации серверы, чтобы извлекать из них пригодные модули DDR4 и повторно использовать их в новых ИИ-серверах. Об этом, как пишет Wccftech, рассказал старший директор Google по инфраструктурным цепочкам поставок Никхил Чериан на отраслевой встрече.
По его словам, отрасль ИИ быстро перешла от дефицита вычислительных мощностей к дефициту памяти. Высокопроизводительная память уже составляет около 75% стоимости комплектующих ИИ-сервера. Чтобы устранить это ограничение, Google одновременно работает над аппаратными и программными решениями.
Компания, как утверждается, создала специальные аппаратные адаптеры, позволяющие подключать память предыдущего поколения, включая DDR4, к новым ИИ-серверам. Чериан также сообщил, что Google повторно ввозит списанные серверы именно для извлечения из них DDR4-модулей.
Параллельно Google оптимизирует программные библиотеки, архитектуру моделей и сжатие KV-кэша, чтобы снизить расход памяти на единицу вычислительной мощности.