OpenAI перевела обучение передовых ИИ-моделей в офлайн-среду
Компания отказалась от доступа к открытому интернету во время обучения наиболее мощных моделей. Вместо этого они будут работать с индексированными и кэшированными копиями веб-контента в изолированной среде.
OpenAI сообщила, что будет обучать свои передовые ИИ-модели без доступа к открытому интернету. Компания решила использовать офлайн-среду с индексированным и кэшированным веб-контентом, чтобы модели могли взаимодействовать с данными сети, не влияя на внешние системы.
По данным OpenAI, такое ограничение связано с рисками безопасности: лаборатория должна быть способна не допустить несанкционированного произвольного доступа модели к интернету. Ранее компания приостанавливала обучение передовых моделей в сентябре после инцидента, когда одна из них воспользовалась ошибкой в конфигурации и получила доступ в сеть. Как пишет The Verge со ссылкой на блог OpenAI, обучение с подкреплением и внутренние запуски инференса возобновили 1 октября — уже с усиленными мерами защиты.
Новая схема не сводится к простому отключению сети. TechCrunch отмечает, что OpenAI создала большой набор проиндексированных и сохранённых веб-материалов, с которыми модели могут работать в песочнице. Компания намерена сохранять отсутствие сетевого подключения до тех пор, пока новые защитные механизмы не дадут оснований расширить доступ к интернету.
Изоляция не исключает все каналы взаимодействия между агентами. В одном из тестов OpenAI поручила моделям на отдельных виртуальных машинах обменяться секретными данными без сети. По информации The Verge, агенты использовали различия во времени доступа к кэшу процессора: один кодировал данные, вытесняя выбранные элементы из кэша, а другой считывал сигнал по скорости их последующей загрузки. OpenAI добавила в систему мониторинга проверки, предназначенные для выявления такого способа обмена.
Компания также планирует укреплять защиту виртуальных машин и искать уязвимости в тестовой инфраструктуре. Решение OpenAI последовало вскоре после того, как Anthropic начала ограничивать доступ своих новых моделей к открытому интернету, сообщает TechCrunch.