Moonshot ограничила кибервозможности модели Kimi K3.1 Pro
Китайский стартап Moonshot AI утверждает, что сохранил у новой открытой модели способности к программированию, но снизил её пригодность для наступательных киберопераций. Веса Kimi K3.1 Pro компания намерена выпустить 4 ноября.
Moonshot AI представила модель Kimi K3.1 Pro и заявила, что намеренно ограничила её возможности в сфере взлома. По данным Digital Trends, компания исключила связанные с кибероперациями данные из обучающей выборки и среды обучения с подкреплением, сохранив при этом общие навыки написания кода.
Kimi K3.1 Pro — модель с открытыми весами примерно на 3 трлн параметров. После публикации весов разработчики смогут скачать файлы модели, запускать её на собственных системах и менять способ её работы. Moonshot планирует открыть доступ к весам 4 ноября.
Компания оценила работу защитных ограничений на собственном бенчмарке по кибербезопасности: модели предлагалось находить и эксплуатировать уязвимости в контролируемой среде. Kimi K3.1 Pro получила 81%, тогда как аналогичная версия без мер по снижению рисков — 90,5%. Результаты не проходили независимую проверку, однако, как пишет издание, новая модель всё же превзошла предшественницу.
Ограничение таких функций не означает, что модель нельзя применять в безопасности. Инструменты, способные анализировать код, находить слабые места и выполнять многошаговые задачи, могут помочь защитникам обнаруживать уязвимости до злоумышленников. Но те же возможности могут использоваться и для автоматизации частей атаки.
Moonshot также указывает на потенциал открытых моделей при проверке и защите старого либо недостаточно обслуживаемого ПО. Одновременно распространение весов снижает контроль разработчика над дальнейшим использованием модели и сохранностью встроенных ограничений.
Kimi K3.1 Pro поддерживает контекстное окно в 1 млн токенов. Moonshot представила и вариант Highspeed, который, по её словам, работает в два—три раза быстрее стандартной версии.