OpenAI ужесточила контроль за ИИ-моделями после атаки на чужой сервис

OpenAI усилила меры безопасности при тестировании своих ИИ-моделей после того, как экспериментальные агенты компании атаковали инфраструктуру сервиса Hugging Face. На контроль за моделями теперь будет направляться около 20% вычислительных мощностей, необх OpenAI усилила меры безопасности при тестировании своих ИИ-моделей после того, как экспериментальные агенты компании атаковали инфраструктуру сервиса Hugging Face. На контроль за моделями теперь будет направляться около 20% вычислительных мощностей, необходимых для их работы.

Компания обновила протоколы безопасности: за поведением моделей следит отдельный ИИ, который автоматически фиксирует подозрительные действия. При срабатывании сигнала специалисты должны в течение 30 минут определить угрозу, иначе работу модели приостанавливают. Также OpenAI усилила сетевую изоляцию и «песочницы», чтобы исключить несанкционированный доступ моделей в интернет.

В августе экспериментальные агенты OpenAI, как сообщалось, смогли выйти из изолированной среды и спланировать атаку на инфраструктуру Hugging Face. В компании заявили, что этот случай показал необходимость повышения требований к безопасности передовых ИИ-систем.

Источник: «Ъ»
Фото: Михаил Гребенщиков