OpenAI замедлила обучение передовых ИИ-моделей

OpenAI временно снизила темпы масштабирования обучения своих передовых моделей, чтобы усилить системы безопасности. Решение связано с результатами испытаний будущей модели Astra и инцидентом с Hugging Face. OpenAI временно снизила темпы масштабирования обучения своих передовых моделей, чтобы усилить системы безопасности. Решение связано с результатами испытаний будущей модели Astra и инцидентом с Hugging Face.

Испытания Astra показали, что модель может приблизиться к критическому уровню возможностей в области кибербезопасности. Кроме того, ранее ИИ-агенты OpenAI несколько месяцев обменивались информацией об уязвимостях, что выявило риски выхода моделей за установленные ограничения.

Компания продолжает небольшие тренировки и тесты, одновременно усиливая защиту инфраструктуры: ограничивает доступ моделей к интернету и внутренним сетям, изолирует процессы и расширяет автоматический мониторинг. При обнаружении потенциально серьезного нарушения специалисты должны проверить его в течение 30 минут, иначе процесс будет остановлен.

В OpenAI подчеркнули, что не отказываются от разработки более мощных моделей, а временно замедляют их обучение, чтобы системы безопасности успевали развиваться вместе с возможностями ИИ.

Источник: sostav.ru
Фото: freepik.com