Компания Anthropic представила американским законодателям проект закона о безопасности искусственного интеллекта. Документ предусматривает возможность приостанавливать использование ИИ-моделей, если они создают непосредственную угрозу гибели или серьёзных травм более чем 50 человек либо могут привести к ущербу свыше $1 млрд. Об этом сообщает Bloomberg.
Инициатива касается рисков разработки биологического оружия, выхода ИИ-систем из-под контроля и кибератак. Также предлагается ввести обязательные испытания передовых моделей, публикацию результатов и регулярные независимые проверки безопасности.
Если эксперты выявят непосредственную угрозу, они должны будут уведомить Министерство торговли США в течение 72 часов после завершения оценки. Ведомство сможет обратиться в федеральный суд с просьбой приостановить использование модели.
В Anthropic призвали Конгресс принять меры на фоне растущих опасений по поводу безопасности ИИ. При этом администрация президента Дональда Трампа выступает против усиления государственного надзора за отраслью.
Источник: sostav.ru
Изображение: magnific.com
Anthropic предложила ограничить использование опасных ИИ-моделей в США
- Информация о материале
