Онлайн-сервисам могут запретить манипулировать людьми с помощью искусственного интеллекта, например побуждать к ненужным покупкам, анализируя активности пользователей в Сети. Это следует из законопроекта Минцифры об ИИ, с которым ознакомились «Известия». Крайняя форма такой манипуляции — доведение до самоубийства, напоминают эксперты: к этому может подтолкнуть нейросеть, «притворяющаяся» близким человеком. При этом в ситуации с искусственным интеллектом запреты, считают специалисты, будут неэффективны: все сценарии работы нейросетей и их возможные ответы на запросы предусмотреть невозможно. Кроме того, это может навредить и ресурсам, которые используют ИИ, чтобы помогать осознанно подбирать нужные товары или контент.

Как ИИ манипулирует поведением пользователей
Разработчики систем ИИ будут обязаны сообщать их пользователям о недопустимости применения нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование. «Известия» ознакомились с документом.

Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятие решений или несанкционированный доступ к информации».

О том, каким пользователям будут указывать на недопустимость использования ИИ для манипуляций, конкретные примеры таких действий, а также наказания за них, в законопроекте не говорится.

— Запрет распространяется прежде всего на операторов и разработчиков систем ИИ, то есть на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты, — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов. — По сути, «объяснить» это роботу можно так: система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции. Таким образом, ответственность лежит не на самой технологии, а на тех, кто ее создает и применяет.

По словам эксперта, ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента, например подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Ярослав Селиверстов. Законодательные нововведения выглядят актуальными, поскольку современные системы ИИ действительно способны анализировать психологические и поведенческие особенности пользователей, считает он.

Закон может коснуться, в частности, сервисов, реализующих товары и услуги: с помощью ИИ они собирают информацию о предпочтениях пользователей, а затем навязывают им с помощью открытой и скрытой рекламы вещи, которую зачастую совершенно не нужны человеку, указал гендиректор TelecomDaily Денис Кусков. В СМИ также обсуждается вопрос о манипуляции агрегаторов такси с тарифами: якобы они выставляют завышенные цены для пассажиров, у которых заканчивается заряд смартфона и которые быстрее стремятся добраться до дома или офиса, чтобы зарядить его, сказал эксперт.

— Злоумышленники или недобросовестные компании могут использовать ИИ для гиперперсонализированного мошенничества, когда искусственный интеллект анализирует данные о человеке и генерирует идеально подобранные сообщения — дипфейки голоса родственника, «индивидуальные» предложения от лжебанка в момент, когда человек наиболее уязвим, — отметил председатель правления АНО «Центр беспилотных систем и технологий» (ЦБСТ) Андрей Безруков.

Полный текст на: iz.ru
Текст: Валерий Кодачигов
Фото: ИЗВЕСТИЯ/Эдуард Корниенко