Теперь чат-боты и другие интерактивные сервисы, использующие искусственный интеллект, должны информировать пользователей о том, что общение происходит не с человеком, а с ИИ.
Кроме того, изображения, видеозаписи и аудиоматериалы, полностью созданные или измененные с помощью искусственного интеллекта (дипфейки), должны иметь специальную маркировку. Для такого контента также вводятся машиночитаемые метки, позволяющие автоматически определить его происхождение.
Как отмечают в Европейской комиссии, новые требования направлены на снижение рисков мошенничества и манипулирования информацией, а также на то, чтобы пользователи могли понимать, когда взаимодействуют с искусственным интеллектом или просматривают созданный им контент.
Исполнительный заместитель председателя Еврокомиссии Хенна Вирккунен заявила, что искусственный интеллект способен принести значительную пользу людям и бизнесу, однако его развитие должно сопровождаться четкими правилами и механизмами защиты общественных интересов.
Регламент также устанавливает дополнительные требования для компаний, разрабатывающих и внедряющих системы искусственного интеллекта. По данным Еврокомиссии, более 180 организаций уже присоединились к Кодексу практики по обеспечению прозрачности контента, созданного ИИ.
При этом часть положений закона начнет действовать позже. Так, применение требований к системам искусственного интеллекта высокого риска перенесено на 2 декабря 2027 года, а для ИИ, встроенного в регулируемую продукцию, - на 2 августа 2028 года.
Отдельные нормы, запрещающие использование искусственного интеллекта для создания без согласия человека откровенно сексуального контента и материалов с изображением сексуального насилия над детьми, вступят в силу 2 декабря 2026 года.