Испания начала проверку X, Meta* и TikTok из-за ИИ-контента с детским насилием

Власти Испании инициировали проверку в отношении социальных платформ X, Meta* (организация признана экстремистской и запрещена в России) и TikTok в связи с возможным распространением материалов с сексуальным насилием над детьми, созданных с использованием технологий искусственного интеллекта. Об этом сообщает Reuters со ссылкой на официальные источники.

Расследование направлено на выяснение того, достаточно ли эффективно компании предотвращают публикацию и распространение незаконного контента, созданного с помощью генеративных ИИ-инструментов. Речь идет о так называемых синтетических изображениях и видеоматериалах, которые могут быть созданы без участия реальных детей, но при этом имитируют сцены сексуального насилия и подпадают под строгие правовые запреты.

Испанские регуляторы намерены оценить, соблюдают ли платформы требования законодательства в части модерации контента, удаления запрещенных материалов и предотвращения их повторного появления. Также будет проверено, какие механизмы выявления ИИ-сгенерированных изображений используются и насколько оперативно компании реагируют на жалобы.

В последние годы развитие генеративного искусственного интеллекта значительно упростило создание реалистичного фальшивого контента. Это усилило обеспокоенность правительств по всему миру, поскольку такие технологии могут использоваться в противоправных целях, включая создание запрещенных материалов. Европейские страны ужесточают требования к онлайн-платформам, обязывая их активнее контролировать публикуемый пользователями контент.

Проверка в Испании проходит на фоне более широких усилий Европейского союза по усилению регулирования цифровых платформ в рамках законодательства о цифровых услугах. Если будут выявлены нарушения, компаниям могут грозить значительные штрафы и дополнительные обязательства по усилению контроля.

Таким образом, расследование отражает растущую обеспокоенность властей тем, что стремительное развитие ИИ-технологий опережает существующие механизмы контроля и создает новые риски для безопасности пользователей, особенно несовершеннолетних.

* Организация признана экстремистской и запрещена в России