Индия вводит новые правила, регулирующие глубокие подделки и контент, сгенерированный ИИ
Индийское правительство приняло решение значительно усилить контроль над социальными медиа-платформами, обязав их более активно бороться с глубокими подделками (deepfake) и другим контентом, созданным с использованием искусственного интеллекта. Эти изменения, опубликованные в виде поправок к правилам IT 2021 года, предполагают более строгие требования к маркировке и прослеживаемости синтетического аудио- и видеоконтента, а также сокращают сроки исполнения обязательных удалений контента.
Новые правила вводят серьезные временные ограничения для платформ, включая трехчасовой срок для выполнения официальных требований на удаление контента и двухчасовой срок для срочных жалоб от пользователей. Это решение может значительно изменить подход ведущих мировых технологических компаний к модерации контента, особенно в Индии, которая с более чем миллиардам пользователей интернета и преимущественно молодой аудиторией является одним из крупнейших и быстрорастущих рынков интернет-услуг в мире.
Согласно новому законодательству, социальные медиа площадки, позволяющие пользователям загружать или делиться аудио- и видеоконтентом, обязаны требовать раскрытие информации о том, является ли материал синтетически сгенерированным, использовать инструменты для проверки этих утверждений и помечать глубокие подделки так, чтобы они содержали прослеживаемые данные о происхождении.
Некоторые категории синтетического контента, включая мошеннические подделки, интимные изображения без согласия и материалы, связанные с серьезными преступлениями, запрещены ради безопасности и защиты граждан. Невыполнение требований может привести к повышенной юридической ответственности компаний, угрожая их защите в рамках индийского законодательства о безопасной гавани.
Согласно оценкам экспертов, новые правила сильно зависят от автоматизированных систем для выполнения этих обязательств. Платформы ожидается использовать технические инструменты для проверки пользовательских данных, идентификации и маркировки глубоких подделок, а также предотвращения создания или распространения запрещенного контента.
По словам Рохита Кумара, основателя консалтинговой компании The Quantum Hub в Нью-Дели, внедрение новых правил знаменует собой более взвешенный подход к регулированию глубокой подделки, хотя и требует более рекламированного контроля за соблюдением. Он подчеркнул, что резко уменьшенные сроки рассмотрения заявлений и взимание ответственности за нарушения будут увеличивать бремя для платформ.
Априджита Рана, партнер ведущей индийской юридической фирмы AZB & Partners, отметила, что новые правила теперь сосредоточены на аудиовизуальном контенте, созданном с помощью ИИ, а не на всей онлайн-информации, однако наличие трехчасового срока на удаление контента, как только компания становится о нем осведомлена, ставит под сомнение принципы свободы слова.
Группа защитников цифровых прав из Internet Freedom Foundation выразила опасения, что новые правила могут ускорить цензуру, существенно сокращая время, отведенное на рассмотрение запросов, что может привести к чрезмерному удалению контента. Они также подняли вопрос о расширении списка запрещенных категорий контента и правилах, позволяющих платформам раскрывать личные данные пользователей частным истцам без предварительного судебного разрешения.
Согласно источникам в индустрии, изменения последовали за ограниченным консультационным процессом, в ходе которого учтены лишь некоторые предложения об узком определении охвата информации, тогда как ряд других рекомендаций не был принят.
Споры вокруг полномочий правительства на удаление контента в Индии продолжаются. Социальные медиа-платформы и организации гражданского общества направили критику на недостаточную прозрачность и широкие полномочия по удалению контента. Даже Elon Musk’s X оспаривала в суде указания правительства по блокировке или удалению постов, утверждая, что это превышает их полномочия.
Таким образом, новые правила вступят в силу вскоре, предоставляя платформам мало времени для адаптации своих систем соблюдения требований. Эти изменения совпадают с проведением в Индии Саммита по влиянию ИИ, на который ожидается приезд высокопоставленных руководителей глобальных технологических компаний и политиков. Поскольку Индия имеет огромное значение как для местных, так и для международных компаний, вероятно, что новые правила окажут заметное влияние на их стратегии модерации контента по всему миру.
