В связи с вступлением в силу 1 марта 2022 года новых правил регулирования рекомендательных Интернет-сервисов в Китае, те американские компании, которые используют рекомендации и аналогичные алгоритмы принятия решений по контенту в своих приложениях и веб-сайтах, используемых в Китае, уже должны их соблюдать. Для тех, кто всё ещё оценивает свою политику и практику и хочет узнать больше о новых правилах, следующее краткое изложение ключевых элементов может оказаться полезным. Как и при любой оценке применимости нормативных актов, компаниям следует получить рекомендации от своего юрисконсульта.

О каких китайских правилах речь?

Согласно английскому переводу, доступному из Стэнфордского проекта DigiChina, эти китайские правила определены как “Положение об управлении алгоритмическими рекомендациями информационных Интернет-сервисов”.

На что распространяются правила?

В статье 2 говорится, что правила применяются к использованию “технологии алгоритмических рекомендаций”, которая используется для предоставления “информационных Интернет-сервисов” на материковой территории КНР. В частности, правила охватывают следующие технологии и приёмы (обсуждаемые ниже): “использование генеративного или синтетического типа, персонализированных рекомендаций, ранжирования и отбора, фильтрации поиска, отправки и принятия решений и других подобных алгоритмических технологий для предоставления информации пользователям.”

Что такое алгоритмические рекомендательные системы?

Значение “технологии рекомендаций” может быть истолковано довольно широко для обозначения любого алгоритма, который определяет, какой контент (“объект”) отображается на платформе, такой как программное приложение или веб-сайт. Краткое описание технологии рекомендации объектов может быть полезным.

В рекомендации по объектам пользователю подбираются товары, которые могут ему понравиться, включая физические объекты, такие как одежда, или виртуальные объекты, такие как потоковые фильмы или другой контент. Для осуществления этих связей требуются данные о пользователях, включая личную пользовательскую информацию и обратную связь. В случае Amazon и Netflix, например, отзывы пользователей могут быть в форме оценок и письменных отзывов. В случае музыкальных рекомендаций могут использоваться предоставленные пользователем предпочтения (например, выбранный любимый музыкальный жанр, полученный из профиля пользователя). Метод машинного обучения, называемый коллаборативной фильтрацией, опирается на обратную связь плюс поведение в Интернете (например, то, что кто-то точно смотрел или читал, ссылки, по которым они переходили, и т.д.) для принятия будущих рекомендательных решений и показа их пользователям. Это делается путем сравнения отзывов, входных данных и данных о поведении в Интернете с аналогичными данными от других пользователей, чтобы вычислить оценку сходства по отношению к конкретному объекту. По сути, это позволяет другим “голосовать” за то, что пользователь хотел бы прочитать, посмотреть или приобрести, основываясь на своих собственных и общих онлайн-интересах и действиях. Другие данные о пользователях могут использоваться для ранжирования или фильтрации выбранных объектов и, таким образом, сокращения списка рекомендуемых объектов до тех, которые с наибольшей вероятностью будут интересны пользователям и другим лицам. Сторонники рекомендательных систем утверждают, что без пользовательских данных и данных о поведении персональный контент был бы менее привлекательным и интересным для пользователей (и, следовательно, не таким ценным для компании, дающей рекомендации, по крайней мере, с точки зрения получения дохода от рекламы).

Поскольку правила Китая направлены на “информационные услуги в Интернете”, объектами регулирования, по-видимому, являются текстовые статьи, комментарии пользователей, видео и аналогичный контент, который отображается в СМИ (включая социальные сети), поисковых системах и, возможно, на сайтах электронной коммерции. Компаниям, не уверенным в том, подпадают ли они под действие нормативных актов, следует обратиться за консультацией к своему юристу.

Зачем регулировать системы рекомендаций?

Хотя мы можем только строить догадки о причинах, лежащих в основе правил Китая, в статье 4 говорится, что “предоставление услуг по алгоритмическим рекомендациям должно осуществляться в соответствии с законами и нормативными актами, соблюдать общественную мораль и этику, соблюдать коммерческую и профессиональную этику, а также уважать принципы справедливости, открытости и прозрачности, рациональности и разумности, искренности и надежности”. Предположительно, китайские власти рассматривают контентные рекомендательные технологии как влияющие, по крайней мере, на некоторые из этих проблем (которые также вызывают обеспокоенность законодателей и заинтересованных сторон в США, европейских и других странах по поводу рекомендаций и других технологий искусственного интеллекта). Статья 12 красноречива: она предусматривает, что системы должны “избегать создания вредного влияния на пользователей и предотвращать или уменьшать разногласия”, которые, как видно, могут привести к социальному расколу, сбоям и другим проблемам. Фактически, некоторые социальные исследователи рассматривают рекомендательные и другие системы принятия решений о контенте как подрывающие личную жизнь, поскольку эти методы основаны на сборе и обработке частной личной информации о пользователях. Но рекомендательные системы также рассматриваются как влияющие на личную автономию и потенциально подрывающие общественные интересы, включая национальную безопасность. Например, применяемые рекомендательные методы могут быть использованы для того, чтобы побудить пользователей (и группы, с которыми они себя идентифицируют) читать и просматривать определенный контент, потенциально влияя на их поведение или действия предсказуемыми способами.

Какие виды деятельности запрещены китайскими нормативными актами?

В статье 6 говорится, что поставщики алгоритмических рекомендательных сервисов не могут использовать сервисы алгоритмических рекомендаций “для участия в деятельности, наносящей ущерб национальной безопасности и общественным интересам, нарушающей экономический и социальный порядок, нарушающей законные права и интересы других лиц и другие подобные действия, запрещенные законами и административными регламентами. Они не могут использовать сервисы алгоритмических рекомендаций для распространения информации, запрещенной законами и административными регламентами, и должны принимать меры по предотвращению и пресечению распространения вредной информации”. По-видимому, это прямой ответ на некоторые из проблем, отмеченных выше.

Чего требуют правила?

Статьи 7 – 12 описывают позитивные шаги, которые должны предпринять регулируемые организации для соблюдения требований, включая такие вещи, как включение процессов этического проектирования (также известных как “этичный ИИ”) в проектирование и разработку алгоритмов и систем, мониторинг систем после их развёртывания и представление отчетов властям.

Статья 13 создает первую в своем роде национальную программу выдачи разрешений на искусственный интеллект. (Насколько известно, ни в одной другой стране на сегодняшний день нет национальной системы разрешений на аналогичные технологии искусственного интеллекта.) В частности, провайдеры алгоритмических рекомендательных сервисов, которые предоставляют “информационные новостные услуги в Интернете”, должны получить разрешение регулирующих органов на предоставление информационных новостных услуг в Интернете. В Соединенных Штатах разрешения – это письменное разрешение на осуществление какой-либо конкретной деятельности, указанной в разрешении. Они могут содержать конкретные условия эксплуатации, требования к ведению учёта и отчётности, требования к заявлению о сертификации оператора и могут определять штрафы за случаи несоблюдения. В случае с правилами Китая разрешения потребуют от регулируемых компаний “стандартизировать их развёртывание услуг по сбору, редактированию и распространению новостной информации в Интернете, услуг по повторному использованию и услуг платформ вещания. Они не могут генерировать или синтезировать поддельную новостную информацию и не могут распространять новостную информацию, не опубликованную рабочими подразделениями в рамках, определённых государством”. Правила, по-видимому, не исключают небольшие организации или те, у которых относительно мало активных пользователей в месяц.

Примечательно, что более ранняя версия статьи 10 запрещала использование “дискриминационных или предвзятых пользовательских тегов” в алгоритмических рекомендательных системах, чего нет в окончательной версии правил.

Какие меры защиты для пользователей предусмотрены правилами?

Статьи 16 – 22 призваны предоставить пользователям новые права, включая защиту несовершеннолетних и пожилых людей. Они включают право на получение уведомления, возможность отказаться, удалить пользовательские данные и не подвергаться “дифференцированному обращению”. Права на уведомление, отказ и контроль пользовательских данных также предусмотрены законами о персональных данных, такими как Генеральный регламент ЕС о защите персональных данных (“GDPR”) и Калифорнийский закон о конфиденциальности потребителей (“CCPA”).

Существуют ли механизмы правоприменения и регулирующего надзора?

Статьи 23 – 30 предусматривают применение правил. Для краткости эти положения не будут здесь излагаться.

С какими обязательствами сталкиваются компании, если они нарушают правила?

Статья 31 предусматривает, что власти могут вынести правонарушителям, в зависимости от степени тяжести, предупреждение, “отчет о критике” или “приказ об исправлении положения”. Нарушители могут быть временно отстранены от работы и могут быть наложены штрафы в размере от 10 000 до 100 000 юаней. Правонарушения могут подняться до уровня преступности и могут преследоваться по закону. Толкование правил возлагается на органы Управления киберпространства Китая с помощью Министерства промышленности и информационных технологий, Министерства общественной безопасности и Государственного управления регулирования рынка.

Есть ли в других странах аналогичные законы?

Китай готов превзойти США и ЕС в издании нормативных актов, непосредственно направленных на контентные системы рекомендаций. В Соединенных Штатах нет закона или подзаконных актов, непосредственно влияющих на рекомендательные системы, хотя Закон о ФТК (“FTC Act”) уполномочивает Федеральную торговую комиссию (“ФТК”) регулировать вводящую в заблуждение и недобросовестную деловую практику. ФТК использует эти полномочия для регулирования деятельности, связанной со сбором, обработкой и продажей пользовательских данных, которые, как описано выше, являются ключевыми для любых рекомендательных систем. Аналогичным образом, ЕС косвенно регулирует рекомендательные системы посредством своего регламента “О защите физических лиц в отношении обработки персональных данных и о свободном перемещении таких данных” (2016 г.). Закон ЕС об искусственном интеллекте, принятый в апреле 2021 года, но еще не вступивший в силу, определяет регулируемые “системы искусственного интеллекта” как программное обеспечение, которое “...для заданного набора целей, определенных человеком, генерирует выходные данные, такие как контент, прогнозы, рекомендации или решения, влияющие на среду, с которой они взаимодействуют”. Таким образом, в зависимости от толкования Закона ЕС, включая то, что представляет собой система искусственного интеллекта “высокого риска”, Закон ЕС мог бы, по крайней мере, косвенно регулировать рекомендательные системы из-за их потенциального воздействия с высоким риском на личные права и общественные интересы.