Китай продолжает выстраивать одну из самых детальных в мире систем регулирования искусственного интеллекта. Власти КНР представили сразу два важных документа: проект правил для сервисов с использованием цифровых виртуальных людей и комплексное руководство по этическому управлению в сфере ИИ.
Пекин дает понять: эпоха «дикого» применения дипфейков и бесконтрольных виртуальных помощников подходит к концу.
Не пропустите: Председатель Си потребовал «обнажить меч» против сетевого хаоса
Прощай, анонимность: правила для «цифровых людей»
Государственная канцелярия интернет-информации КНР вынесла на общественное обсуждение проект, регулирующий работу человекоподобных виртуальных существ.
Теперь «цифровой человек» — это не просто картинка, а объект со строгими правилами эксплуатации.
Основные требования проекта:
- обязательная маркировка — провайдеры обязаны размещать заметную надпись «цифровой человек» рядом с любым контентом, созданным виртуальным существом. Пользователь должен четко понимать, что общается не с живым собеседником;
- право на образ — использовать черты реальных людей или их конфиденциальные данные для создания аватаров можно только при их осознанном и явном согласии;
- защита несовершеннолетних — власти вводят прямой запрет на формирование зависимости детей от виртуальных личностей.
Помимо этого власти также намерены запретить предоставление подросткам «виртуальных родственников» или «виртуальных партнеров«, если это может привести к эмоциональной привязанности и/или чрезмерным денежным тратам.
Этика как технический стандарт
Параллельно с правилами для аватаров, сразу 10 государственных ведомств Китая, включая Министерство промышленности и информатизации, выпустили руководство по этической экспертизе ИИ.
И это тоже не просто рекомендации, а «пробный» стандарт для разработчиков. На чем сфокусировано руководство:
- основой любой ИИ-разработки должно стоять благополучие людей, а не только коммерческая выгода;
- разработчики обязаны доказывать обоснованность алгоритмов и принимать меры против «алгоритмической эксплуатации» или предвзятости при отборе обучающих данных;
- документ призывает создавать инструменты для оценки рисков в зависимости от сценария применения ИИ — от медицины до финансов.
Пекин также планирует поддерживать инновации в области «этических технологий» и содействовать открытому доступу к качественным наборам данных, на которых алгоритмы можно проверять на честность и надежность.
Не пропустите: К 2029 году третьей экономикой мира станет …киберкриминал
Что это значит для рынка?
Для технологических гигантов вроде Baidu или Tencent это означает усложнение процесса запуска новых продуктов. Однако для пользователей это долгожданная броня против мошенничества с использованием дипфейков и манипулятивных технологий.
Китай фактически создает стандарт «ответственного ИИ», которому, вероятно, придется следовать и международным компаниям, желающим работать на этом рынке. via