La China Cyberspace Administration (CAC) a proposé un nouveau projet de règlement pour réglementer les systèmes de synthèse assistée par intelligence artificielle, y compris la contrefaçon profonde, les scènes de réalité virtuelle, la génération de texte, l'audio et d'autres sous-secteurs de la synthèse de médias par intelligence artificielle-un domaine dans lequel la Chine produit un grand nombre d'articles universitaires et de projets de recherche innovants chaque mois.
Un article publié sur le site officiel de la CAC (traduction de Google, texte original ici) énumère les obligations proposées et décrit les services concernés comme des « fournisseurs de services profondément intégrés », invitant les citoyens à participer en commentant le projet de recommandation jusqu'au 28 février.
Pas seulement des faux profonds
Bien que les règlements proposés aient déjà signalé leur impact potentiel sur la création et la diffusion de faux profonds, le document tente de réglementer de manière globale la capacité des algorithmes à générer tout type de contenu pouvant être interprété au sens large du terme « média ».
Article 2 declares the projected scope of the regulations across six sectors*:
(1) Techniques for generating or editing text content, such as chapter generation, text style conversion, and question-and-answer dialogue;
(2) Technologies for generating or editing voice content, such as text-to-speech, voice conversion, and voice attribute editing;
(3) Technologies for generating or editing non-voice content, such as music generation and scene sound editing;
(4) Face generation, face replacement, character attribute editing, face manipulation, gesture manipulation, and other technologies for generating or editing biometric features such as faces in images and video content;
(5) Techniques for editing non-biological features in images and video content, such as image enhancement and image restoration;
(6) Technologies for generating or editing virtual scenes such as 3D reconstruction.
Deepfake Regulation
China criminalized the use of AI for the spreading of fake news at the end of 2019, at which time the CAC expressed concern about the potential implications of deepfake technology, prompting many to consider that the Chinese government would eventually ban deepfake technology outright.
However, this would entail China officially abandoning one of the most politically and culturally significant developments in the history of media generation, AI, and even politics, and cutting itself off from the benefits of global and open scientific collaboration.
En conséquence, la Chine semble maintenant déterminée à essayer de contrôler plutôt que d'interdire cette technologie potentiellement voyou, qui, selon beaucoup, finira par passer de la phase d'accélérateur pornographique à des cas d'utilisation légaux et accessibles, en particulier dans le domaine du divertissement.
Y compris NeRF
L'article 2.6 traite de la génération ou de l'édition de scènes virtuelles, telles que la reconstruction 3D, une technique de renouvellement de la simulation de vacances plus profonde et la technique qui a obtenu les réalisations les plus remarquables au cours des deux dernières années grâce à l'émergence du champ de rayonnement neuronal (NeRF), où la photogrammétrie est utilisée pour synthétiser des scènes entières dans un espace potentiel explorable de modèles d'apprentissage automatique.
Cependant, avec quelques innovations majeures proposées par des chercheurs chinois dans ce domaine, NeRF étend rapidement ses tentacules de l'itinérance de l'image et de l'environnement du modèle à la génération de vidéos du corps entier.
Le Saint Nelf de Chine est en action.
Bien que NeRF ait produit une série de nouvelles recherches depuis son annonce en 2020, il reste de nombreux défis et goulets d'étranglement techniques importants à surmonter pour sa mise en œuvre dans les systèmes de réalité virtuelle ou AR, ou son applicabilité dans le pipeline des effets visuels. La capacité croissante de la NERF à reconstruire et éditer l'apparence humaine complète n'a pas encore intégré les capacités standard de conversion d'identité en falsification profonde, qui ont caractérisé les manchettes des deux dernières années.
Audio Deep Fake est une priorité?
Si l'ordre de la deuxième liste est considéré comme une indication de la technologie de synthèse profonde que la Chine se soucie le plus de contrôler et de réglementer, cela indiquerait que les fausses nouvelles générées par l'intelligence artificielle basée sur le texte sont la principale préoccupation, et que la synthèse vocale devance la synthèse vidéo profonde en termes d'impact potentiel.
Si tel est le cas, cela correspond au fait que la vidéo Deep Holiday n'a pas encore été utilisée pour des délits non liés à la pornographie (l'Asie n'hésite pas à criminaliser la pornographie Deep Holiday) et que le Deep Holiday Audio est considéré comme une technologie active dans au moins deux délits financiers majeurs au Royaume-Uni en 2019 et aux Émirats arabes unis en 2021.
Le nouveau projet de règlement oblige les utilisateurs qui souhaitent utiliser leur identité personnelle en utilisant des systèmes d'apprentissage automatique à demander une autorisation écrite personnelle. En outre, les médias synthétiques doivent porter un signe ou un filigrane « proéminent » ou d'autres moyens permettant au consommateur de comprendre que le contenu a été modifié ou entièrement fabriqué. N'est pas tout à fait clair comment cela peut être réalisé dans le cas de fausses profondeurs audio.
Inscription
Le projet de proposition, s'il est approuvé, obligera les fournisseurs de services intégrés approfondis à enregistrer leurs demandes pertinentes auprès de l'État conformément aux dispositions actuelles de la proposition de gestion des algorithmes de services d'information sur Internet et à suivre toutes les procédures de dépôt nécessaires. Les fournisseurs de synthèse approfondie seront également invités à coopérer librement en matière de supervision et d'inspection et à fournir "le soutien et l'assistance technique et de données nécessaires" sur demande.
En outre, ces fournisseurs devront mettre en place des portails de plaintes conviviaux, publier les délais prévus pour le traitement de ces plaintes et être invités à fournir un "mécanisme de désinformation"-bien que la recommandation ne précise pas comment ce mécanisme sera mis en œuvre.
Les violations peuvent entraîner une amende de 10 000 à 100 000 yuans (1,600 à 16 000 $) et exposer l'entreprise contrevenante à des poursuites civiles et pénales.
* Translation by Google Translate, see link early in article.
Première publication le 28 janvier 2022.
