La Administración de ciberespacio de China (CAC) ha propuesto un nuevo conjunto de leyes y reglamentos para gestionar los sistemas de síntesis asistida por inteligencia artificial, incluidas otras subdivisiones de falsificación profunda, escenas de realidad virtual, generación de texto, síntesis de medios de inteligencia de audio e inteligencia artificial: en esta área, China produce una gran cantidad de proyectos de investigación mensualesY artículos de investigación.
Una publicación en el sitio web oficial de CAC (Google Translate, el texto original aquí) enumera las obligaciones propuestas y describe los servicios afectados como "proveedores de servicios integrados profundos", invitando a los ciudadanos a participar comentando el borrador de la recomendación, que finaliza el 28 de febrero.
No solo falsificaciones profundas
Aunque la legislación propuesta ha informado sobre su impacto potencial en la creación y difusión de falsificaciones profundas, el documento intenta regular la capacidad del algoritmo para generar cualquier tipo de contenido, que puede interpretarse en el amplio entendimiento de los "medios".
Article 2 declares the projected scope of the regulations across six sectors*:
(1) Techniques for generating or editing text content, such as chapter generation, text style conversion, and question-and-answer dialogue;
(2) Technologies for generating or editing voice content, such as text-to-speech, voice conversion, and voice attribute editing;
(3) Technologies for generating or editing non-voice content, such as music generation and scene sound editing;
(4) Face generation, face replacement, character attribute editing, face manipulation, gesture manipulation, and other technologies for generating or editing biometric features such as faces in images and video content;
(5) Techniques for editing non-biological features in images and video content, such as image enhancement and image restoration;
(6) Technologies for generating or editing virtual scenes such as 3D reconstruction.
Reglas de vacaciones profundas
A fines de 2019, China criminalizó el uso de inteligencia artificial para difundir noticias falsas. En ese momento, CAC expresó su preocupación por el impacto potencial de la tecnología de falsificación profunda, lo que llevó a muchos a pensar que el gobierno chino eventualmente prohibiría por completo la falsificación de tecnología.
Sin embargo, esto significará que China abandonará formalmente uno de los desarrollos más políticos y culturales en la historia de la generación de medios, la inteligencia artificial e incluso la historia política y cortará sus propios intereses en la cooperación científica global y abierta.
Therefore, it seems that China is now determined to experiment with controlling rather than banning the potentially rogue technology, which, many believe, will ultimately migrate out of its porn accelerator phase and into a legitimate and exploitable set of use cases, notably in entertainment.
NeRF Included
Article 2.6 addresses the generation or editing of virtual scenes, such as 3D reconstruction, a more nascent technology than deepfake impersonation, and one that has achieved the most prominence over the past two years through the advent of Neural Radiance Fields (NeRF), where photogrammetry is used to synthesize entire scenes in the explorable latent space of machine learning models.
Sin embargo, a medida que los investigadores chinos presentan algunas innovaciones importantes en esta área, NeRF está expandiendo rápidamente sus tentáculos de la imagen y el entorno del modelo a la generación de videos de todo el cuerpo.
China’s ST-NeRF in action.
Aunque NeRF ha producido una serie de nuevos estudios desde su anuncio en 2020, su implementación en sistemas VR o AR, o su aplicabilidad en tuberías de efectos visuales, todavía tiene muchos desafíos importantes y cuellos de botella técnicos que superar. La creciente capacidad de NERF para reconstruir y editar una apariencia humana completa no ha incluido ninguna capacidad estándar de falsificación de identidad que haya sido característica de los titulares de las noticias durante los últimos dos años.
¿La falsificación de profundidad de audio es una prioridad?
Si el segundo orden de lista se considera como una indicación de la tecnología de síntesis profunda más preocupada de China para el control y la regulación, esto mostrará que las noticias falsas generadas por la inteligencia artificial basada en texto son las principales preocupaciones, y en términos de su impacto potencial, la síntesis del habla está por delante de la profundidad del videoSintético
De ser así, está en línea con el hecho de que Deep Resort Video no se ha utilizado para ningún delito relacionado con la pornografía (Asia no dudó en criminalizar la pornografía de vacaciones profundas), mientras que Deep Resort Audio al menos en el Reino Unido en 2019 y los Emiratos Árabes Unidos en 2021, dos delitos financieros importantes que se consideran activos.
El nuevo proyecto de ley exige que los usuarios que deseen utilizar su identidad personal a través de sistemas de aprendizaje automático soliciten permiso personal por escrito. Además, los medios sintéticos deben mostrar algún tipo de marca de agua o marca de agua "prominente", o de otra manera, para que los consumidores sepan que el contenido se modifica o se fabrica por completo. Todavía no está del todo claro cómo hacer esto en el caso de la falsificación de profundidad de audio.
Registrarse
El proyecto de propuesta, si se aprueba, instruirá a los proveedores de servicios integrados profundos para que registren sus solicitudes con el país de conformidad con las disposiciones actuales recomendadas para la gestión de los algoritmos del servicio de información de Internet y cumplan con todos los procedimientos de presentación necesarios. Los proveedores de síntesis profunda también deberán cooperar libremente en la supervisión e inspección y proporcionar "el apoyo y la asistencia técnica y de datos necesarios" previa solicitud.
Además, dichos proveedores necesitarán establecer portales de quejas fáciles de usar, publicar los plazos esperados para el manejo de tales quejas y se les pedirá que proporcionen "mecanismos de rumor", aunque las recomendaciones no detallan cómo implementar el mecanismo.
Las violaciones podrían resultar en multas de entre 10,000 y 100,000 yuanes ($1,600 a $16,000) y demandas civiles y penales para compañías que violan la ley.
* Translation by Google Translate, see link early in article.
Publicado por primera vez el 28 de enero de 2022.
