A Administração do Espaço Cibernético da China (CAC) propôs um novo conjunto de regulamentos para a gestão de sistemas sintéticos assistidos por inteligência artificial, incluindo falsificações profundas, cenários de realidade virtual, geração de texto, síntese de mídia de áudio e inteligência artificial, onde a China produz um grande número de trabalhos acadêmicos e projetos de pesquisa todos os meses.
Um post no site oficial do CAC (Google Translation, o texto original aqui) lista as obrigações propostas e descreve os serviços afetados como "provedores de serviços integrados profundos", convidando os cidadãos a participar comentando o projeto de recomendação, com um prazo de 28 de fevereiro.
Não apenas falsificações profundas
Embora os regulamentos propostos já tenham relatado seu impacto potencial na criação e disseminação de falsificações profundas, o documento tenta regular de forma abrangente a capacidade do algoritmo de gerar qualquer tipo de conteúdo que possa ser explicado em um sentido amplamente compreendido de "mídia".
O Artigo 2 declara o escopo projetado dos regulamentos para os seis departamentos *:
1) Técnicas para gerar ou editar conteúdo de texto, como geração de capítulos, conversão de estilos de texto, sessões de perguntas e respostas, etc.;
2) Tecnologias para gerar ou editar conteúdo de voz, como conversão de idioma, conversão de voz, edição de atributos de voz, etc.;
3) Tecnologias para gerar ou editar conteúdo não fonético, Tal como geração de música, clipes de som de cena;
Iv) Geração de faces, substituição de faces, edição de atributos de caracteres, manipulação de faces, manipulação de gestos e outras técnicas para gerar ou editar características biométricas, como faces em imagens e conteúdo de vídeo;
5) Técnicas para editar recursos abióticos em imagens e conteúdo de vídeo, como aprimoramento de imagens, restauração de imagens, etc.;
(6) Gerar ou editar cenas virtuais, como técnicas de reconstrução 3D.
Deepfake Regulation
China criminalized the use of AI for the spreading of fake news at the end of 2019, at which time the CAC expressed concern about the potential implications of deepfake technology, prompting many to consider that the Chinese government would eventually ban deepfake technology outright.
However, this would entail China officially abandoning one of the most politically and culturally significant developments in the history of media generation, AI, and even politics, and cutting itself off from the benefits of global and open scientific collaboration.
Therefore, it seems that China is now determined to experiment with controlling rather than banning the potentially rogue technology, which, many believe, will ultimately migrate out of its porn accelerator phase and into a legitimate and exploitable set of use cases, notably in entertainment.
Incluindo NeRF
O Artigo 2.6 trata da geração ou edição de cenas virtuais, como a reconstrução 3D, uma técnica que é mais recente do que a simulação de férias profundas, e uma técnica que alcançou as realizações mais notáveis através do surgimento do campo de radiação neural (NeRF) nos últimos dois anos.No campo de radiação neural, a fotogrametria é usada para explorar o modelo espacial em todo o cenário de síntese.
No entanto, como os pesquisadores chineses propuseram algumas inovações importantes nessa área, a NeRF está expandindo rapidamente seus tentáculos da imagem do modelo e do ambiente para a geração de vídeo de corpo inteiro.
O chinês St. Nelf está em ação.
Embora a NeRF tenha produzido uma série de novos estudos desde o seu anúncio em 2020, sua implementação em sistemas VR ou AR, ou sua aplicabilidade em pipelines de efeitos visuais, ainda tem muitos desafios significativos e gargalos técnicos a serem superados. A crescente capacidade da NERF de reconstruir e editar a aparência humana completa ainda não incorporou nenhum recurso padrão de falsificação profunda de conversão de identidade, que tem sido uma característica das manchetes de notícias nos últimos dois anos.
A falsificação de profundidade de áudio é uma prioridade?
Se a ordem de listagem do Artigo 2 for considerada como uma indicação da tecnologia de síntese profunda mais preocupada da China para controle e regulamentação, isso indicará que as notícias falsas geradas pela inteligência artificial baseada em texto são a principal preocupação e, em termos de seu impacto potencial, a síntese de fala está à frente da síntese de profundidade de vídeo.
Se este for o caso, isso está de acordo com o fato de que o vídeo de férias em profundidade ainda não foi usado para nenhum crime relacionado à pornografia (a Ásia não hesita em criminalizar a pornografia de férias profundas), enquanto o áudio de férias em profundidade é considerado uma tecnologia ativa em pelo menos dois grandes crimes financeiros no Reino Unido em 2019 e nos Emirados Árabes Unidos em 2021.
O novo projeto de regulamento exige que os usuários que desejam usar sua identidade pessoal por meio de um sistema de aprendizado de máquina busquem permissão por escrito pessoal. Além disso, a mídia sintética deve exibir algum tipo de logotipo ou marca d'água "proeminente", ou outros meios, para que os consumidores saibam que o conteúdo é modificado ou completamente fabricado. Não está totalmente claro como isso pode ser alcançado no caso de falsificações de profundidade de áudio.
Registo
Se o projeto de proposta for aprovado, o provedor de serviços integrados em profundidade será instruído a registrar suas solicitações relevantes para o país e cumprir todos os procedimentos de arquivamento necessários, de acordo com os regulamentos atuais recomendados pelo algoritmo de serviço de informações da Internet. Os provedores de síntese profunda também serão obrigados a cooperar livremente na supervisão e inspeção e fornecer "suporte técnico e de dados e assistência necessários" mediante solicitação.
Além disso, esses fornecedores precisarão estabelecer um portal de reclamações de fácil utilização, publicar os prazos esperados para o tratamento de tais reclamações e ser solicitados a fornecer um “mecanismo de rumor”-embora as recomendações não especifiquem como implementar o mecanismo.
Violações podem resultar em multas de 10.000 a 100.000 yuan (US $1.600 a US $16.000) e em processos civis e criminais contra empresas ilegais.
* Translation by Google Translate, see link early in article.
A primeira publicação foi publicada em 28 de janeiro de 2022.
