Ética e propriedade de identidades movidas a IA |VentureBeat Venturebeat Página inicial VentureBeat Página inicial Siga -nos no Twitter Siga -nos no Facebook Siga -nos no LinkedIn Siga -nos no RSS Siga -nos no RSS Siga -nos no Twitter Siga -nos no RSS Share on Faceboo

Este artigo foi contribuído por Taesu Kim, CEO da Neosapience

Com os tremendos avanços de como as tecnologias de IA/ML estão sendo implantadas, uma das mais emocionantes, controversas e avançadas em rápida evolução se relacionam com a voz humana.Um exemplo em particular salta como encapsulando o complexo de questões e emoções vinculadas a vozes movidas a IA.

No verão passado, a tecnologia de IA foi usada para dar voz a alguns dos escritos do falecido Anthony Bourdain, palavras que ele nunca falou ou leu em voz alta, mas, no entanto, eram dele;A tecnologia de clonagem de voz deu vida ao texto em Roadrunner: um filme sobre Anthony Bourdain.Alguns na platéia sentiram -se enganados por não ser realmente Bourdain, outros pensaram que a jogada foi um passo em falso, pois Bourdain não estava vivo para dar permissão para manipular sua voz dessa maneira, enquanto muitos achavam que era simplesmente um dispositivo de narrativa criativa.

O exemplo de Bourdain destaca duas questões principais que chegarão à vanguarda de como as tecnologias de voz baseadas em IA serão usadas no futuro.Por um lado, há perguntas sobre quem tem a propriedade de uma voz e, portanto, controla como ela pode ser usada agora e no futuro.Por outro lado, é a questão ética: é moralmente certo permitir que a voz de alguém seja usada em domínio público após sua morte quando ele ou ela não tiver controle sobre como será usado ou o que é dito?

Essas perguntas estão surgindo porque a tecnologia de voz baseada em IA está começando a decolar;Houve uma quantidade enorme de tempo e dinheiro gasto em pesquisa e desenvolvimento para fazer com que vozes geradas por máquina pareçam “real.Eles agora são capazes de transmitir as emoções, textura, cadência, bem como a ascensão e queda natural e muitos outros marcadores distintos que caracterizam a fala humana (sem mencionar a música).Isso muda o jogo, porque se tornou difícil para os ouvintes determinar a diferença entre o discurso de um humano e o de uma máquina.

Como tal, alcançamos um momento decisivo no desenvolvimento da tecnologia, onde precisamos descobrir diretrizes básicas e definir o Guardrails, ou como tantas tecnologias antes dela, os aplicativos da tecnologia de voz serão usados de maneiras que nunca foram pretendidos.

Propriedade de identidades digitais

Tornamo-nos uma sociedade global sede de experiências de conteúdo ricas-seja por meio de serviços de cinema, televisão e streaming ou meios gerados pelo usuário, como YouTube e Tiktok.E em breve o Metaverse oferecerá ainda mais maneiras novas de se envolver com o conteúdo.Todas essas avenidas apresentam enormes oportunidades para a voz movida a IA, bem como vídeo.A voz e o vídeo movidos a IA tornam-a exponencialmente mais rápida, mais fácil e mais barata para criar conteúdo, sem mencionar adaptá-lo para outros idiomas.Essas tecnologias também são altamente acessíveis por meio de serviços de texto em voz, portanto, essencialmente qualquer pessoa pode aproveitar a IA para criação de conteúdo sem exigir um estúdio e muitos equipamentos sofisticados, estimulando alta demanda na indústria do entretenimento.

Ao mesmo tempo, há muito medo em torno da propriedade e monetização da identidade virtual de alguém.Em um mundo de falses profundas, deturpação e roubo de identidade, é justo para os indivíduos se perguntarem o que acontece se alguém coopta sua identidade digital para seus próprios propósitos.Não apenas o indivíduo perderia o controle de como sua semelhança é implantada, bem como qualquer receita ou reconhecimento de marca associado a ela, mas poderia ser usado de maneira inadequada, até ilegal - ou para que o pensamento continue.

Isso é altamente improvável, no entanto.Cada voz humana - assim como o rosto - tem sua própria pegada única, composta por dezenas de milhares, milhões, de características.Com as tecnologias avançadas de detecção e gerenciamento de fraudes em desenvolvimento, as identidades movidas a IA podem ser salvaguardadas com relativa facilidade.O que é muito mais complicado, no entanto, é gerenciar essa identidade digital ao longo do tempo.Torna -se não apenas sobre negócios, mas uma série de decisões éticas que estão inextricavelmente entrelaçadas.

A ética da representação virtual e identidades movidas a IA

Tudo bem para o diretor usar a voz digitalizada de Bourdain em seu filme?O diretor supostamente obteve permissão para usar sua voz clonada de IA para entregar as linhas em questão, mas de quem?Quem finalmente tem o direito de decidir?

Da mesma forma, o famoso cantor folclórico sul-coreano Kim Kwang-Seok, a voz movida a IA recentemente foi usada para lançar uma nova música.O artista está morto há 25 anos, mas uma empresa de transmissão intermediou um acordo com a família do artista para usar a IA para clonar sua voz e implantá -la para algo totalmente novo, em grande parte ao deleite do público.Existem muitos outros casos de empresas de entretenimento e criadores de conteúdo que procuram trazer a voz e a semelhança de pessoas famosas de volta para concertos ou filmes.Mas é eticamente responsável?

Na superfície, é algo que pode ser abordado simplesmente o suficiente por meio de acordos de licenciamento e contratos com o patrimônio do artista ou, idealmente, determinado enquanto o artista ainda está vivo.À medida que a prática se torna mais comum, devemos estar preparados para ver uma espécie de nome, imagem, voz, cláusula de semelhança dentro da vontade de uma pessoa, particularmente uma que governa seus desejos póstumos ou nomeia um gerente para supervisionar a carreira de seu eu virtual - muitoda mesma maneira que eles têm um gerente de negócios na vida.

Identidades virtuais não são apenas para celebridades

Uma coisa é para as celebridades considerar esse conteúdo e acordos de gerenciamento, mas e as pessoas comuns e comuns?Talvez aqueles que sofrem por entes queridos, como essa mulher que perderam a filha por uma doença?Encontrando -se em um ambiente de realidade virtual, a mulher conseguiu se conectar com a filha em forma de avatar, aparentemente viajando para uma versão do céu e segurando uma festa de aniversário.A experiência é claramente bastante significativa para a jovem mãe e sua família, mas a interação não é de forma alguma real.Algumas empresas - assim como os consumidores - não querem parte no desenvolvimento de tais experiências, porque são necessárias liberdades com a semelhança e personalidade da criança, enquanto outros vêem a chance de proporcionar conforto e fechamento às famílias com dor.

E quanto à criação de novas experiências virtuais para fins educacionais, como os premiados hologramas interativos: Experiência de histórias de sobrevivência?Numa época em que estudantes e cidadãos questionam se o Holocausto era real ou o que realmente implica sendo nazista, não há espaço para usar essa tecnologia para sempre?Que linhas são apropriadas em termos de licença criativa?

Mudando-se para um futuro movido a IA com identidades movidas a IA

Não há respostas fáceis quando se trata de uma identidade virtual ou de IA.Sentamos no precipício de um meio inteiramente novo de criação de conteúdo, onde pessoas famosas e comuns serão solicitadas em breve a pensar em como sua voz e imagem podem ser usadas não apenas hoje, mas muito tempo depois que elas se foram.

A identidade virtual se tornará uma moeda que deve ser considerada semelhante aos seus ativos físicos, em que eles podem especificar seus desejos na vida e na morte, e nomear gerentes e executores para aprovar seu uso avançando.Isso pode parecer absurdo, mas as vozes digitais não envelhecem, nem avatars.Com o metaverso indo mainstream, nossos eus virtuais podem viver muito além dos nossos anos.

Tornará -se um novo imperativo que todos determinem e definem claramente os parâmetros com os quais se sentem confortáveis em termos de identidade digital.Da mesma forma, as empresas que oferecem plataformas para a criação de voz e vídeo a IA precisam desenvolver políticas claras para a adoção e uso de uma identidade virtual específica de IA virtual.Fazer isso protege os indivíduos e as empresas de cair uma ladeira escorregadia à medida que as identidades virtuais altamente perturbadoras de IA tornam-se normalizadas.

Taesu Kim é o CEO da Neospience