Éthique et propriété des identités alimentées par l'IA |VentureBeat VentureBeat Home Page VentureBeat HomePage Suivez-nous sur Twitter Suivez-nous sur Facebook Suivez-nous sur LinkedIn Suivez-nous sur RSS Suivez-nous sur RSS Suivez-nous sur Twitter Suivez-nous sur RSS partage sur FACELOO

Cet article a été apporté par Taesu Kim, PDG de Neosapience

Avec les énormes avancées dans la façon dont les technologies AI / ML sont déployées, l'une des avancées les plus excitantes, controversées et en évolution rapide concerne la voix humaine.Un exemple particulier saute comme encapsulant le complexe de problèmes et d'émotions liés aux voix alimentées par l'IA.

L'été dernier, la technologie de l'IA a été utilisée pour donner la parole à certains des écrits de feu Anthony Bourdain, des mots qu'il n'a jamais prononcés ou lus à haute voix mais qui étaient néanmoins les siens;La technologie de clonage vocale a donné vie au texte dans Roadrunner: un film sur Anthony Bourdain.Certains dans le public se sentaient dupés que ce n'était pas vraiment Bourdain, d'autres pensaient que cette décision était un faux pas car Bourdain n'était pas vivant pour donner la permission de manipuler sa voix de cette manière, tandis que beaucoup pensaient que c'était simplement un dispositif créatif de narration créatif.

L'exemple de Bourdain met en évidence deux problèmes clés qui atteindront la pointe de la façon dont les technologies vocales basées sur l'IA seront utilisées à l'avenir.D'une part, il y a des questions sur qui a la propriété d'une voix, et donc le contrôle de la façon dont il pourrait être utilisé maintenant et à l'avenir.De l'autre, la question éthique est-il moralement juste de permettre à la voix de quelqu'un d'être utilisée dans le domaine public après sa mort quand il n'a aucun contrôle sur la façon dont il sera utilisé ou ce qui est dit?

Ces questions font surface parce que la technologie vocale basée sur l'IA commence à vraiment décoller;Il y a eu énormément de temps et d'argent dépensés pour la recherche et le développement pour faire en sorte que des voix générées par la machine sonnent «réels.«Ils sont maintenant capables de transmettre les émotions, la texture, la cadence ainsi que la montée et la chute naturelles et de nombreux autres marqueurs distincts qui caractérisent la parole humaine (sans parler de la chanson).Cela change la donne, car il est devenu difficile pour les auditeurs de déterminer la différence entre le discours d'un humain et celui d'une machine.

En tant que tel, nous avons atteint un moment déterminant dans le développement de la technologie où nous devons déterminer les directives de base et définir des garde-corps, ou comme tant de technologies avant elle, les applications de la technologie vocale seront utilisées de manière.

Propriété des identités numériques

Nous sommes devenus une société mondiale soigneuse de riches expériences de contenu - que ce soit par le cinéma, la télévision et les services de streaming ou les supports générés par les utilisateurs comme YouTube et Tiktok.Et bientôt le Metaverse offrira encore plus de façons de s'engager avec le contenu.Toutes ces avenues présentent d'énormes opportunités pour la voix alimentée par l'IA, ainsi que la vidéo.La voix et la vidéo propulsées par l'IA le rendent exponentiellement plus rapide, plus facile et moins coûteux pour créer du contenu, sans parler de l'adapter pour d'autres langues.Ces technologies sont également très accessibles via des services de texte à voix.

En même temps, il y a beaucoup de peur entourant la propriété et la monétisation de son identité virtuelle.Dans un monde de contrefaçons profondes, de fausses déclarations et de vol d'identité, il est juste pour les individus de se demander ce qui se passe si quelqu'un coopte son identité numérique à leurs propres fins.Non seulement l'individu perdrait le contrôle de la façon dont sa ressemblance est déployée, ainsi que de tout revenu ou reconnaissance de marque qui lui est associé, mais il pourrait être utilisé de manière inappropriée, voire illégale - ou ainsi la pensée va.

C'est très peu probable, cependant.Chaque voix humaine - ainsi que le visage - a sa propre empreinte unique, composée de dizaines de milliers, à des millions de caractéristiques.Avec les technologies avancées de détection et de gestion de la fraude en développement, les identités alimentées par l'IA peuvent être sauvegardées relativement facilement.Ce qui est beaucoup plus compliqué, cependant, c'est gérer cette identité numérique au fil du temps.Il ne devient pas seulement une question d'affaires, mais une série de décisions éthiques qui sont inextricablement liées.

L'éthique de la représentation virtuelle et des identités alimentées par l'IA

Était-il acceptable que le réalisateur utilise la voix numérisée de Bourdain dans son film?Le directeur aurait obtenu l'autorisation d'utiliser sa voix clonée en IA pour livrer les lignes en question, mais à qui?Qui a finalement le droit de décider?

De même, la célèbre chanteuse de rock folk sud-coréen Kim Kwang-Seok, la voix alimentée par AI, a récemment été utilisée pour sortir une nouvelle chanson.L'artiste est mort depuis 25 ans, mais une société de radiodiffusion a négocié un accord avec la famille de l'artiste pour utiliser l'IA pour cloner sa voix et la déployer pour quelque chose de complètement nouveau, en grande partie au plaisir du public.Il existe de nombreux autres cas d'entreprises de divertissement et de créateurs de contenu qui cherchent à ramener la voix et la ressemblance de personnes célèbres pour des concerts ou des films.Mais est-ce éthiquement responsable?

En surface, c'est quelque chose qui peut être traité simplement assez grâce à des accords de licence et des contrats avec la succession de l'artiste ou, idéalement, déterminé pendant que l'artiste est encore en vie.À mesure que la pratique devient plus courante, nous devons être prêts à voir une sorte de nom, image, voix, clause de ressemblance dans la volonté d'une personne, en particulier celle qui régit ses souhaits posthumes ou nomme un manager pour superviser la carrière de leur moi virtuel - beaucoupDe la même manière qu'ils ont un chef d'entreprise dans la vie.

Les identités virtuelles ne sont pas seulement pour les célébrités

C'est une chose pour les célébrités de considérer ces accords de contenu et de gestion, mais qu'en est-il des gens ordinaires et ordinaires?Peut-être que ceux qui pleurent pour des êtres chers, comme cette femme qui a perdu sa jeune fille à cause d'une maladie?Réunissant dans un environnement de réalité virtuelle, la femme a pu se connecter avec sa fille sous forme d'avatar, se rendant apparemment à une version du paradis et organisant une fête d'anniversaire.L'expérience est clairement assez significative pour la jeune mère et sa famille, mais l'interaction n'est en aucun cas réelle.Certaines entreprises - ainsi que les consommateurs - ne veulent aucune part dans le développement de telles expériences car elle prend des libertés avec la ressemblance et la personnalité de l'enfant, tandis que d'autres voient une chance de fournir du réconfort et de la fermeture aux familles souffrant.

Et qu'en est-il de la création de nouvelles expériences virtuelles à des fins d'éducation, comme les hologrammes interactifs primés: l'expérience des histoires de survivant?À un moment où les étudiants et les citoyens se demandent si l'Holocauste était réel ou ce que l'être réellement nazi a impliqué, n'y a-t-il pas de place pour utiliser une telle technologie pour de bon?Quelles lignes sont appropriées en termes de licence créative?

Passer dans un avenir alimenté par l'IA avec des identités alimentées par l'IA

Il n'y a pas de réponses faciles lorsqu'il s'agit d'une identité virtuelle ou alimentée par IA.Nous nous asseyons au précipice d'un tout nouveau moyen de création de contenu, où des gens célèbres et ordinaires seront bientôt invités à réfléchir à la façon dont leur voix et leur image pourraient être utilisées non seulement aujourd'hui mais longtemps après leur départ.

L'identité virtuelle deviendra une monnaie qui devrait être considérée comme similaire à leurs actifs physiques, dans lesquels ils peuvent spécifier leurs souhaits dans la vie et la mort, et nommer des gestionnaires et des exécuteurs.Cela peut sembler farfelu, mais les voix numériques ne vieillissent pas, pas plus que les avatars.Avec le courant dominant de Metaverse, notre moi virtuel peut vivre bien au-delà de nos années.

Il deviendra un nouvel impératif que tout le monde détermine et définit clairement les paramètres avec lesquels ils sont à l'aise en termes d'identité numérique.De même, les entreprises qui offrent des plateformes pour la création de voix et de vidéo alimentées par l'IA doivent développer des politiques claires pour l'adoption et l'utilisation d'une identité virtuelle virtuelle virtuelle.Cela protège à la fois les individus et les entreprises de la dégringol.

Taesu Kim est le PDG de Neosapience