¿Te perdiste una sesión de la cumbre del futuro del trabajo?Dirígete a nuestra biblioteca de Future of Work Summit a pedido para transmitir.
Este artículo fue aportado por Taesu Kim, CEO de Neosapience
Con los tremendos avances en cómo se están desplegando tecnologías AI/ML, uno de los avances más emocionantes, controvertidos y en rápida evolución se relaciona con la voz humana.Un ejemplo en particular salta como encapsulando el complejo de problemas y emociones vinculadas a las voces con IA.
El verano pasado, la tecnología de IA se utilizó para dar voz a algunos de los escritos del difunto Anthony Bourdain, palabras que nunca habló o leyó en voz alta, pero fue suya;La tecnología de clonación de voz dio vida al texto en Roadrunner: una película sobre Anthony Bourdain.Algunos en la audiencia sintieron que no era realmente Bourdain, otros pensaron que la medida era un paso en falso ya que Bourdain no estaba vivo para dar permiso para manipular su voz de esa manera, mientras que muchos sintieron que era simplemente un dispositivo creativo de narración de cuentos.
El ejemplo de Bourdain destaca dos temas clave que aumentarán a la vanguardia de cómo se utilizarán las tecnologías de voz basadas en IA en el futuro.Por un lado, hay preguntas sobre quién tiene la propiedad de una voz y, por lo tanto, el control sobre cómo podría usarse ahora y en el futuro.Por otro lado, es el problema ético: ¿es moralmente correcto permitir que la voz de alguien se use en el dominio público después de su muerte cuando él o ella no tiene control sobre cómo se usará o lo que se dice?
Estas preguntas están surgiendo porque la tecnología de voz basada en IA está comenzando a despegar realmente;Ha habido una gran cantidad de tiempo y dinero gastado en investigación y desarrollo para hacer que las voces generadas suenen "."Ahora son capaces de transmitir las emociones, la textura, la cadencia, así como el ascenso natural y la caída y muchos otros marcadores distintos que caracterizan el discurso humano (sin mencionar la canción).Esto cambia el juego, porque se ha vuelto difícil para los oyentes determinar la diferencia entre el discurso de un humano y el de una máquina.
Como tal, hemos llegado a un momento decisivo en el desarrollo de la tecnología donde necesitamos descubrir pautas básicas y establecer barandillas, o como tantas tecnologías antes, las aplicaciones de la tecnología de voz se utilizarán de manera que nunca fueron intencionadas.
Propiedad de identidades digitales
Nos hemos convertido en una sociedad global que tiene sed de experiencias de contenido ricas, ya sea a través de servicios de cine, televisión y transmisión o medios generados por el usuario como YouTube y Tiktok.Y pronto el metaverse ofrecerá aún más formas nuevas de interactuar con el contenido.Todas estas avenidas presentan enormes oportunidades para la voz con IA, así como el video.La voz y el video con alimentación de IA lo hacen exponencialmente más rápido, más fácil y menos costoso crear contenido, sin mencionar que lo adapte a otros idiomas.Estas tecnologías también son altamente accesibles a través de servicios de texto a voz, por lo que esencialmente cualquier persona puede aprovechar la IA para la creación de contenido sin requerir un estudio y muchos equipos elegantes, lo que estimula la gran demanda en la industria del entretenimiento..
Al mismo tiempo, hay mucho miedo en torno a la propiedad y la monetización de la identidad virtual de uno.En un mundo de falsificaciones profundas, tergiversación y robo de identidad, es justo que las personas se pregunten qué sucede si alguien coopta su identidad digital para sus propios fines.El individuo no solo perdería el control de cómo se implementa su semejanza, así como cualquier ingreso o reconocimiento de marca asociado con él, sino que podría usarse de maneras inapropiadas, incluso ilegales, o así se produce el pensamiento..
Esto es muy poco probable, sin embargo.Cada voz humana, así como cara, tiene su propia huella única, compuesta por decenas de miles, a millones, de características.Con las tecnologías avanzadas de detección y gestión de fraude en el desarrollo, las identidades de IA se pueden salvaguardar con relativa facilidad.Sin embargo, lo que es mucho más complicado es administrar que la identidad digital con el tiempo.Se convierte no solo en negocios, sino una serie de decisiones éticas que están inextricablemente entrelazadas.
La ética de la representación virtual y las identidades impulsadas por la IA
¿Estaba bien que el director usara la voz digitalizada de Bourdain en su película?El director supuestamente obtuvo permiso para usar su voz con clase AI para entregar las líneas en cuestión, pero ¿a quién?¿Quién finalmente tiene el derecho de decidir?
Del mismo modo, la famosa cantante de rock folk coreano Kim Kwang-seok Ai Poleed Voice recientemente se utilizó para lanzar una nueva canción.El artista ha estado muerto durante 25 años, pero una compañía de transmisión negoció un acuerdo con la familia del artista para usar la IA para clonar su voz y desplegarla para algo completamente nuevo, en gran parte para el deleite del público.Hay muchos otros casos de compañías de entretenimiento y creadores de contenido que buscan traer la voz y la semejanza de personas famosas para conciertos o películas..¿Pero es éticamente responsable?
En la superficie, es algo que se puede abordar lo suficiente simplemente a través de acuerdos de licencia y contratos con el patrimonio del artista o, idealmente, determinado mientras el artista aún está vivo.A medida que la práctica se vuelve más común, debemos estar preparados para ver una especie de nombre, imagen, voz, cláusula de semejanza dentro de la voluntad de una persona, particularmente una que gobierna sus deseos póstumo o designa un gerente para supervisar la carrera de su yo virtual, mucho muchoDe la misma manera que tienen un gerente de negocios en la vida.
Las identidades virtuales no son solo para celebridades
Una cosa es que las celebridades consideren tales acuerdos de contenido y gestión, pero ¿qué pasa con las personas habituales y comunes?¿Quizás aquellos que se afligen por sus seres queridos, como esta mujer que perdió a su pequeña hija debido a una enfermedad?Reuniendo en un entorno de realidad virtual, la mujer pudo conectarse con su hija en forma de avatar, aparentemente viajando a una versión del cielo y celebrando una fiesta de cumpleaños.La experiencia es claramente bastante significativa para la joven madre y su familia, pero la interacción de ninguna manera es real..Algunas empresas, así como los consumidores, no quieren parte en el desarrollo de tales experiencias porque se requieren libertades con la semejanza y la personalidad del niño, mientras que otros ven la oportunidad de brindar comodidad y cierre a las familias con dolor..
¿Y qué hay de crear nuevas experiencias virtuales para fines educativos, como los galardonados hologramas interactivos: experiencia de Survivor Stories?En un momento en que los estudiantes y los ciudadanos cuestionan si el Holocausto era real o qué implicaba ser realmente nazi, ¿no hay espacio para usar tal tecnología para siempre?¿Qué líneas son apropiadas en términos de licencia creativa?
Mudarse a un futuro con IA con identidades impulsadas por IA
No hay respuestas fáciles cuando se trata de una identidad virtual o a IA.Nos sentamos en el precipicio de un medio completamente nuevo de creación de contenido, donde pronto se les pedirá a las personas famosas y regulares que piensen en cómo se podría usar su voz e imagen no solo hoy, sino mucho después de que se hayan ido..
La identidad virtual se convertirá en una moneda que debe considerarse similar a sus activos físicos, uno en la que pueden especificar sus deseos en la vida y la muerte, y designar a los gerentes y ejecutores para aprobar su uso en el futuro.Esto puede sonar descabellado, pero las voces digitales no envejecen, ni los avatares.Con el metaverse en la corriente principal, nuestros seres virtuales pueden vivir mucho más allá de nuestros años.
Se convertirá en un nuevo imperativo que todos determinan y definan claramente los parámetros con los que se sienten cómodos en términos de su identidad digital..Del mismo modo, las compañías que ofrecen plataformas para la creación de voz y video con IA deben desarrollar políticas claras para la adopción y uso de una identidad virtual específica de IA con IA.Hacerlo protege tanto a los individuos como a las empresas de caer por una pendiente resbaladiza a medida que las identidades virtuales de IA altamente disruptivas se normalizan.
Taesu Kim es el CEO de Neosapience
DataDecision Makers
¡Bienvenido a la comunidad VentureBeat!
DataDecisionmakers es donde los expertos, incluidas las personas técnicas que hacen trabajos de datos, pueden compartir ideas e innovación relacionadas con los datos.
Si desea leer sobre ideas de vanguardia e información actualizada, las mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en Datecisionmakers.
¡Incluso podría considerar un artículo de su propio artículo!
Lea más de DataDecisionmakers
