InvestigateTV: la tecnología utilizada para crear videos realistas de un actor de fama internacional, un ex presidente de los EE. UU. e incluso un líder mundial en medio de un conflicto violento se usa en los estadounidenses comunes.
>
>
La razón: usar tu rostro amigable puede atrapar fácilmente a las personas que conoces en una estafa.
Estas espeluznantes falsificaciones se crean con tecnología informática de vanguardia diseñada para imitar el cerebro humano.
En la comunidad de inteligencia artificial (IA), los videos se denominan "deepfakes". El término se usa para audio, imágenes o videos que han sido manipulados para parecer reales.
Los deepfakes usan una forma de IA llamada "aprendizaje profundo", una tecnología que intenta copiar cómo piensan y aprenden los humanos. También es donde se deriva el "profundo" en deepfake.
Recientemente, el usuario de Tiktok Chris Ume se volvió viral con su deepfake del actor Tom Cruise. En 2018, el director Jordan Peele y Buzzfeed hicieron circular un deepfake del expresidente Barack Obama para advertir a la gente sobre los avances tecnológicos y cómo podrían difundir información errónea a través del uso indebido.
Cuando se trata de rastrear estos videos potencialmente problemáticos, una de las pocas organizaciones con datos sobre deepfakes es Sensity, una empresa con sede en Ámsterdam que emplea tecnologías informáticas y de aprendizaje profundo para detectar deepfakes.
Según Sensity, las falsificaciones profundas surgieron a fines de 2017 y las cifras en línea aumentaron rápidamente. En 2018, la empresa rastreó más de 7000 videos falsos en línea. Para diciembre de 2020, su informe muestra que el número se disparó a más de 85 000 deepfakes en línea.
Los datos de Sensity solo rastrean incidentes que involucran a figuras públicas. No incluye incidentes que involucren a particulares. Sin embargo, los piratas informáticos están fingiendo algo más que celebridades y políticos.
Hackeado y falsificado
Kyle Hawkins lo sabe muy bien. Sin saberlo, ingresó al mundo de las falsificaciones profundas cuando sus cuentas de redes sociales fueron pirateadas en febrero de 2022.
Hawkins es un agente de seguros especializado en Medicare y planificación de la jubilación en Richmond, Virginia.
Un día, abrió Instagram y dijo que vio un mensaje de un viejo amigo. Hawkins pensó que el amigo se estaba acercando a sus servicios y buscando ayuda.
"Recibí un mensaje a través de Instagram de alguien de quien era amigo y supuse que les había pasado lo mismo, pero no lo sabía", dijo Hawkins.
Resulta que ese amigo había sido pirateado. Cuando Hawkins hizo clic en un enlace del mensaje, dijo que rápidamente perdió el control de su cuenta.
"No estaba pensando en nada al respecto", dijo Hawkins. “Y luego pude obtener Instagram esa mañana y luego, cuando verifiqué que era la hora del almuerzo, todo estaba mal”.
Hawkins dijo que tanto su Instagram como su cuenta de Facebook vinculada fueron pirateadas, lo que expuso a sus seguidores a ataques similares.
Ahí es donde dijo que comenzó el deepfake. Hawkins dijo que se envió un video falso de 16 segundos a sus amigos y seguidores alentándolos a invertir en la minería de Bitcoin. Confirmó que el video se ve y suena como él.
“Parece real, pero se lo están enviando a la gente. Han hecho otros, creo”, dijo Hawkins.
Dijo que el video se ha publicado en las historias de Instagram todos los días desde el ataque inicial. En él, dijo que el "falso Hawkins" comparte cuánto dinero ha ganado a través de Bitcoin. La cuestión es que Hawkins dijo que nunca ha invertido en criptomonedas.
"No tengo Bitcoin, así que no he hecho eso", dijo Hawkins.
Hawkins dijo que se comunicó con ambas plataformas de redes sociales con la esperanza de cerrar su cuenta, pero tanto su cuenta de Instagram como la de Facebook aún están activas.
Expansión y regulaciones de Deepfake
Ben Coleman, CEO de Reality Defender, trabaja con organizaciones y agencias gubernamentales para escanear audio, imágenes y video para proteger la privacidad de las personas, como así como combatir el fraude, el contenido inapropiado y buscar una solución al auge de las falsificaciones profundas.
"El intercambio de caras son falsificaciones profundas", dijo Coleman. “Algunos de ellos son divertidos, y algunos de ellos se utilizan para el fraude”.
Dijo que los videos también pueden ser potencialmente peligrosos.
El 16 de marzo, durante la acción militar de Rusia en Ucrania, apareció en las redes sociales un deepfake del presidente ucraniano Volodymyr Zelensky. El video mostraba a Zelensky dando un discurso. Sin embargo, estaba pixelado y tenía una voz más profunda de lo habitual. Una vez que el video fue etiquetado como deepfake, Meta, la empresa matriz de Facebook, se movió rápidamente para eliminar el video de todas sus plataformas y emitió la siguiente declaración, diciendo que la compañía "revisó y eliminó rápidamente este video por violar nuestra política contra medios engañosos manipulados, y notificó a nuestros compañeros en otras plataformas”.
Esta no era la primera vez que Meta abordaba las falsificaciones profundas. Antes de las elecciones presidenciales de 2020, la empresa prohibió las falsificaciones profundas y otros videos manipulados citando tácticas peligrosas que podrían engañar al público.
En un comunicado de prensa de Facebook de 2020, la compañía dijo que está trabajando en el problema y "reforzando su política contra los videos manipulados engañosos". La política de medios manipulados de Facebook establece que se eliminarán los videos satíricos o que no sean parodias editados para engañar a las personas, o los videos que usan IA para parecer auténticos.
No hay números públicos sobre cuántos videos falsos profundos ha eliminado Facebook, pero en un comunicado, la compañía dijo que está "trabajando con otros en esta área para encontrar soluciones con un impacto real".
En septiembre de 2019, la empresa creó un "Desafío de detección profunda de falsificaciones" en el que se pedía a expertos en el campo que ayudaran a crear herramientas de código abierto para detectar falsificaciones profundas.
HAGA CLIC AQUÍ PARA VER EL VIDEO DEL RETO
Meta también se asoció con medios de comunicación como Reuters para ayudar a identificar falsificaciones profundas y brindar capacitación en línea gratuita sobre cómo identificar imágenes manipuladas.
Ben Coleman dijo que si bien las empresas y organizaciones de redes sociales están tratando de combatir el problema, aún quedan obstáculos importantes.
"Muchas veces, estas empresas enfrentan grandes desafíos porque tienen moderadores humanos y los moderadores humanos ya no pueden diferenciar entre lo real y lo falso", dijo Coleman.
El senador Rob Portman (R-OH) presentó un proyecto de ley en el Congreso el año pasado para exigir que el Departamento de Seguridad Nacional y la Oficina de Políticas Científicas y Tecnológicas de la Casa Blanca establezcan una Fuerza de Tarea Nacional Temporal de Procedencia de Deepfake. El proyecto de ley ha sido remitido al Comité de Seguridad Nacional y Asuntos Gubernamentales y se “ordenó que se informara favorablemente sin enmiendas”.
Coleman dijo que no hay políticas actuales en los EE. UU. que requieran que las empresas marquen los medios falsos y sintéticos de la misma forma en que actualmente marcan la desnudez y la violencia de menores.
"En su mayor parte, [las empresas] piden a los usuarios que marquen cosas", dijo Coleman. “Esperan que los usuarios sean expertos, y si ven algo, deben decir algo y luego enviarlo a un equipo de moderadores humanos”.
Soluciones de falsificaciones profundas públicas y privadas
Según Coleman, Reality Defender está trabajando actualmente en la creación de una extensión de navegador y un sitio web para ayudar a los consumidores a detectar falsificaciones profundas desde sus computadoras personales.
Pero Reality Defender no está solo en la lucha contra las falsificaciones profundas.
En la Universidad de Virginia, un equipo de estudiantes de tercer año está desarrollando un sitio web para el público, donde algún día los consumidores podrían subir videos y fotos cuestionables para verificar si son falsos.
Dos de esos estudiantes, Ahmed Hussain y Sam Buxbaum, estudian informática y física. La pareja ganó el primer premio en el concurso Innovative Discovery Science Platform (iDISPLA). Su propuesta, que tenía como objetivo combatir las falsificaciones profundas mediante IA, surgió después de que el dúo notara un aumento en la aparición de videos falsos profundos en Internet.
"Definitivamente es posible que los deepfakes dentro de los próximos cinco años sean casi indistinguibles de las personas reales en algunos casos", dijo Hussain. “Están llegando al punto en que es bastante difícil hacerlo”.
Hussain dijo que cree que la solución no es combatir el fuego con fuego, sino usar blockchain, un sistema que registra información y hace que sea difícil piratear o engañar al sistema.
Buxbaum dijo que su sitio web permitiría a las personas subir un video y el algoritmo indicará si el video es falso.
"Algunas de las cosas que son diferentes entre un deepfake y un video real solo son detectables por una computadora, pero aun así te hacen sentir raro cuando lo ves", dijo Buxbaum.
Proteger su cuenta y detectar deepfakes
A medida que las soluciones en línea y los legisladores se ponen al día con la tecnología, Coleman sugirió varios pasos para ayudar a evitar que un pirata informático use sus fotos y videos para crear falsificaciones profundas:
Cuando se trata de detectar falsificaciones profundas, los investigadores del Instituto Tecnológico de Massachusetts sugieren mirar las características faciales del video:
Kyle Hawkins dijo que su experiencia lo hizo desconfiar de las redes sociales y este nuevo estilo de estafa cibernética.
"Solo ten mucho cuidado hoy en día con cualquier cosa que pongas allí, publiques allí, respondas o hagas clic".
Copyright 2022 Gray Media Group, Inc. Todos los derechos reservados.
