LA PELEA DEL SIGLO: VERDAD VS IA

Esparcir ideas falsas, confundir votantes y arruinar reputaciones. El Deepfake es una tecnología que distorsiona la realidad mediante IA ¿Es posible no ser engañado?

¿Quién no se ha divertido utilizando inteligencia artificial? Con el deepfake se puede desde crear caricaturas con tu propia cara, jugar con filtros que te hacen más viejo o joven e incluso memes que ponen en situaciones graciosas a celebridades. Esta tecnología es utilizada también con fines perversos y es foco de innumerables polémicas que ponen en duda a los sentidos humanos y hacen perder a la verdad en un mar de falsedad.

La era de la (des)información

La desinformación y el contenido falso existe aun antes del surgimiento de la IA. El docente e investigador de la Universidad Nacional de la Matanza Mariano Giacometti, en una entrevista para Elemental Ramon, advierte sobre los riesgos potenciales de que las herramientas de inteligencia artificial profundicen la desinformación. 

“Hay personas que, al no estar tan acostumbradas pueden ser presas más fáciles de caer en la desinformación que otras”, aclara Giacometti. El temor de caer en engaños y de no poder discernir la realidad de la ilusión es cada vez más probable porque la tecnología, según Giacometti, “se sigue perfeccionando y quizás en algún momento sea más difícil de distinguir”.

La educación cumple un papel importante en la llamada “alfabetización digital” y puede ser una de las claves para detener la ola desinformativa impulsada por IA y advertir contenido falso. “Se puede trabajar en la educación para aprender a detectar estas cuestiones”, argumenta el investigador. 

Esta alfabetización hubiese sido clave para detectar estafas con videos y audios alterados con IA, como en el tragicómico caso en el que le hacían creer a una mujer que Brad Pitt necesitaba su ayuda porque estaba endeudado. Giacometti advierte al respecto que “siempre hay algo que te da un indicio de que lo que estás viendo no es real”.

La IA no tiene problemas en crear imagenes de famosos en situaciones comprometedoras o vergonzosas ¿De que mas sera capaz?

IA vs IA

Entonces ¿Cómo hacerle frente a este enemigo imperceptible? La respuesta es con inteligencia artificial. Como si se tratase de una táctica de guerra, el fuego contra fuego parece ser una de las soluciones. Giacometti propone que la inteligencia artificial puede ser utilizada para detectar y poner en evidencia el contenido generado con IA. Existen métodos de escaneo impulsados con IA con los que es posible detectar si un contenido fue creado parcial o totalmente con inteligencia artificial.

Una de las tácticas para pasar desapercibida que aplica la IA es la camuflación, tal cual hace un soldado que quiere esconderse del enemigo. "La inteligencia artificial trata de imitar la forma en la que piensa una persona", explica Giacometti. Una de las últimas tecnologías desarrolladas por Google llamada Veo 3 postula que puede producir videos con audio “muy verosímiles" y al respecto el investigador dice que “si es así, estamos ante una tecnología que resulta indistinguible".

En el campo científico y académico, la IA ya fue puesta a prueba por equipos de investigación dedicados a revisar y chequear artículos, tesis o papers. Consiste en softwares que detectan plagios en formato texto, pero aplicados a producciones intervenidas por inteligencia artificial. Según Giacometti, ”están implementando esos mismos softwares y esa tecnología para detectar producción con inteligencia artificial". Es posible entonces detectar e identificar el contenido que intenta engañar ¡La batalla por la verdad no está perdida!

Buenas prácticas, legislación y regulación

Francisco José García en un artículo para la Universidad de Valencia llamado “Deepfakes: el próximo reto en la detección de noticias falsas” postula que hay formas de hacerle combatir a los deepfakes con la legislación y la regulación. Sugiere que se adapten las leyes actuales para cubrir la difamación, la falsificación o la suplantación de identidad. 

Los deepfakes no figuran específicamente en las leyes civiles o penales y la sofisticación de las tecnologías exige nuevos marcos regulatorios. Algunas empresas proveedoras de servicios de inteligencia artificial han tomado medidas en las que sancionan a usuarios por el uso indebido de su tecnología, con vetos permanentes en sus plataformas.

Una de las principales cuestiones reside en automatizar la detección de deepfakes de manera precisa. A raíz de esto, empresas como Google y Facebook promovieron competiciones con premios en metálico para desarrollar e implementar métodos confiables en la detección de videos falsificados. En 2020 obtuvieron una precisión automatizada del 80% de acierto.         

Por otro lado, en el artículo ¿Qué puede hacer el derecho frente a las noticias falsas creadas por deepfake? publicado por el investigador húngaro Gergely Lendvai, se argumenta que una de las soluciones que hay para eliminar el deepfake consiste en obligar a las plataformas a contar con una herramienta que les permita identificar contenido de este tipo, que el algoritmo vaya aprendiendo y así volverse más efectivo. La otra solución consiste en la educación mediática, el fomento del pensamiento crítico y el hábito de chequear posteriormente la información.

Puede que la Verdad haya salido bien parada en este primer enfrentamiento contra la IA y los deepfakes ¿Que nuevos desafíos le deparará? El futuro es incierto pero lo cierto es que son más las armas que hay a favor de las que hay en contra.