Deepfakes: ¿y si el próximo escándalo político nunca ocurrió?

Los deepfakes ya no son una curiosidad tecnológica. En una época en la que un video puede influir en elecciones, alterar conflictos internacionales o destruir reputaciones, la inteligencia artificial plantea una pregunta urgente: ¿seguimos pudiendo confiar en lo que vemos?

El escándalo que nunca existió

Faltan tres días para una elección presidencial…

En cuestión de minutos, un audio comienza a recorrer las redes sociales. En él, un candidato habla sobre un supuesto fraude electoral y manipulación del proceso democrático. La grabación parece auténtica: la voz, el tono y las pausas son convincentes.

En pocas horas, el contenido ya domina la conversación pública.

Periodistas, ciudadanos y actores políticos reaccionan mientras la desinformación se propaga con mayor rapidez que las verificaciones.

Esta escena podría parecer el inicio de una novela política, pero ocurrió en la vida real: en septiembre de 2023, apenas dos días antes de las elecciones parlamentarias en Eslovaquia, comenzó a circular un audio generado con inteligencia artificial que simulaba una conversación entre el líder del partido Progresívne Slovensko, Michal Šimečka, y una periodista. En la grabación falsa discutían cómo manipular los resultados electorales y aumentar artificialmente el precio de la cerveza a cambio de votos. Aunque especialistas demostraron posteriormente que el audio era un deepfake, el contenido se difundió cuando el periodo de silencio electoral ya dificulta responder con rapidez a la desinformación.

El caso de Eslovaquia evidenció que los deepfakes ya no pertenecen al terreno de la ciencia ficción. Son una realidad capaz de irrumpir en procesos democráticos, sembrar dudas entre la ciudadanía y poner a prueba la capacidad de las instituciones para responder a una tecnología que evoluciona a una velocidad sin precedentes.

Lo inquietante no es únicamente que la inteligencia artificial sea capaz de fabricar una mentira. Lo verdaderamente preocupante es que esa mentira pueda influir en decisiones reales antes de que exista la oportunidad de desmentirla.

Y cuando eso ocurre, la pregunta deja de ser tecnológica, se convierte en una pregunta política.

Porque las democracias no solo se sostienen sobre el voto; también se sostienen sobre la confianza. Y cuando la confianza puede fabricarse, la democracia también puede manipularse.

Deepfakes: cuando la verdad dejó de ser suficiente

Durante mucho tiempo, una fotografía o un video fueron considerados uno de los tipos de evidencia más difíciles de cuestionar. La posibilidad de observar un acontecimiento con nuestros propios ojos otorgaba una sensación de certeza: si estaba grabado, debía haber ocurrido. Sin embargo, la inteligencia artificial ha comenzado a transformar esa idea.

Los deepfakes son contenidos audiovisuales creados o alterados mediante inteligencia artificial capaces de imitar con gran precisión el rostro, la voz e incluso los gestos de una persona. A diferencia de una edición tradicional, esta tecnología aprende de miles de imágenes, grabaciones y patrones de comportamiento para generar un resultado que, a simple vista, parece completamente auténtico.

Su desarrollo no es, por sí mismo, un problema. La inteligencia artificial ha abierto posibilidades extraordinarias en ámbitos como la medicina, la educación, la investigación científica y la industria audiovisual. Incluso los deepfakes han sido utilizados para restaurar archivos históricos, doblar películas o mejorar herramientas de accesibilidad. El desafío aparece cuando esa misma tecnología abandona el terreno de la innovación y entra en el de la manipulación.

En una sociedad donde la información circula en cuestión de segundos, un contenido falso ya no necesita permanecer mucho tiempo en internet para producir consecuencias. Basta con que llegue a las personas indicadas, en el momento adecuado. En la política, unas cuantas horas pueden cambiar el rumbo de una conversación pública; durante un proceso electoral, incluso pueden influir en la percepción de miles de votantes.

Quizá por eso la pregunta más importante ya no sea si la inteligencia artificial es capaz de fabricar una mentira. La verdadera pregunta es por qué seguimos creyendo que nuestros ojos son suficientes para distinguirla.

La mentira más peligrosa no parece una mentira

Las campañas de desinformación no son un fenómeno nuevo. La historia política está llena de rumores, propaganda y noticias falsas utilizadas para influir en la opinión pública. Sin embargo, los deepfakes representan un punto de inflexión: ya no se trata únicamente de convencer a las personas mediante un discurso falso, sino de fabricar una realidad aparentemente auténtica.

La fuerza de un deepfake radica en la confianza que solemos depositar en las imágenes y en las voces. Un texto puede despertar dudas. Una fotografía puede ser cuestionada. Pero un video donde un candidato habla frente a una cámara, mueve las manos y modula su voz como siempre lo ha hecho resulta mucho más difícil de poner en duda. Ese es precisamente el riesgo.

Las democracias dependen de que la ciudadanía tome decisiones informadas. Para votar, debatir o exigir cuentas a quienes ejercen el poder, primero debemos confiar en que la información sobre la que construimos nuestras opiniones refleja, al menos, una parte de la realidad. Cuando esa confianza comienza a fracturarse, también lo hace la calidad del debate público. Pero existe un riesgo aún más profundo.

Los especialistas Danielle Citron y Robert Chesney describieron un fenómeno conocido como el «dividendo del mentiroso» (liar’s dividend): si la inteligencia artificial es capaz de crear videos y audios falsos cada vez más convincentes, también ofrece a quienes sí dijeron o hicieron algo comprometedor la posibilidad de negar su autenticidad. En otras palabras, la existencia de los deepfakes no solo facilita la creación de pruebas falsas; también debilita la credibilidad de las pruebas verdaderas.

La consecuencia es preocupante. En una sociedad donde cualquier evidencia puede ser calificada como «generada por inteligencia artificial», la discusión deja de centrarse en los hechos y comienza a girar alrededor de las percepciones. La verdad pierde fuerza, mientras que la desconfianza gana terreno. Y quizá ese sea el mayor triunfo de la desinformación: no lograr que todos crean una mentira, sino conseguir que nadie esté completamente seguro de la verdad.

Deepfakes y democracia: una amenaza en alta definición

Cuando pensamos en amenazas para la democracia, solemos imaginar crisis económicas, conflictos armados o intentos de corrupción. Sin embargo, en el siglo XXI ha surgido un desafío menos visible, pero igualmente capaz de alterar la estabilidad de un Estado: la manipulación de la información mediante inteligencia artificial.

Vivimos en un sistema internacional profundamente interconectado. Un discurso presidencial, una declaración diplomática o un mensaje publicado en redes sociales puede recorrer el mundo en cuestión de segundos y provocar reacciones inmediatas en los mercados, en la opinión pública o en las relaciones entre gobiernos. En ese contexto, la posibilidad de fabricar declaraciones falsas con un alto grado de realismo deja de ser un problema tecnológico para convertirse en un desafío geopolítico.

La preocupación no es hipotética. Organismos internacionales como la UNESCO han advertido que el uso de inteligencia artificial para generar desinformación representa un reto creciente para las democracias, especialmente durante procesos electorales, donde la rapidez con la que circula la información suele superar la capacidad de verificarla.

Las campañas de desinformación ya no necesitan cruzar fronteras de manera tradicional. Hoy pueden hacerlo a través de un algoritmo, una plataforma digital o un contenido manipulado que alcanza millones de personas en cuestión de horas. En un escenario así, las fronteras físicas pierden relevancia frente a un nuevo espacio de disputa: el digital.

Por ello, la conversación sobre los deepfakes ya no pertenece exclusivamente al ámbito tecnológico. También involucra a la diplomacia, la seguridad internacional, la cooperación entre Estados y la protección de los procesos democráticos. La pregunta dejó de ser cómo desarrollar inteligencias artificiales más avanzadas. Ahora también debemos preguntarnos cómo evitar que esas mismas herramientas sean utilizadas para debilitar la confianza pública y desestabilizar sociedades enteras.

Las democracias siempre enfrentarán desacuerdos, debates y diferencias. Esa es, precisamente, una de sus mayores fortalezas. Lo que no pueden permitirse es perder la capacidad de distinguir entre el disenso legítimo y una realidad fabricada.

Porque las guerras del siglo XXI no siempre se librarán con armas. Algunas comenzarán con un archivo de audio, un video de treinta segundos… y millones de personas convencidas de que es verdad.

El derecho frente a una realidad fabricada

La historia del derecho demuestra que las leyes rara vez nacen antes que los problemas. Casi siempre llegan después, cuando la sociedad ya ha cambiado y las normas deben adaptarse a una nueva realidad. La inteligencia artificial no parece ser la excepción.

Los deepfakes han abierto un debate jurídico que trasciende la tecnología. Si un contenido manipulado altera una elección, afecta la reputación de una persona o provoca un conflicto entre Estados, ¿Quién debe responder? ¿Quién diseñó la herramienta? ¿Quién creó el contenido? ¿Quién decidió compartirlo? ¿O las plataformas que permitieron su difusión?

Las respuestas todavía no son claras. Precisamente por ello, organismos internacionales y gobiernos han comenzado a desarrollar estrategias para enfrentar este desafío. La UNESCO ha señalado la necesidad de construir marcos éticos para el desarrollo de la inteligencia artificial, mientras que la Unión Europea ha impulsado regulaciones que buscan establecer obligaciones de transparencia para determinados contenidos generados mediante IA, especialmente cuando puedan inducir a error o afectar el interés público.

Sin embargo, pensar que el problema se resolverá únicamente con nuevas leyes sería simplificar un fenómeno mucho más complejo. La velocidad con la que evoluciona la tecnología contrasta con el tiempo que requieren los procesos legislativos, las investigaciones judiciales y la cooperación internacional. Mientras una norma se discute durante meses, un deepfake puede recorrer el mundo en cuestión de minutos.

Por ello, la respuesta no puede recaer exclusivamente en el derecho. También exige instituciones capaces de reaccionar con rapidez, plataformas comprometidas con la detección de contenido manipulado y una ciudadanía que desarrolle pensamiento crítico frente a la información que consume. Regular es indispensable, pero prevenir lo es aún más.

Quizá el mayor desafío jurídico de nuestra generación no sea únicamente proteger datos personales o garantizar la privacidad digital. Tal vez consista en algo mucho más fundamental: preservar la confianza sobre la que descansan nuestras democracias.

Porque cuando la verdad necesita demostrar constantemente que es verdad, el problema deja de ser tecnológico. Se convierte, inevitablemente, en un desafío para el Estado de derecho.

Cuando ver ya no es creer

Existe una frase que durante décadas pareció incuestionable: ver para creer. Confiábamos en las imágenes porque representaban una ventana hacia la realidad. Una fotografía documentaba un momento; un video registraba un hecho. Lo que nuestros ojos veían difícilmente podía ponerse en duda hoy, esa certeza comienza a desvanecerse.

La inteligencia artificial no solo ha cambiado la forma en que creamos contenido; también está transformando la manera en que construimos confianza. Y aunque los deepfakes son una de sus expresiones más visibles, el verdadero desafío va mucho más allá de distinguir entre un video auténtico y uno manipulado.

Frente a este escenario, la pregunta que enfrentan nuestras democracias no es si la tecnología seguirá avanzando. Lo hará. Tampoco es si surgirán herramientas cada vez más sofisticadas para generar contenido sintético. También ocurrirá.

El verdadero desafío es si nuestras instituciones, nuestras leyes y, sobre todo, la ciudadanía será capaz de adaptarse sin renunciar a uno de los pilares fundamentales de toda sociedad democrática: la confianza.

Porque las democracias no solo necesitan elecciones libres, instituciones sólidas o Estados de derecho. También necesitan ciudadanos que compartan una misma realidad sobre la cual debatir, disentir y tomar decisiones. Cuando esa realidad puede fabricarse con unos cuantos clics, el reto deja de ser exclusivamente tecnológico y se convierte en un desafío político, jurídico y profundamente humano.

Quizá el mayor riesgo de los deepfakes no sea que un día logremos creer una mentira; quizá sea acostumbrarnos a vivir desconfiando de todas las verdades.

Y si ese día llega, el próximo escándalo político tal vez no necesite haber ocurrido para cambiar el rumbo de una elección, alterar la estabilidad de un Estado o sembrar desconfianza entre millones de personas.

Porque, al final, las democracias no solo se sostienen sobre el voto; también se sostienen sobre la confianza y, cuando la confianza puede fabricarse, la democracia también puede manipularse.