La IA y la desinformación en elecciones: qué se temía, qué ocurrió y qué riesgo queda

En 2024 votó una parte de la población mundial sin precedentes, en elecciones de más de sesenta países, y la previsión dominante era que los deepfakes y los textos generados por IA inundarían las campañas. Los análisis posteriores dibujan un cuadro distinto: hubo casos reales y algunos graves, pero no hay evidencia sólida de que la IA cambiara el resultado de ninguna elección importante. Eso no significa que el riesgo fuera inventado. Significa que el daño más probable no es el que se esperaba.

Este artículo recoge casos y análisis publicados hasta su fecha. La evaluación del efecto de la desinformación en el voto es difícil, y los estudios disponibles tienen límites metodológicos que conviene tener presentes.

Casos documentados

Eslovaquia, 2023. Dos días antes de las elecciones parlamentarias circuló un audio falso en el que un líder de la oposición parecía hablar de comprar votos. Se difundió durante el periodo de silencio electoral, cuando los medios tenían limitada su capacidad de desmentir. Es el caso más citado, aunque es imposible medir cuánto influyó en el resultado.

Estados Unidos, enero de 2024. Antes de las primarias de Nuevo Hampshire, miles de votantes recibieron llamadas automáticas con una voz que imitaba al presidente Biden pidiéndoles que no votaran. El consultor político responsable fue identificado y multado por la Comisión Federal de Comunicaciones, que después declaró ilegal el uso de voces generadas por IA en llamadas automáticas sin consentimiento.

India, 2024. Las campañas usaron la IA de forma masiva y en buena parte abierta: mensajes personalizados en decenas de idiomas con la voz de candidatos, e incluso vídeos que «resucitaban» a líderes fallecidos para apoyar a sus partidos. Gran parte era propaganda hecha con herramientas nuevas más que desinformación en sentido estricto.

Operaciones de influencia. Empresas como OpenAI y Meta publicaron informes sobre operaciones vinculadas a Rusia, China, Irán y otros actores que usaban modelos de lenguaje para generar comentarios y artículos en varios idiomas. Su conclusión coincidente: la IA aumentaba el volumen de producción de esas operaciones, pero no su alcance, que seguía siendo bajo porque el cuello de botella es la distribución, no la escritura.

Lo que encontraron los análisis

Investigadores del Alan Turing Institute en el Reino Unido analizaron las elecciones de 2024 en varios países y no encontraron evidencia de que contenidos generados por IA hubieran alterado resultados, aunque sí documentaron casos que contaminaron el debate y acoso a candidatas con contenido sexual falso. Meta informó de que, en las elecciones que siguió ese año, el contenido generado por IA fue una proporción muy pequeña de la desinformación verificada por sus colaboradores de verificación de datos.

Una explicación plausible, apoyada por investigación previa sobre desinformación: cambiar el voto de alguien es difícil, la mayor parte de la desinformación la consumen personas que ya estaban convencidas, y producir contenido falso nunca fue el límite. Las mentiras baratas, sin IA, ya eran abundantes.

Los riesgos que sí parecen reales

El dividendo del mentiroso. Los juristas Robert Chesney y Danielle Citron describieron en 2018 un efecto que puede ser más dañino que los propios deepfakes: cuando cualquier audio o vídeo puede ser falso, un político puede negar una grabación auténtica diciendo que es generada por IA. La duda generalizada protege a quien tiene algo que ocultar.

El acoso. Los deepfakes sexuales contra candidatas, periodistas y activistas son uno de los usos más documentados y dañinos. Su objetivo es expulsar a personas del debate público, más que engañar a votantes.

Los momentos críticos. Un contenido falso difundido horas antes de una votación, en un idioma minoritario o en canales cerrados de mensajería, tiene poco tiempo para ser desmentido. Las elecciones locales, con menos atención mediática, son más vulnerables que las nacionales.

Procedencia y detección

Los detectores de contenido generado por IA tienen tasas de error que los hacen poco fiables para decidir sobre casos individuales, y empeoran con contenido comprimido o modificado. Por eso el esfuerzo se ha desplazado hacia la procedencia: marcar el contenido desde su origen.

El estándar C2PA, impulsado por empresas tecnológicas y medios, permite adjuntar a una imagen o vídeo un registro firmado de dónde y cómo se creó y editó. Herramientas como SynthID, de Google, insertan marcas de agua invisibles en contenido generado por sus modelos. Ambas ayudan a identificar contenido legítimo o generado por herramientas que las aplican, pero no resuelven el problema del contenido creado con herramientas que no las usan, ni el que se reenvía tras eliminar los metadatos.

Errores frecuentes al hablar del tema

Medir el riesgo por el volumen de deepfakes. El efecto depende del momento, del canal y del público, no de la cantidad. Un solo audio en el momento oportuno puede pesar más que miles de imágenes que nadie cree.

Concluir que no pasó nada. Que no se demostrara un cambio en los resultados no descarta efectos difíciles de medir: desconfianza general en lo que se ve y se oye, desgaste de candidatas acosadas, o un uso que crecerá cuando las herramientas mejoren y se abaraten.

Balance

La IA abarató producir contenido falso, pero el límite de la desinformación electoral sigue estando en la distribución y en la disposición del público a creer. Los daños más claros hasta ahora son el acoso, los contenidos en momentos críticos y la erosión de la confianza en pruebas auténticas. Esos son los indicadores a vigilar en los próximos procesos electorales.