La inteligencia artificial generativa y las elecciones de 2024 en México

La inteligencia artificial generativa ya ha transformado la manera en que se desarrollan las elecciones en México y el mundo. Asistí al evento organizado por Friedrich Naumann Foundation for Freedom (de México) y German Council on Foreign Relations donde se presentó el informe del Eon Institute y se discutió su impacto en las elecciones de 2024 y lo que esto significa para la democracia.

Comparto algunas reflexiones sobre los riesgos que implica el uso de modelos comerciales de IA en procesos electorales y de gobernanza:

🔹 No se trata de impedir la innovación, sino de garantizar que se respeten los derechos de los ciudadanos

Las grandes tecnológicas han tomado sin permiso contenidos generados por usuarios para entrenar sus grandes modelos de lenguaje (LLM, también llamados IA). No podemos seguir dependiendo de modelos extranjeros que no respetan las leyes de sus países de origen y mucho menos las nuestras. México tiene la capacidad de desarrollar modelos de IA soberanos y necesitamos aumentar la inversión pública y privada en ellos. También falta mucha más divulgación sobre el funcionamiento de estas tecnologías.

🔹 Manipulación electoral: el plomo es más barato que ChatGPT

Las elecciones de 2024 fueron las más violentas en la historia de México. La violencia sigue siendo la principal amenaza contra la democracia, pero la manipulación algorítmica es una nueva capa de riesgo. ¿Cómo aseguramos que el software de conteo de votos siga siendo confiable? Se ha demostrado la capacidad de los modelos de IA para insertar vulnerabilidades difíciles de detectar, y también que consistentemente los desarrolladores de software son quienes más utilizan los modelos de IA como ayuda para realizar su trabajo. Está por verse el rol que los institutos electorales tomarán en la investigación de estos temas para garantizar la transparencia en futuros procesos.

🔹 La manipulación de imágenes en campañas políticas

En nuestro proyecto gobernantes.info tomamos la perspectiva de la pigmentocracia para analizar cómo se modifican las imágenes de los candidatos para influir en la percepción del electorado durante las elecciones del año pasado. De hecho esto se hace sin usar IA, pero encontramos patrones claros: candidatos que aclaran su tono de piel y partidos que ajustan los colores para alinearse con su identidad visual (candidatos con color de piel anaranjado o verdoso, según su bandera). Este tipo de estrategias, aunque sutiles, pueden generar un sesgo en la percepción pública que influye en la intención de voto.

Conclusión

Entonces, ¿por qué la estrategia debería limitarse a intentar coordinar con empresas extranjeras cada vez más esquivas a la regulación? Si queremos proteger nuestra democracia, la transparencia y la soberanía tecnológica deben ser prioridad.