Ante todas las posibilidades que ofrece actualmente la Inteligencia Artificial (IA), el asesor en seguridad digital cuautlense Joksan Terrones Menchaca ve latente el riesgo de que el próximo proceso electoral se vea afectado por su uso para dañar la imagen de candidatos por medio de “deepfakes”, es decir, imágenes, videos o audios que parecen reales, pero son falsos.
➡️ Noticias útiles en el canal de WhatsApp de El Sol de Cuernavaca ¡Entérate!
En el contexto político, estos contenidos pueden ser utilizados para difamar o perjudicar la reputación de personalidades públicas, incluyendo políticos, lo que resulta especialmente peligroso en un escenario en el que todavía no existe una regulación específica que aborde el uso de IA en campañas electorales, según mencionó Terrones:
No se está regulando, es algo nuevo, y es algo que debe competer a las autoridades electorales, tanto nacionales como locales
Aunque en México no existe una regulación al respecto, sí ha habido recomendaciones y discusiones respecto al uso de la IA en el próximo proceso electoral.
La Universidad Nacional Autónoma de México, en colaboración con varias instituciones, elaboró el documento “Recomendaciones electorales 2024: por plataformas digitales al servicio de la democracia”, en el que reconoció las posibilidades que abre la IA en el ámbito electoral, pero también sus riesgos:
“La capacidad de la IA para generar contenido también puede ser utilizada para difundir información errónea o manipulada”, se lee en el documento.
En este sentido, la recomendación para el Instituto Nacional Electoral es implementar medidas específicas para desarrollar herramientas de detección de desinformación. Respecto a los “deepfakes”, el documento recuerda que empresas como Google, Microsoft y Meta han desarrollado tecnologías para su detección.
La IA puede ser utilizada para crear gente en mítines, para recrear audios o videos de los candidatos con tal de que su imagen caiga. Como electores, debemos tener mucho cuidado al identificar la información que circule a través de las redes sociales
