Related Articles
-Editorial
La inteligencia artificial está potenciando las amenazas al sistema electoral, según expertos, funcionarios y observadores, ya que es más fácil usar IA y difundir contenido sintético que puede avivar la desinformación y confundir a los votantes. Lo que antes requería un presupuesto de estudio y un equipo de producción se puede armar con unos pocos clics, según informes de noticias.
El resultado es que los votantes intentan navegar diariamente un panorama electoral donde es difícil evaluar la autenticidad de imágenes, publicaciones y videos, como las imágenes falsas de IA de votantes negros apoyando al Presidente Trump que recientemente circularon ampliamente.
En una sesión informativa de Ethnic Media Services, expertos hablaron sobre el aumento de los mensajes racializados potenciados por IA y los esfuerzos para impulsar nuevos controles legislativos antes de las elecciones de 2024. Una preocupación especial es el impacto que la IA puede tener no solo en las elecciones presidenciales sino también en las elecciones locales.
Jonathan Mehta Stein, Director Ejecutivo de California Common Cause, arrojó luz sobre la amenaza emergente de las campañas de desinformación impulsadas por IA en las próximas elecciones de 2024. Dirigiéndose al equipo de Ethnic Media Services, Stein enfatizó el compromiso de la organización para fomentar una democracia más fuerte e inclusiva a nivel estatal y local.
“Somos una organización democrática estatal en California que trabaja para construir una democracia mejor, más saludable, más fuerte y más inclusiva”, comenzó Stein. “Nuestra obsesión actual es la desinformación en línea en nuestras elecciones, potenciada por IA. Y ese es el tema de la presentación de hoy”.
Stein destacó un caso reciente en el que el Departamento de Justicia de Estados Unidos interrumpió una campaña de desinformación rusa que involucraba miles de perfiles falsos en redes sociales. Estos perfiles, haciéndose pasar por estadounidenses comunes de diversos orígenes, estaban diseñados para difundir propaganda pro-Rusia. “Una gran parte de ella fue simplemente generada por tecnología de IA”, explicó Stein. “Los informes de noticias sobre esto no tienen todos los detalles, pero parece que fue operado en gran medida por un solo individuo que pudo generar miles y miles de perfiles y publicaciones falsas en redes sociales porque la tecnología de IA te permite amplificar tus resultados en redes sociales”.
El potencial de la IA para amplificar la desinformación presenta un desafío significativo para la integridad electoral. Stein explicó cómo el contenido generado por IA puede inundar fácilmente las plataformas de redes sociales, creando una narrativa falsa que parece creíble debido a la gran cantidad y la aparente diversidad de fuentes. Esta manipulación puede influir en la opinión pública y socavar los procesos democráticos.
La presentación de Stein también tocó las implicaciones más amplias de la IA en el contexto electoral. “Estamos lidiando con un problema muy real que está emergiendo”, afirmó. El uso de IA para generar desinformación no es solo un problema técnico, sino también societal que requiere estrategias comprensivas para contrarrestarlo.
Como parte de sus esfuerzos continuos, California Common Cause está abogando por regulaciones más fuertes y mejores herramientas para identificar y mitigar la desinformación. La organización también se enfoca en campañas de educación pública para concienciar sobre los riesgos de las falsedades impulsadas por IA. “Los votantes deben entender la naturaleza del contenido que encuentran en línea y tener las herramientas para discernir entre hechos y ficción”, enfatizó Stein.
La presentación concluyó con un llamado a la acción para que los legisladores, las empresas tecnológicas y el público colaboren para abordar esta creciente amenaza. “Debemos trabajar juntos para asegurarnos de que nuestra democracia no sea socavada por aquellos que buscan difundir desinformación”, instó Stein. “Manteniéndonos vigilantes e informados, podemos proteger la integridad de nuestras elecciones y defender los valores democráticos que apreciamos”.
Brandon Silverman, ex CEO y cofundador de CrowdTangle, compartió valiosas ideas derivadas de su amplia experiencia en el ámbito de la difusión de información digital.
Reflexionando sobre su mandato en CrowdTangle, una plataforma innovadora que revolucionó cómo las organizaciones de noticias en todo el mundo interactuaban con el contenido en redes sociales, Silverman subrayó el papel crucial que juega la tecnología en la configuración del discurso cívico y público. “Las plataformas se han convertido en una parte integral del tejido de las conversaciones sociales, lo que requiere herramientas para que los periodistas naveguen y comprendan las narrativas que se desarrollan en sus comunidades”, comentó Silverman.
Después de guiar a CrowdTangle a través de su adquisición por Meta, Silverman pasó a liderar iniciativas de transparencia dentro del gigante tecnológico durante cuatro años, con un enfoque específico en combatir la desinformación y la mala información. Posteriormente, redirigió sus esfuerzos hacia la promoción de estándares de transparencia mejorados, particularmente en lo que respecta a los esfuerzos periodísticos.
Enfatizando las dimensiones éticas de la influencia de las plataformas, Silverman expresó preocupaciones sobre el impacto desproporcionado de los daños en redes sociales en las comunidades marginadas, particularmente en las comunidades de color y los grupos étnicos. “Las repercusiones de la dinámica de las plataformas a menudo exacerban las disparidades existentes, lo que requiere una recalibración de las medidas de responsabilidad”, señaló Silverman.