estrategIA #15 Entre la personalización y la manipulación: El Impacto de la IA en las próximas elecciones estadounidenses
Newsletter pionera en español sobre inteligencia artificial en la Política y el Gobierno. Impulsada por la Institución Educativa ALEPH
Uso de la inteligencia artificial en las elecciones de 2024 en Estados Unidos: oportunidades, peligros y soluciones
“Es el día de las elecciones de 2024, y una mujer, a la que llamaremos Dorothy, contesta el teléfono y escucha la voz de Joe Biden. La llamada pregrabada del presidente le informa que grupos militantes han amenazado con interrumpir las urnas, razón por la cual la Casa Blanca ha extendido el plazo para las boletas por correo. Se le dirige a un sitio web para obtener más detalles. Dorothy se mantiene alejada de las urnas, sin darse cuenta de que la voz, el consejo y el sitio web son falsos.”
Este es el inicio de un muy interesante artículo en el Boston Globe –probablemente el mejor de los muchos que hemos leído en las últimas semanas al respecto– sobre algunas de las probables consecuencias que tendrá la utilización de la inteligencia artificial en los procesos electorales, con especial incidencia en las elecciones de este año en EE.UU. Esta va a ser, como señalamos la semana pasada, una de las principales tendencias a seguir en inteligencia artificial este año. Y tal y como os prometimos hace 7 días vamos a dedicar el artículo de fondo de la newsletter de hoy a vislumbrar brevemente algunas de las principales cuestiones que sin duda la IA va a plantear a partir de ahora en las elecciones transformándolas para siempre.
Las elecciones de 2024 en Estados Unidos representan un campo de batalla no solo político sino también tecnológico, en el que la inteligencia artificial juega un papel cada vez más crucial. El caso de Dorothy, como se describe en el artículo del Boston Globe, es un ejemplo perturbador de cómo la IA puede ser utilizada muy fácilmente para desinformar y manipular a los votantes. Esta situación nos obliga a reflexionar sobre el papel emergente de la IA en la política y sus posibles consecuencias en la democracia.
Oportunidades de la IA en las campañas electorales
Personalización y eficacia en las campañas
El uso de IA en las campañas electorales permite una personalización sin precedentes en el alcance a los votantes. La capacidad de analizar grandes cantidades de datos y predecir las preferencias de los votantes abre la puerta a campañas más efectivas y centradas. Esto podría resultar en una asignación de recursos más estratégica y mensajes que resonarían de manera más significativa con los votantes.
Esta personalización viene además de la mano de nuevas herramientas que permiten una “potencia bruta” sin precedentes como esta que destaca Rowan Cheung en su post en X creada por bland.ai
Mejora de la participación y educación de los votantes
La IA también tiene el potencial de mejorar la participación de los votantes. A través de contenido personalizado que apele directamente a sus intereses individuales y plataformas atractivas, la IA puede mover a una mayor participación de un electorado más informado. Además, como señala el ex director técnico de Instituto Allen para la Inteligencia Artificial Oren Etzioni y otros expertos, puede colaborar también en un creciente enfoque en la educación de los votantes para fomentar la resiliencia frente a la desinformación, un aspecto crucial dado el panorama actual de potencial desinformación.
Riesgos y desafíos
Desinformación y manipulación
Sin embargo, estos avances no están exentos de riesgos significativos. La IA facilita la ampliación de la desinformación, permitiendo a los actores malignos escalar sus esfuerzos de interferencia electoral. El contenido deepfake, por ejemplo, puede convertirse en una herramienta poderosa para difundir información falsa indistinguible de la realidad, como se ha visto en las acusaciones de Microsoft hacia China de usar IA en redes sociales para influir en votantes estadounidenses.
Hiperpersonalización de la desinformación
Más alarmante aún es la hiperpersonalización de la desinformación. Las técnicas avanzadas de IA permitirían crear mensajes de voz convincentes que parecen provenir de personas conocidas por el votante, como amigos o familiares, afectando directamente a su comportamiento. Esto, combinado con el uso creciente de tecnologías de clonación de voz en anuncios políticos, como las empleadas por Instreamatic, plantea serias preocupaciones éticas y de privacidad.
Ataques a los sistemas de votación
La ciberseguridad en las elecciones también es una preocupación clave. La IA potencia herramientas de hacking que podrían ser utilizadas para manipular sistemas de votación o diseminar desinformación, amenazando la integridad del proceso electoral.
Dichas redes, y las propias máquinas de votación, están mejor protegidas que nunca y a menudo completamente desconectadas de Internet, pero la mera percepción de un aumento en la manipulación podría tener consecuencias catastróficas, particularmente dadas las preocupaciones que ya tienen los estadounidenses sobre la integridad de las elecciones.
Posibles soluciones
Los autores del artículo del Boston Globe, Dan Prieto, asesor del estudio de políticas The Future U.S. en Washington, D.C. que fue director de políticas de ciberseguridad del Consejo de Seguridad Nacional en la Casa Blanca durante la administración de Obama, y Miles Taylor, cofundador de The Future U.S. que fue jefe de personal en el Departamento de Seguridad Nacional durante la administración de Trump, proponen algunas medidas concretas para tratar de mitigar los riesgos:
Colaboración intersectorial
Frente a estos desafíos, es imperativo que la industria y la sociedad civil colaboren. La formación de "equipos rojos" permanentes para examinar cómo las herramientas de IA podrían socavar las elecciones de 2024 y buscar continuamente formas de desplegar la tecnología para defenderse contra la desinformación y los ataques digitales es fundamental. Estos equipos podrían trabajar junto a las agencias electorales para identificar vulnerabilidades y desarrollar soluciones.
Fortalecimiento de la legislación y tecnología
Es crucial que la administración apoye el desarrollo y la implementación de nuevas tecnologías de IA para fines defensivos en el ámbito electoral. Además, la legislación que prohíbe la distribución malintencionada de contenido deepfake puede ser un paso adelante en la protección de la integridad electoral.
Educación y concienciación pública
Finalmente, una campaña de concienciación pública es esencial. Preparar a los votantes para reconocer y resistir la desinformación es fundamental para preservar la confianza en el proceso electoral. Si los ataques de IA se sienten como una "sorpresa de octubre", creará pánico público, pero si los votantes están preparados para una explosión sin precedentes de "noticias falsas" y desinformación basura, es menos probable que socave la confianza en el voto.
Iniciativas como los ejercicios llevados a cabo por funcionarios electorales en Arizona para identificar y responder a videos deepfake, que os contamos también en la sección de noticias de este mismo número, son pasos en la dirección correcta.
Conclusión
Las elecciones de 2024 en Estados Unidos serán un indicativo crucial de la resiliencia de la democracia frente a los avances y desafíos de la inteligencia artificial. Mientras que la IA ofrece oportunidades para una participación electoral más efectiva, sus riesgos en términos de desinformación y manipulación no deben subestimarse. A medida que nos acercamos a esta encrucijada tecnológica y política, es vital un enfoque equilibrado y vigilante para aprovechar los beneficios de la IA, mientras se mitigan sus riesgos. La integridad de la democracia depende de ello.
Fernando Nieto Lobato
Director de Innovación Digital de la Institución Educativa ALEPH
Comparta estrategIA: uniendo IA y Política
Invite a otros a leer, gratis y sin necesidad de suscribirse, esta misma publicación con el siguiente botón.
Ayúdenos a difundir nuestra newsletter para explorar la fascinante intersección entre inteligencia artificial, política y gobierno.
Actualidad y artículos de interés
Innovación noruega en IA para predecir inundaciones y salvar vidas
Un equipo de científicos y geólogos noruegos, bajo el nombre de 7Analytics, ha desarrollado una inteligencia artificial capaz de predecir inundaciones en tiempo real. Esta IA, que integra datos de previsiones meteorológicas, geografía, organización urbana y sistemas de drenaje, puede especificar con precisión dónde y cuándo ocurrirán inundaciones, informando incluso sobre la altura esperada del agua. La relevancia de esta tecnología es crucial, considerando que cerca de 1.800 millones de personas viven en áreas propensas a inundaciones. La herramienta, que ya está siendo adoptada por empresas y autoridades locales, representa un avance significativo en la prevención de desastres naturales.
John Roberts, presidente de la Corte Suprema de Estados Unidos, advierte sobre el uso de inteligencia artificial en el Poder Judicial
El presidente de la Corte Suprema de Estados Unidos, John Roberts, emitió un mensaje de cautela sobre el uso de la inteligencia artificial en el ámbito legal en su informe anual de fin de año. En su discurso, Roberts destacó los riesgos potenciales que la IA podría implicar en la privacidad y la deshumanización de la ley. A pesar de reconocer las ventajas que la tecnología puede ofrecer en términos de acceso a información, el juez insistió en un enfoque prudente y humilde hacia su adopción por parte de los tribunales. Este mensaje llega en un momento crítico, ya que la Corte Suprema se prepara para abordar casos políticamente sensibles en 2024, incluyendo aquellos relacionados con el expresidente Donald Trump. Roberts, quien ha intentado mantener una postura moderada en la corte de mayoría conservadora, enfatizó la necesidad de mantener la imparcialidad del tribunal en medio de un ambiente político polarizado. Este llamado a la precaución en el uso de la IA subraya las complejas intersecciones entre tecnología, ley y ética en el contexto de una época electoral muy compleja.
El presidente italiano destaca en su discurso de fin de año la importancia de mantener la humanidad en la revolución de la IA
El presidente italiano Sergio Mattarella, en su mensaje de fin de año a los italianos, ha enfatizado la importancia de mantener un enfoque humano en el desarrollo y la implementación de la inteligencia artificial. Mattarella reconoció la IA como una revolución y un progreso imparable, destacando su capacidad para cambiar profundamente nuestras prácticas profesionales, sociales y relacionales. Subrayó que estamos en medio de un gran salto histórico en el comienzo del tercer milenio y resaltó la necesidad de garantizar que esta revolución se mantenga alineada con la tradición de la civilización que valora la dignidad humana como un pilar inalienable.
Arizona se prepara contra las falsificaciones de IA para las elecciones de 2024
Arizona, liderado por su Secretario de Estado Adrian Fontes, está realizando ejercicios para fortalecer la defensa contra las falsificaciones generadas por inteligencia artificial de cara a las elecciones de 2024. En un estado clave como Arizona, que ha sido centro de teorías de conspiración sobre fraude electoral, estas simulaciones buscan preparar a los funcionarios para enfrentar amenazas, especialmente el uso de herramientas de IA para amplificar la desinformación. En un reciente ejercicio, Fontes presentó audios y videos generados por IA que mostraban a funcionarios, incluyéndolo a él, emitiendo falsedades. Estos ejercicios destacan la preocupación creciente sobre la IA y su potencial para difundir información falsa de manera eficaz. La iniciativa de Arizona se suma a los esfuerzos para establecer salvaguardas en el uso de esta tecnología antes de las elecciones de 2024, en un contexto donde la desinformación y las falsificaciones profundizan los desafíos en la seguridad electoral.
Pensilvania implementará ChatGPT en programa piloto para tareas administrativas estatales
En Pensilvania, se iniciará un programa piloto con ChatGPT Enterprise de OpenAI, dirigido a empleados de la Oficina de Administración del Estado. El proyecto, anunciado por el Gobernador Josh Shapiro, busca evaluar el impacto de la inteligencia artificial generativa en tareas administrativas, como redacción de contenidos, actualización de políticas, redacción de descripciones de trabajo y codificación. El objetivo es mejorar los servicios para los ciudadanos, aprendiendo de esta experiencia inicial para potencialmente expandir la IA generativa a otras agencias.
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Microsoft Copilot (APP móvil)
Microsoft lanzó recientemente la aplicación móvil “Copilot” que es probablemente la mejor manera de tener acceso gratuito en un teléfono al gran modelo de lenguaje más potente de la actualidad GPT-4, y además cuenta con varias ventajas adicionales ya que ofrece acceso gratuito también a la herramienta de creación de imágenes DALL-E 3. Permite interacciones con chatbot incluso por voz, asistencia en redacción, y una variedad de aplicaciones prácticas como generación de historias, análisis de imágenes, y traducciones…
Si aún no la tiene en su teléfono es una recomendación obligada.
Prompts para GPT-4
Muy recientemente, a finales de diciembre, se publicó un interesante paper que analizaba cómo determinadas técnicas para crear buenos prompts son capaces de mejorar el rendimiento de diferentes grandes modelos de lenguaje como Llama 2 o GPT-4.
A continuación os dejamos la lista completa de 26 principios que consiguen mejorar los resultados de los modelos y os invitamos a experimentar con ellos cuando formuléis vuestras peticiones a los modelos de lenguaje que utilicéis:
Utilizando los principios 2 y 24 os acercamos dos ejemplos de posibles prompts interesantes en el campo de la comunicación política:
Desarrolla un análisis detallado sobre cómo adaptar la comunicación de una propuesta política sobre reforma fiscal para dirigirse específicamente a un grupo de académicos y expertos en economía. Considera en tu respuesta el uso de terminología técnica, datos estadísticos relevantes y ejemplos históricos. Además, incluye estrategias para anticipar y abordar posibles objeciones o críticas de este público experto, y cómo presentar la propuesta de manera que resuene con sus prioridades y conocimientos especializados.
Imagina que estás redactando un discurso para un candidato político que se postula para una elección local importante. El discurso comienza con las siguientes palabras: 'Hoy nos encontramos en una encrucijada crucial para nuestra comunidad...' Tu tarea es continuar este discurso, centrándote en temas como el desarrollo económico sostenible, la inclusión social y la transparencia en la gestión gubernamental. Asegúrate de mantener un tono motivador y constructivo, que refleje el compromiso del candidato con la mejora de la vida de todos los ciudadanos.
Recomendación de la semana
La pasada semana destacamos el auge de los modelos open source de inteligencia artificial y que muchos de ellos podrán ejecutarse de forma local en nuestros teléfonos o en nuestras computadoras, justamente al hilo de esto último os recomendamos este video del divulgador de IA Xavier Mitjana que explica cómo poder utilizar gratis y en local, con un PC mínimamente potente, modelos de generación de imágenes, modelos grandes de lenguaje similares a chatGPT (os recomendamos desde aquí Mistral 7b 0.2 que nos ha dado muy buenos resultados) transcripción de audio a texto o incluso “cambios de cara” tanto en imagen como en video.