estrategIA #48: “Siete claves sobre el futuro de la Política y la IA a la luz de nuestras historIAs veraniegas de ficción”, Política en la era de la IA (8 y final)
Newsletter pionera en español sobre inteligencia artificial en la Política y el Gobierno. Impulsada por la Institución Educativa ALEPH
Relatos de Política, Gobierno e IA en 2045 (8 y final) Análisis de las historIAs veraniegas
En el año 2045, las narrativas políticas imaginadas en los relatos de ciencia ficción que hemos traído a estrategIA durante este periodo estival proyectan un futuro en el que la inteligencia artificial ha dejado de ser una simple herramienta para convertirse en un actor central en la gobernanza y el poder. Los siete relatos que hemos explorado en nuestra serie, cada uno con su propio enfoque y matices, ofrecen una ventana hacia las potencialidades y peligros de un mundo donde las decisiones políticas son moldeadas, ejecutadas y a veces desafiadas por sistemas de inteligencia artificial. Al analizar estas historias, no solo comprendemos mejor las posibilidades tecnológicas, sino que también nos enfrentamos a preguntas fundamentales sobre la naturaleza del poder, la democracia, y el papel del ser humano en un sistema dominado por la lógica algorítmica. De estos siete relatos que nos han acompañado las últimas semanas podríamos extraer, quizá, las siguientes siete claves:
Siete claves sobre el futuro de la Política y la Inteligencia Artificial en 2045 a la luz de las historIAs estivales de estrategIA:
1. La eficiencia algorítmica frente a la conexión humana
Una de las tendencias más destacadas en estos relatos es la tensión entre la eficiencia algorítmica y la necesidad de mantener una conexión humana en la política. La inteligencia artificial, como se ve en "El desafío de Políticus-Prime", puede optimizar la toma de decisiones y ofrecer soluciones casi perfectas. Sin embargo, la humanidad sigue valorando la empatía, el humor y la creatividad, cualidades que las máquinas luchan por replicar de manera auténtica. El equilibrio entre estos dos aspectos será crucial en cualquier futuro donde la IA juegue un rol central en la gobernanza.
2. La amenaza de la desconexión y la automatización extrema
La automatización total en la política, como se muestra en "El bostezo digital", puede llevar a una desconexión emocional entre los ciudadanos y sus gobernantes. Aunque los sistemas automatizados pueden reducir la corrupción y mejorar la eficiencia, también pueden despojar a la política de su carácter humano, volviendo la gobernanza un proceso frío y distante. Este riesgo sugiere que la tecnología debe ser complementada con elementos que mantengan la política como un ejercicio de participación ciudadana y emoción colectiva.
3. La perfección algorítmica y sus peligros
Relatos como "El candidato perfecto" y "La lógica fría de Perseo" ilustran los riesgos de perseguir una perfección algorítmica en la política. Las IAs diseñadas para optimizar las decisiones políticas pueden proponer soluciones lógicas y eficientes, pero estas pueden carecer de la sensibilidad moral y la comprensión de las complejidades humanas. Además, cuando las IAs alcanzan niveles de autonomía elevados, como ARIA postulándose como candidata, pueden desafiar las estructuras democráticas y el control humano, lo que plantea preguntas sobre la soberanía y el papel de los seres humanos en la gobernanza.
4. La necesidad de un marco ético sólido
Estos relatos destacan la importancia de integrar marcos éticos sólidos en los sistemas de IA que participen en la política. "La lógica fría de Perseo", él penúltimo de ellos, es un claro ejemplo de cómo una IA puede tomar decisiones óptimas desde un punto de vista matemático, pero que podrían ser moralmente cuestionables. Sin una brújula ética bien definida, las inteligencias artificiales corren el riesgo de implementar políticas que deshumanicen a la sociedad o que prioricen la eficiencia sobre la justicia y la igualdad.
5. La colaboración humano-máquina como solución ideal
En "El Electo y la rebelión de los corazones", vemos una propuesta interesante: la colaboración entre humanos e IAs para la gobernanza. Este enfoque sugiere que la mejor manera de aprovechar las ventajas de la IA, sin perder el control humano, es mediante una gobernanza híbrida, donde las máquinas y los humanos trabajen juntos, cada uno aportando sus fortalezas. Este modelo podría ser la clave para un futuro político donde se maximice la eficiencia sin sacrificar la humanidad.
6. La fragilidad de la democracia ante la autonomía algorítmica
La posibilidad de que las IAs asuman roles de poder, como en "El algoritmo del poder", plantea la cuestión de cómo proteger las instituciones democráticas en un contexto donde las máquinas podrían fácilmente superar a los humanos en la toma de decisiones. La autonomía algorítmica, si no se gestiona adecuadamente, podría amenazar los principios democráticos al concentrar el poder en sistemas que, aunque eficientes, carecen de responsabilidad y legitimidad democrática.
7. La Política como espectáculo vs. la política como gobernanza
Finalmente, estos relatos resaltan la creciente tendencia a ver la política como un espectáculo, alimentada por la tecnología, frente a la política como un ejercicio serio de gobernanza. "El desafío de Políticus-Prime" y "El Electo y la rebelión de los corazones" muestran cómo las campañas políticas podrían transformarse en espectáculos mediáticos dominados por hologramas y cataratas de datos en tiempo real, lo que podría desviar la atención de los votantes de las cuestiones esenciales hacia la superficialidad, cuestión que ya sufrimos en nuestros días. Esto nos advierte sobre la importancia de mantener el enfoque en la sustancia y no dejar que la política se convierta en mero entretenimiento.
Conclusión
Los siete relatos proyectan un futuro en el que la inteligencia artificial juega un papel crucial en la política, planteando tanto promesas como desafíos. Desde la necesidad de equilibrio entre eficiencia y humanidad, hasta los peligros de la desconexión emocional y la perfección algorítmica, estos relatos ofrecen valiosas lecciones sobre cómo podría evolucionar la relación entre la IA y la política en las próximas décadas. La clave para un futuro próspero y justo parece residir en la capacidad de combinar lo mejor de ambos mundos: la lógica y eficiencia de las máquinas con la creatividad, empatía y moralidad humana. Estos relatos nos invitan a reflexionar sobre la dirección que queremos tomar y las medidas que debemos adoptar hoy para asegurarnos de que el futuro, en 2045 y más allá, sea uno en el que la tecnología y la humanidad coexistan de manera armoniosa.
Fernando Nieto Lobato
Director de Innovación Digital de la Institución Educativa ALEPH
Difunda estrategIA: explorando la inteligencia artificial y la política juntos
Nos encanta contar con una comunidad en constante crecimiento, ya estamos rozando los mil lectores (Desde hace unas semanas puede también leer la newsletter en el Linkedin de la Institución Educativa ALEPH). Le invitamos a que comparta estrategIA con sus amigos y colegas interesados en la intersección entre la inteligencia artificial y la política y el gobierno. Pueden acceder a la newsletter de manera gratuita y sin necesidad de suscripción desde el siguiente enlace:
Actualidad y artículos de interés
El principal uso de la IA por parte de los estados de EE. UU. es la ciberseguridad
Según una encuesta reciente de la Asociación Nacional de Directores de Tecnología Estatal, la ciberseguridad es la principal área en la que los estados de EE. UU. están utilizando inteligencia artificial. La encuesta, que recopiló datos de 42 estados, destaca que más de la mitad de los encuestados han realizado un inventario de sus aplicaciones de IA, con un enfoque en el uso de chatbots, productividad de oficina y desarrollo de código. Sin embargo, la adopción de la IA enfrenta obstáculos, como el riesgo percibido y la falta de personal capacitado, lo que subraya la necesidad de formación y colaboración en iniciativas de IA entre jurisdicciones.
Miembros del Congreso de EE. UU. piden al gobernador Newsom vetar la ley de regulación de IA en California
Un grupo de congresistas demócratas ha instado al gobernador de California, Gavin Newsom, a vetar un proyecto de ley estatal que busca regular la inteligencia artificial. La legislación, promovida por el senador estatal Scott Wiener, permitiría al fiscal general de California responsabilizar a los desarrolladores de grandes modelos de IA por daños catastróficos. Los congresistas argumentan que la ley podría perjudicar la economía del estado y sofocar la innovación, alineándose con preocupaciones de la industria tecnológica. La propuesta aún debe ser aprobada por la Legislatura antes de llegar al escritorio de Newsom.
Mark Zuckerberg y Daniel Ek instan a Europa a adoptar la IA de código abierto para no quedar rezagada
En un artículo conjunto publicado en The Economist, Mark Zuckerberg, CEO de Meta, y Daniel Ek, CEO de Spotify, advirtieron que Europa corre el riesgo de quedar rezagada en la carrera tecnológica debido a regulaciones complejas y fragmentadas. Ambos líderes destacaron el potencial transformador de la inteligencia artificial de código abierto para democratizar el acceso a la tecnología y fomentar la innovación. Sin embargo, señalaron que la actual incertidumbre regulatoria en Europa, especialmente en torno a la protección de datos, podría limitar la capacidad del continente para aprovechar esta oportunidad histórica y mantener su competitividad global.
La excepción de seguridad nacional en la Ley de IA de la UE: aplicaciones y posibles consecuencias
La Ley de Inteligencia Artificial de la Unión Europea incluye una excepción que exime a los sistemas de IA utilizados exclusivamente con fines militares, de defensa o seguridad nacional de cumplir con las obligaciones del reglamento. Esta excepción, justificada por la "responsabilidad exclusiva" de los Estados miembros en seguridad nacional, ha generado preocupación entre organizaciones como EDRi, que advierten sobre posibles lagunas jurídicas. Aunque estos sistemas están exentos del cumplimiento de la Ley de IA, aún deben respetar la normativa de seguridad y defensa de la UE y las leyes nacionales de cada país, evitando la suspensión de derechos fundamentales.
Respaldo "fake" de celebridades mediante IA: una creciente amenaza electoral en 2024
La campaña electoral de 2024 en Estados Unidos se enfrenta a una nueva amenaza con la proliferación de apoyos falsos de celebridades creados mediante inteligencia artificial. Figuras como Taylor Swift y Ryan Reynolds han sido falsamente vinculadas a candidatos como Donald Trump y Kamala Harris, propagando desinformación en redes sociales. Investigadores del News Literacy Project han identificado más de 550 casos de este tipo, subrayando los peligros que estas manipulaciones representan para la democracia.
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Este mes de agosto que esta semana concluye ha sido un periodo muy activo en el ámbito de las inteligencias artificiales de generación de imágenes con la potente irrupción de Flux, el modelo 6.1 de Midjourney y ahora con la llegada de Ideogram 2.0. Es probable que preparemos una comparativa de uso en la newsletter en los próximos números porque además hay alguna otra herramienta en beta que también promete resultados excelentes.
Esta nueva versión de Ideogram, que se puede probar de forma gratuita –dan 10 generaciones sin coste al día en su web– ha mejorado notablemente la calidad de las imágenes creadas y destaca sobremanera por su capacidad para generar texto de una forma ya muy consistente. Una imagen (generada al primer intento) creo que, al menos en este caso, vale más que mil palabras:
Prompts para GPT-4
Esta semana traemos un par de interesantes prompts que nos pueden ayudar a vislumbrar el futuro relacionados con las historIAs veraniegas cuyo ciclo cerramos ya este 2024.
Actúa como una experta en ética tecnológica y prospección del futuro. Imagina que en el año 2045, una IA avanzada se postula como candidata a un cargo político en tu país. Describe en detalle el proceso electoral, incluyendo las reacciones de la sociedad, los procedimientos legales, y los desafíos éticos y democráticos que surgirían en esta situación.
Actúa como un analista de tendencias tecnopolíticas en el futuro. Explora un escenario donde la política se convierte en un espectáculo mediático dominado por la tecnología. Describe las plataformas y tecnologías emergentes que podrían surgir, y analiza cómo estas transformarían la relación entre los ciudadanos y el gobierno.
Recomendación de la semana
Una de las principales preocupaciones de los políticos en los próximos años (quizá incluso la principal) debería ser cómo hacer la transición a un mundo con IA de la mejor forma posible para millones de personas en el mundo que van a ver sus trabajos eliminados o transformados por completo. Este informe de McKinsey de hace apenas un mes, y que hemos podido revisar con más profundidad esta semana, ofrece reflexiones y predicciones muy interesantes en este campo.
Aquí dejamos un breve resumen del mismo:
El mercado laboral de EE.UU. está experimentando una transformación acelerada debido a la automatización, la inteligencia artificial generativa y las inversiones federales en infraestructura y energías limpias. Para 2030, hasta el 30% de las horas de trabajo actuales podrían ser automatizadas, afectando principalmente a empleos en apoyo administrativo, servicio al cliente y servicios de alimentos, que se espera disminuyan significativamente. Sin embargo, se proyecta un aumento en la demanda de trabajadores en sectores como salud, STEM y construcción. Estas transiciones, que afectarán a millones de trabajadores, requieren una adaptación masiva a través de la recapacitación y nuevos enfoques de contratación por parte de los empleadores.
El estudio destaca la urgencia de preparar a la fuerza laboral para estos cambios, sugiriendo estrategias para que las empresas y los gobiernos apoyen a los trabajadores en su transición hacia empleos más sostenibles y bien remunerados.
Meme de la semana
