estrategIA #2 - IA, la Encrucijada Política
Newsletter sobre Inteligencia Artificial en la Política y el Gobierno de la Institución Educativa ALEPH
Hemos alcanzado ya, en menos de dos semanas, los 100 suscriptores de estrategIA, si usted aún no está suscrito le invitamos a unirse (es gratis)
IA, la Encrucijada Política: El problema de la contención según Mustafa Suleyman
Justo hoy, 11 de octubre, que se envía esta newsletter sale a la venta la edición en español de The Coming Wave el best seller sobre Inteligencia Artificial del que es coautor Mustafa Suleyman, uno de los principales expertos mundiales en IA, cofundador de DeepMind, empresa que constituye en la actualidad el núcleo de la Inteligencia Artificial de Google.
The Coming Wave, titulado en español: La ola que viene: Tecnología, poder y el gran dilema del siglo XXI, ofrece una visión crítica sobre las implicaciones de una amalgama de tecnologías en pleno desarrollo, encabezadas por la IA, y plantea preguntas significativas sobre su impacto en el orden global –la semana pasada, recordarán, traíamos a esta newsletter algunas reflexiones en el artículo sobre la desinformación–. Según Suleyman y Michael Bhaskar, coautor del libro, nos encontramos en el umbral de una transformación que puede catapultar a la humanidad hacia progresos tecnológicos y sociales sin precedentes. Sin embargo, esta transición también plantea el riesgo de disrupciones a una escala inconcebible en la historia humana.
Seguramente la contribución más significativa del libro radica en su enfoque sobre "el problema de la contención". Los autores advierten sobre el desafío emergente de mantener el control sobre tecnologías cada vez más potentes, como la convergencia entre IA y biología sintética. Estas dinámicas amenazan con desestabilizar el "gran pacto del Estado-nación," que ha sido el pilar del orden internacional moderno. Frente a esto, Suleyman considera que los gobiernos actuales, en general muy faltos de preparación para este nuevo escenario, se enfrentan a un problema existencial.
La solución propuesta: diez pasos para la contención de tecnologías avanzadas
Los autores proponen, en la parte final del libro, una hoja de ruta compuesta por diez pasos para la contención efectiva de estas tecnologías disruptivas. Estas directrices representan una llamada a la acción que, aunque pueda parecer utópica, Suleyman y Bhaskar argumentan que es esencial para la supervivencia de la humanidad:
Seguridad técnica: medidas técnicas concretas para mitigar los daños posibles y mantener el control.
Auditorías: un medio para garantizar la transparencia y la responsabilidad de la tecnología.
Puntos de estrangulamiento: palancas para ralentizar el desarrollo y dar tiempo a los reguladores y a las tecnologías defensivas.
Creadores: asegurar que los desarrolladores responsables incorporen controles adecuados en la tecnología desde el principio.
Empresas: alinear los incentivos de las organizaciones detrás de la tecnología con su contención.
Gobierno: apoyar a los gobiernos para que puedan construir tecnología, regularla e implementar medidas de mitigación.
Alianzas: crear un sistema de cooperación internacional para armonizar leyes y programas.
Cultura: una cultura de compartir aprendizajes y fracasos para diseminar rápidamente formas de abordarlos.
Movimientos: todo esto necesita la participación pública en todos los niveles, incluida la presión para hacer que cada componente de estos procesos de contención sea plenamente responsable.
Coherencia: asegurar que cada elemento funcione en armonía con los demás; la contención debe ser un círculo virtuoso de medidas mutuamente reforzantes y no una cacofonía llena de lagunas de programas en competencia.
Debido a la naturaleza temática de esta newsletter, vamos a centrarnos, lógicamente, en analizar con algo más de detalle el punto 6 y el 7 que son aquellos que inciden directamente en la actuación política y de los gobiernos respecto a las IAs.

La imprescindible actuación de los gobiernos
En el punto sexto titulado ”Governments: survive, reform, regulate”, el autor plantea la necesidad apremiante de que los gobiernos asuman un papel más activo y especializado en la regulación y desarrollo tecnológico. Asegura que los Estados-nación, con su control sobre elementos fundamentales como la ley y la economía, deben abordar las complejidades emergentes de la tecnología para poder crear y mantener sistemas sociales resilientes y seguros.
La premisa central es que la tecnología, aunque en gran medida desarrollada y operada por el sector privado, requiere una comprensión profunda y una regulación exhaustiva por parte de las instituciones gubernamentales. La falta de competencia técnica dentro del sector público no es una opción. El autor sostiene que la inversión gubernamental en investigación y desarrollo es fundamental. Este tipo de inversión fomenta un ciclo de retroalimentación positiva donde el gobierno no solo comprende sino que también controla las implicaciones y aplicaciones de la tecnología emergente.
Para lograr un control efectivo, los autores recomienda que los gobiernos inviertan en talento y capacidades internas, en lugar de depender sólo de consultores o proveedores externos. Este enfoque permitirá una mayor responsabilidad y propiedad sobre las decisiones tecnológicas y políticas. Además, aboga por la creación de roles gubernamentales especializados, como un ministro para la tecnología emergente, para supervisar y regular el desarrollo tecnológico de manera efectiva.
El papel del gobierno se extiende más allá de la mera regulación. Debe involucrar la monitorización detallada de cómo se utiliza la tecnología y cómo afecta a la población. Esta transparencia no solo informará las políticas públicas, sino que también educará al público sobre los riesgos y beneficios de la tecnología.
En el frente de la regulación, el libro aborda la necesidad de reevaluar los regímenes de licencias para el desarrollo tecnológico. Propone un sistema más estratificado en función del tamaño y las capacidades del modelo tecnológico en cuestión. Esto implicaría una atención especial a los laboratorios de IA que trabajan en capacidades más fundamentales y potencialmente peligrosas.
Por otro lado, señala la necesidad de una revisión total del sistema de impuestos para financiar la seguridad y el bienestar social en la era de la automatización. Propone gravar más intensamente al capital en lugar del trabajo y sugiere iniciativas como un ingreso básico universal como posibles soluciones a los desafíos económicos que vienen con el desarrollo tecnológico.
Finalmente, el libro subraya que ningún gobierno puede abordar estos desafíos de forma aislada. La regulación tecnológica debe ser un esfuerzo internacional, especialmente porque la tecnología no conoce fronteras, y sobre eso versa el punto 7 que aborda la necesidad de regulaciones internacionales y cooperación para manejar los avances tecnológicos, en particular en áreas como la inteligencia artificial y la biotecnología. El libro señala ejemplos históricos de cooperación exitosa, como el Protocolo sobre Armas Láser Cegadoras de 1995, para argumentar que la cooperación internacional es posible incluso en temas delicados. Suleyman sugiere que la forma más efectiva de abordar los riesgos asociados con tecnologías emergentes es a través de alianzas fuertes y motivadas a nivel internacional, más que depender de la autorregulación o regulaciones nacionales.
En este sentido, se discute la necesidad de crear una institución global dedicada a la tecnología, similar a la Agencia Internacional de Energía Atómica, que podría funcionar como una autoridad de auditoría de IA. Esta entidad se centraría en la transparencia global, la monitorización basada en criterios objetivos y serviría como base para los esfuerzos de regulación gubernamental.
Fernando Nieto Lobato
Director de Innovación Digital de la Institución Educativa ALEPH
Actualidad y artículos de interés
Un grupo de investigadores elude con facilidad el sistema de marcas de agua de la IA
Justo en relación con la cuestión que abordamos en la newsletter anterior relativa a la desinformación potenciada por las IAs y los métodos para combatirla. El equipo de investigación dirigido por Soheil Feizi, profesor de ciencias de la computación en la Universidad de Maryland, ha puesto en entredicho la efectividad de los métodos actuales de marca de agua en imágenes generadas por inteligencia artificial. En un preprint aún pendiente de revisión por pares, el estudio revela que no solo es sencillo eludir estas marcas de agua, sino que también es posible añadir marcas de agua falsas a imágenes reales. Este hallazgo llega en un momento en el que la marca de agua digital se considera una de las estrategias más prometedoras para identificar contenido generado por IA, especialmente en el contexto de la lucha contra la desinformación y los deepfakes.
Sin intervención de los gobiernos, los nuevos trabajos en Inteligencia Artificial se agrupan en las mismas zonas tecnológicas de siempre
Pese a las expectativas de que la Inteligencia Artificial generativa democratizaría la tecnología, un patrón contrario está emergiendo: la centralización geográfica de la industria de la IA como apunta esta investigación de Brookings. Aunque se han dado pasos para hacer que el software y los algoritmos sean libremente accesibles, más del 60% de las ofertas de empleo en el sector de la IA generativa están concentradas en solo 10 áreas metropolitanas. Específicamente, centros tecnológicos ya establecidos como la Bahía de San Francisco, Nueva York y Boston continúan dominando el paisaje. Esta tendencia se sustenta en varias dinámicas, como la necesidad de talento especializado y las ventajas que aporta ser el "primer actor" en la adopción de tecnologías. Aunque hay posibilidades de descentralización gracias a la reducción de costos en el cómputo y la disponibilidad de software de código abierto, la realidad muestra que la actividad en IA está lejos de ser geográficamente democrática. Se plantea la necesidad de intervenciones políticas para fomentar una distribución más equitativa de la actividad en IA.
La Inteligencia Artificial mejora en su capacidad de predecir huracanes
La Inteligencia Artificial está mostrando avances significativos en la predicción de huracanes, tal como se reflejó durante la reciente temporada de huracanes. Nuevas herramientas de IA, desarrolladas por Nvidia, Huawei y la unidad de IA de Google, DeepMind, han estado compitiendo con modelos basados en física atmosférica en precisión y velocidad. Aunque tradicionalmente los meteorólogos han utilizado modelos de física atmosférica para hacer sus pronósticos, la nueva generación de modelos de IA ha demostrado un rendimiento comparable, e incluso en algunos casos superior, en la predicción de trayectorias de tormentas tropicales. Estos modelos generan predicciones en cuestión de minutos utilizando ordenadores portátiles, mientras que los métodos tradicionales requieren horas de tiempo en supercomputadoras. No obstante, hay ciertos desafíos. Los modelos de IA tienden a menospreciar la intensidad de eventos extremos y no están diseñados para estimar la precipitación. Se espera que futuras actualizaciones y datos más detallados puedan mejorar estas limitaciones, acercando la IA al límite teórico de precisión en la predicción del tiempo.
¿Encuentra valioso nuestro contenido? Compártalo con colegas y amigos interesados en IA y política. Gracias.
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Poe
Cada vez es mayor la oferta de IAs generativas de texto (con una gran explosión de modelos abiertos tras la liberación por parte de Meta de Llama 2) y en muchas ocasiones para el usuario de a pie es imposible tener siquiera conocimiento de la existencia de la gran mayoría de ellos, para esto Poe.com, la herramienta de IA que les acercamos esta semana es especialmente útil.
Poe es una plataforma de Inteligencia Artificial, desarrollada desde la popular página web de preguntas y respuestas Quora, que ofrece una amplia gama de servicios, desde chatbots y asistentes personales hasta generadores de texto e imágenes y la mayoría se pueden utilizar de forma totalmente gratuita desde su web o sus aplicaciones para móviles.
Además de diferentes versiones de ChatGPT o del interesantísimo Claude 2 (aunque estas están limitadas en su uso gratuito) recomendaríamos probar Llama 2, que Poe permite utilizar incluso en su versión más potente, la de 70 billones de parámetros, o el recién salido modelo de una startup francesa Mistral 7B. Si en lugar de texto se quiere generar imágenes Poe ofrece también varias opciones gratuitas destacando la de Stable Difussion XL. Por último, Poe ofrece también la interacción con diferentes chatbots e incluso la opción de crear uno personalizado, algo bastante curioso la verdad.
Prompts para GPT-4
En anteriores newsletters hemos visto ya ejemplos de prompts para marketing político o comunicación de gobierno bastante elaborados siguiendo los principios fundamentales de prompting para GPT-4 (darle un rol, proporcionar contexto, hacer una petición clara y pedir la forma de la respuesta) esta semana ahondamos más en el potencial de este modelo de lenguaje y ver ya dos ejemplos de prompts para cuestiones más complejas y con más matices y variables:
Listado de elementos clave para un acto de cierre de campaña
"Por favor, actuando como un gran experto en Marketing y Comunicación política, quiero que genere un listado de elementos cruciales a tener en cuenta para planificar y ejecutar un exitoso acto de cierre de campaña para un candidato político. Incluya en su respuesta consideraciones estratégicas, tácticas y logísticas. Tome en cuenta las siguientes variables:
Perfil del Candidato:
Orientación política (izquierda, derecha, centro, etc.)
Nivel de experiencia política
Carisma y habilidades de oratoria
Controversias o escándalos recientes
Objetivos de la Campaña:
Público objetivo (jóvenes, adultos mayores, minorías, etc.)
Mensajes clave
Estrategias de comunicación previas (redes sociales, anuncios televisivos, etc.)
Recursos Disponibles:
Presupuesto
Personal y voluntarios
Infraestructuras (sedes, equipo técnico, etc.)
Datos Actuales:
Posición en las últimas encuestas
Cobertura mediática reciente
Interacción en redes sociales (likes, shares, comentarios)
Factores Externos:
Eventos políticos recientes que podrían afectar a la campaña (elecciones en otros países, legislación reciente, etc.)
Estado de la economía
Factores climáticos o de temporada (invierno, verano, etc.)
Restricciones y Limitaciones:
Normativas legales o éticas
Limitaciones de tiempo
Limitaciones geográficas (zona rural vs zona urbana)
Al elaborar el listado, por favor, sea detallado y proporcione una breve justificación para cada elemento que incluya. También sería útil si pudiera proporcionar referencias o ejemplos que ilustren sus puntos."
Creación de un argumentario detallado, en este caso como ejemplo, en favor del uso de la bicicleta en las ciudades
"Por favor, actúe como un destacado académico experto en movilidad urbana y elabore un argumentario detallado que promueva el uso de la bicicleta en ciudades de tamaño medio en un país desarrollado. Este argumentario se dirige principalmente a ciudadanos de clases sociales con ingresos medios y altos. Su objetivo es influir en la opinión pública y fomentar políticas favorables hacia la bicicleta. Considere los siguientes aspectos:
Salud Pública: argumente cómo el uso de la bicicleta contribuye al bienestar físico y mental, citando estudios o estadísticas que respalden estos beneficios.
Impacto Ambiental: exponga el menor impacto ecológico del uso de la bicicleta en comparación con vehículos motorizados, utilizando datos sobre emisiones de CO2 y la huella de carbono.
Movilidad Urbana: analice cómo el uso de la bicicleta puede aliviar problemas de tráfico y congestión en ciudades de tamaño medio, respaldando sus argumentos con ejemplos de otras ciudades donde se haya observado este efecto.
Seguridad: aborde las preocupaciones sobre la seguridad al usar la bicicleta, proponiendo medidas que puedan mitigar riesgos como accidentes o robos.
Políticas Públicas: mencione políticas e incentivos existentes que fomenten el uso de la bicicleta, como subvenciones para la compra de bicicletas o la construcción de carriles exclusivos, y argumente cómo estas políticas han tenido o podrían tener un impacto positivo.
Aspectos Culturales: discuta la percepción cultural de la bicicleta en ciudades de tamaño medio y cómo puede evolucionar para convertirse en un medio de transporte más aceptado y utilizado.
Para cada punto, incluya una justificación detallada que explique la relevancia de ese aspecto y, si es posible, proporcionar referencias académicas o datos estadísticos que respalden sus argumentos."
Recomendación de la semana
La web code.org contiene una sección dedicada a explicar de forma muy sencilla y pedagógica el funcionamiento de la Inteligencia Artificial:
Aquí les dejamos el enlace a este interesante recurso: https://code.org/ai/how-ai-works
Meme de la semana
Al hilo del tema principal de la newsletter de hoy, la contención de la IA y el papel de la política en la misma, los plugins de memes de GPT-4 han creado varios bastante interesantes de los que hemos seleccionado los dos siguientes: