estrategIA #11 La Unión Europea se adelanta en la regulación de la Inteligencia Artificial, ¿será suficiente para liderar globalmente?
Newsletter pionera en español sobre Inteligencia Artificial en la Política y el Gobierno. Impulsada por la Institución Educativa ALEPH
Negociaciones maratonianas en la UE culminan en un acuerdo para la primera ley de IA horizontal del mundo
Después de muchos meses de arduas negociaciones, con un proceso que comenzó allá por 2018 y puso sobre la mesa una propuesta ya concreta en abril de 2021, y de jornadas maratonianas en la última semana, el Parlamento Europeo y el Consejo de la Unión Europea han alcanzado un acuerdo provisional sobre la Ley de Inteligencia Artificial, AI Act, estableciendo la que será, muy probablemente, la primera legislación horizontal de este tipo en el mundo. Todo ello, bajo la presidencia de turno española de la UE y con un gran empeño del equipo liderado por la Secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, (muy recomendable esta entrevista en la que analiza la nueva ley) para dejar cerrado al menos este gran acuerdo político provisional antes del cambio de turno en la presidencia de la UE y con plazo suficiente para completar la aprobación de la legislación sobre IA antes de las próximas elecciones al Parlamento Europeo.
El Comisario de Mercado Interno de la UE, Thierry Breton, anunciaba eufórico el acuerdo el pasado 8 de diciembre, destacando el hecho de que la Unión Europea ha sido la primera en lograr regular esta tecnología.
A falta aún de acceso al texto íntegro del acuerdo provisional –que parece que no estará disponible hasta enero–, probablemente el texto más completo es el que hizo público en forma de comunicado de prensa el Consejo de la UE el pasado día 9.
Realizamos un breve resumen del mismo y de sus puntos principales pero les recomendamos su lectura completa:
La ley de IA de la UE es una iniciativa legislativa emblemática con el potencial de fomentar el desarrollo y la adopción de IA segura y confiable en todo el mercado único de la UE tanto por actores privados como públicos. La idea principal es regular la IA basándose en la capacidad de esta última para causar daño a la sociedad siguiendo un enfoque "basado en el riesgo": cuanto mayor sea el riesgo, más estrictas serán las reglas. Como la primera propuesta legislativa de su tipo en el mundo, puede establecer un estándar global para la regulación de la IA en otras jurisdicciones.
Este acuerdo, que difiere significativamente de la propuesta inicial de la Comisión, se centra en modelos generales de IA de alto impacto y sistemas de IA de alto riesgo, introduciendo un sistema de gobernanza revisado con poderes ejecutivos a nivel de la UE y extendiendo la lista de prohibiciones. Se clasifican los sistemas de IA en "alto riesgo" y se prohíben prácticas específicas, como la manipulación cognitiva-comportamental y el uso indiscriminado de imágenes faciales. Se autorizarán sistemas de IA de alto riesgo, pero sujetos a un conjunto de requisitos técnicamente factibles y menos gravosos.
Se establece una nueva arquitectura de gobernanza con la creación de una Oficina de IA dentro de la Comisión, asesorada por un panel científico de expertos independientes.
El incumplimiento de las reglas puede llevar a multas que varían desde 35 millones de euros o el 7% del volumen de negocios global hasta 7,5 millones o el 1,5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa.
Para apoyar la innovación, se han modificado sustancialmente las disposiciones relativas a las medidas de apoyo a la innovación en comparación con la propuesta inicial de la Comisión. Se ha clarificado que los "sandbox" regulatorios de IA deben permitir pruebas en condiciones reales y se han añadido nuevas disposiciones para facilitar las pruebas de sistemas de IA bajo condiciones y salvaguardias específicas. Para aliviar la carga administrativa de las empresas más pequeñas, se incluyen acciones de apoyo y derogaciones limitadas y claramente especificadas.
El acuerdo provisional establece que la Ley de IA se aplicará dos años después de su entrada en vigor, con excepciones para disposiciones específicas.
La compleja y delicada cuestión del control biométrico
Una de las cuestiones que llevó a mayores dificultades en la negociación final fue todo el ámbito del uso de la IA para el control biométrico:
Entre las aplicaciones prohibidas, los legisladores acordaron vetar sistemas de categorización biométrica que utilicen características sensibles, como creencias políticas, religiosas, filosóficas, orientación sexual o raza. También se prohíbe el uso no dirigido de imágenes faciales de internet o de cámaras de CCTV para crear bases de datos de reconocimiento facial, el reconocimiento de emociones en el lugar de trabajo y las instituciones educativas, el “social score” basado en el comportamiento social o características personales, los sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío y la IA utilizada para explotar las vulnerabilidades de las personas.
Para el uso de sistemas de identificación biométrica en espacios públicos accesibles por parte de las fuerzas del orden, los negociadores acordaron una serie de salvaguardias y excepciones limitadas, sujetas a autorización judicial previa y para listas de delitos estrictamente definidas. El reconocimiento a posteriori se utilizará estrictamente en la búsqueda específica de una persona condenada o sospechosa de haber cometido un delito grave.
El texto acordado ahora pasa a una fase de pulido técnico en las próximas semanas y deberá ser aprobado posteriormente por el Parlamento y el Consejo para convertirse en ley, con una entrada en vigor general prevista para 2026.
Opiniones sobre la nueva ley
Es aún muy pronto, entre otras cuestiones porque no está aún disponible el texto completo del acuerdo provisional, pero aún así han sido muchas las voces que se han pronunciado sobre la futura ley de IA. Es muy complejo resumir las múltiples posturas enfrentadas sobre esta cuestión que hemos leído en los últimos días pero queremos ofrecer de forma breve un panorama general propio de las más importantes.
Este artículo de Marcos Merino en Genbeta hace un resumen muy concreto de algunas de las principales ventajas e inconvenientes que se perciben de esta ley. Ventajas como el establecimiento de un estándar ético para la IA con el que además Europa podría tratar de liderar esta visión en el conjunto mundial, así como el enfoque propio basado en el riesgo. Por contra señala como posible desventaja la cuestión de que esta ley podría crear divergencias internacionales con regiones como EE. UU. y China, que tienen enfoques distintos en cuanto a la regulación de la IA, favoreciendo que las innovaciones queden relegadas únicamente a la zona del mundo en que se desarrollan y la UE quede aislada del progreso en un campo que va a ser completamente estratégico. También incide en la posibilidad de que los obstáculos que una legislación tan temprana sobre un campo aún en pleno desarrollo puedan frenar a las pymes y los emprendedores, incapaces de asumir altos costos para cumplir requisitos legales, y beneficien a los oligopolios tecnológicos y las mayores empresas.
En X, la antigua Twitter, algunos destacados emprendedores españoles como Carlos Blanco o Marc Vidal mostraban su disconformidad a priori con la regulación, probablemente más con el hecho de que se regule en sí y además tan pronto un área emergente, mientras en otros países se va a optar más por la autorregulación y por vías más laxas que tengan como prioridad principal no frenar la innovación y la captura de valor económico.
El conocido emprendedor español Benjamí Villoslada, cofundador de Meneame, añadía una breve pero relevante reflexión, con la comparación con un cuchillo, que ha estado en boca de muchos expertos a lo largo del proceso legislativo, la necesidad o no de regular la tecnología en sí y no sólo sus aplicaciones o resultados (como se hace con la mayoría de tecnologías pero no con todas –ensayos clínicos en Medicina y Farmacia o test de seguridad para los coches–) Una cuestión muy compleja, y que probablemente tendrá diferentes aproximaciones legislativas según los países, en un ámbito como el de la IA artificial dada sus potenciales capacidades que la convierten en algo muy singular y con un potencial tanto para el “bien” como para el “mal” a una escala que algunos expertos comparan incluso con la energía atómica.
También se pronunció sobre la legislación en X una de las voces más autorizadas sobre IA a nivel mundial, el científico jefe de IA en Meta, Yann LeCun, que, al igual que otras voces, parecía especialmente satisfecho con los cambios introducidos en la legislación en el último periodo de negociaciones a favor de los modelos Open Source, muy probablemente una de las principales vías que tiene Europa para ser competitiva en el campo de la IA ante las grandes empresas tecnológicas que son en su inmensa mayoría estadounidenses. En general por lo visto en diversos medios, como este artículo de Expansión que da voz a múltiples expertos, en X y en Reddit la nueva versión de la ley, que rebajaba algunas de las posiciones maximalistas iniciales, ha agradado bastante más que borradores anteriores a emprendedores europeos del sector y a investigadores.
Quizá la mayor crítica al acuerdo vino, sorprendentemente para muchos, de los grupos de derechos humanos que se mostraron tremendamente decepcionados con la introducción de excepciones en la cuestión del reconocimiento facial y biométrico ya que creen que por estas vías excepcionales se pueden colar muchos comportamientos peligrosos para los ciudadanos y los derechos civiles y temen especialmente que en otros países se adopten estas tecnologías amparándose en que no están terminantemente prohibidas ni siquiera en la UE.
El titular de Amnistía Internacional en su nota de prensa al respecto es bastante revelador:
UE: La decisión del bloque de no prohibir la vigilancia masiva pública en la Ley de IA establece un precedente global devastador
Más allá de los términos de la propia ley, la crítica más común en redes ha sido a la relevancia en sí de la propia UE en el sector de la IA y a si, más allá de regular, tendrá capacidad para liderar con su visión dada su práctica irrelevancia empresarial donde no se aprecian los mismos esfuerzos de desarrollo que en el plano legislativo. De las 100 mayores empresas tecnológicas del mundo el 60% son estadounidenses, y muchas de ellas, en muchos casos las más grandes, son las que lideran el desarrollo de la IA, mientras que Europa no alcanza siquiera el 10% de las 100 mayores empresas tecnológicas mundiales.
Así pues, muchas personas en X reaccionaron contestando de forma irónica al tweet del comisario europeo de Mercado Interior anunciando el acuerdo poniendo comparaciones de la irrelevancia a nivel empresarial tecnológico de la UE que se ha dado mucha prisa para ser la primera en tener una legislación pero que está muy lejos de tener un ecosistema potente de IA (pese a importantes avances como los que la startup francesa, Mistral, ha revelado esta última semana que la colocan a la cabeza de la IA Open Source mundial):
Puede verse también esta diferencia de percepción entre la noticia en Europa que ha sido recogida de forma relevante en los medios (aunque quizá no incluso en el grado que podría esperarse) y en otros lugares, particularmente en los entornos técnicos de IA: en una de las principales comunidades de Reddit sobre IA alguien planteaba un hilo con el siguiente título: “ The AI act passed, I don't see much talk here.”
Quizá el mejor resumen para entender esta “crítica” que va mucho más allá de la propia tarea legislativa realizada, sobre la que existe en general un consenso importante de su relevancia al menos para la propia UE, es el titular que The Economist utilizó para dar la noticia: Europa, rezagada en IA, toma la delantera en su regulación.
P.S. Ya con el texto de esta newsletter cerrado hemos visto que el Financial Times ha recogido las que son probablemente las declaraciones más críticas con el acuerdo desde la política europea (y que van en la línea de lo que hemos comentado en los últimos párrafos). El presidente francés, Emmanuel Macron, ha argumentado que la ley europea puede suponer un notable freno para el sector en la UE y especialmente una gran desventaja en un ámbito en el que EE.UU. y China se encuentran ya muy por delante. El presidente francés llegó a afirmar:
“Podemos decidir regular mucho más rápido y con mucha más fuerza que nuestros principales competidores. Pero regularemos cosas que ya no produciremos ni inventaremos. Esto nunca es una buena idea.”
Fernando Nieto Lobato
Director de Innovación Digital de la Institución Educativa ALEPH
Comparta estrategIA: uniendo IA y Política
Invite a otros a unirse a nuestra newsletter para explorar la fascinante intersección entre Inteligencia Artificial, Política y Gobierno. ¡Ayúdenos a expandir nuestra comunidad!
Actualidad y artículos de interés
El Banco de Inglaterra evaluará los riesgos de la IA en la estabilidad financiera del Reino Unido en 2023
El Banco de Inglaterra anunció su intención de evaluar, en el próximo año, los riesgos que la Inteligencia Artificial y el aprendizaje automático pueden representar para la estabilidad financiera del Reino Unido. Esta iniciativa surge en el contexto de su revisión semestral de estabilidad financiera, destacando la importancia del sector financiero, que constituye aproximadamente el 8% de la economía británica y posee conexiones globales significativas. El gobernador del banco, Andrew Bailey, enfatizó la necesidad de adoptar la IA con una perspectiva consciente y abierta, reconociendo su potencial para influir en el crecimiento económico, la productividad y la configuración de las economías.
Uso de ChatGPT en España: predominio entre hombres, generación Z y estratos socioeconómicos altos
En España, el uso de ChatGPT de OpenAI ha superando los 4 millones de usuarios en octubre de 2023, según un estudio de GfK DAM. El perfil predominante de los usuarios de ChatGPT en España incluye principalmente a hombres (2.246.118 usuarios) en comparación con mujeres (1.884.477 usuarias), siendo la generación Z (16-24 años) la más activa. Los usuarios de mayor índice socioeconómico son también los más activos, reflejando una mayor afinidad y tiempo dedicado al uso del chatbot. A pesar de una disminución en el número de usuarios durante el verano, la tendencia cambió nuevamente con un incremento a partir de septiembre, impulsado en parte por la vuelta a clases y la integración de ChatGPT en la educación. La preferencia por el uso de ChatGPT en dispositivos de escritorio sugiere una orientación hacia aplicaciones académicas y laborales.
Alianza histórica entre Microsoft y sindicatos sobre Inteligencia Artificial
Microsoft ha establecido una alianza con la Federación Americana del Trabajo y el Congreso de Organizaciones Industriales (AFL-CIO), que representa a 60 sindicatos y 12,5 millones de trabajadores, para abrir un diálogo sobre el impacto de la Inteligencia Artificial en la fuerza laboral. Esta iniciativa, que comienza con sesiones educativas en 2024, marca la primera colaboración formal entre sindicatos y la industria tecnológica en torno a la IA. Brad Smith, presidente de Microsoft, enfatizó que trabajar con líderes sindicales ayudará a que la IA beneficie a los trabajadores estadounidenses. La alianza busca compartir información sobre tendencias de IA, incorporar perspectivas de trabajadores en el desarrollo de esta tecnología y moldear políticas públicas que respalden las habilidades tecnológicas de los trabajadores. Liz Shuler, presidenta de AFL-CIO, destacó el papel crucial de los trabajadores en el desarrollo y regulación de la IA.
España avanza en la supervisión de la Inteligencia Artificial con la constitución de un consejo rector especializado
El Gobierno de España, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial del Ministerio de Transformación Digital, ha anunciado la formación del consejo rector de la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia), con sede en A Coruña. Este desarrollo coloca a España como el primer país europeo en tener un órgano de esta índole, anticipándose a la entrada en vigor de la ley europea de IA.
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Bard (con Gemini Pro)
La pasada semana Google presentó sus nuevos modelos de Inteligencia Artificial (con cierta polémica).
A la espera de que a principios de 2024 podamos probar Gemini Ultra (la versión más potente, comparable o incluso superior a GPT-4), Google ha actualizado ya Bard para que utilice en lugar de Palm-2 que usaba hasta ahora (una IA bastante limitada) el nuevo modelo “intermedio” Gemini Pro.
Está ya disponible en 170 países y de momento únicamente en inglés. Para acceder es necesario cambiar el idioma principal de la cuenta a inglés (y si además se está en algún país en el que no se tiene aún acceso, como pasa en el caso de Europa, utilizar una VPN)
Hemos podido probarlo un par de veces y la mejora es notable y posiblemente sí sea una opción interesante para aquellos que no tienen acceso a los mejores modelos de pago como GPT-4.
Prompts para GPT-4
Creación de storytelling para un político (Entre más detalles le proporcione sobre la persona en concreto más ajustada será la historia)
Actúa como un narrador político experto y experimentado, especializado en tejer historias cautivadoras que entrelazan la política con la vida cotidiana. Crea (como ejemplo) una narrativa para un candidato de centro de 35 años, licenciado en Sociología, que explore profundamente las complejidades y matices de las decisiones políticas, mostrando cómo afectan a individuos y comunidades. Incluye personajes ricos y multidimensionales, situaciones basadas en eventos políticos reales y dilemas éticos. Asegúrate de que la historia tenga un fuerte arco emocional, reflejando las tensiones y los triunfos que surgen en el ámbito político.
Generación de una encuesta electoral
Actúa como un experto en investigación política y demoscopia, con amplia experiencia en el diseño de encuestas electorales. Desarrolla un conjunto de preguntas detalladas y matizadas para una encuesta electoral, destinadas a captar las actitudes, opiniones y comportamientos de los votantes frente a las próximas elecciones. Asegúrate de que las preguntas abarquen temas como preferencias de candidatos, temas de campaña clave, confianza en las instituciones electorales y expectativas sobre el futuro político. Incluye preguntas demográficas para permitir análisis detallados y segmentación de datos. Considera también la inclusión de preguntas escalares, de opción múltiple, y abiertas para obtener una comprensión profunda y matizada de las perspectivas de los votantes.
Recomendación de la semana
Tras varias semanas con recomendaciones bastante avanzadas, hoy os traemos un video totalmente para principiantes en el que se dan a conocer numerosas IAs gratuitas (o freemium) muy interesantes por parte del divulgador Xavier Mitjana: