estrategIA #8 Juego de Tronos en OpenAI: la lucha de poder y el futuro de la IA en la balanza
Newsletter pionera en español sobre Inteligencia Artificial en la Política y el Gobierno. Impulsada por la Institución Educativa ALEPH
¿El fin de OpenAI? El despido de Sam Altman desata una tormenta en el mundo de la IA
La verdad es que hasta bien avanzado el viernes, donde se desató la que para muchos –también para nosotros– es la noticia empresarial del año, el tema principal de esta newsletter iba a ser otro, en concreto la celebración en Madrid la pasada semana de la IV Asamblea de la Alianza Europea de Inteligencia Artificial, a la que se dedican dos noticias (y cuyos dos días de sesiones pueden aún verse aquí y aquí) pero, ya entrada la noche en España, el viernes se anunció, de forma absolutamente sorpresiva, el despido de Sam Altman, CEO de OpenAI, la empresa con los modelos de IA más avanzados del mundo (al menos de entre los que están públicamente disponibles) y comenzó un “Juego de tronos” de la IA que aún continúa a estas horas cuando escribimos estas líneas, aunque parece confirmarse el regreso de Sam Altman a OpenAI, y cuyos resultados –y el propio hecho– influirán, sin duda, de forma decisiva en el desarrollo de la Inteligencia Artificial en los próximos años.
Pero antes de intentar hacer un breve resumen de la intensa cronología del despido y posteriores giros de guión de la crisis de OpenAI es importante conocer algunos detalles básicos sobre esta empresa que es la desarrolladora, entre otros, de los modelos GPT, de ChatGPT (que en pocos días cumplirá su primer año en el mercado) y de Dalle-3.
¿Qué es OpenAI? Antecedentes para comprender los sucesos
El mismo GPT-4 nos brinda un breve resumen muy interesante: “OpenAI es una organización de investigación en Inteligencia Artificial fundada en 2015. Su enfoque principal es el desarrollo de tecnologías de IA avanzadas y éticas, aspirando a garantizar que los beneficios de la IA sean ampliamente compartidos en la sociedad. OpenAI es conocida por sus avances significativos en el campo del aprendizaje profundo y el procesamiento del lenguaje natural. Busca un equilibrio entre la colaboración abierta y la seguridad, abogando por una regulación cuidadosa y ética en el campo de la IA. La organización ha evolucionado desde un modelo no lucrativo a una estructura híbrida para sustentar su investigación y desarrollo.”
Este carácter de OpenAI de ser, en sus orígenes, una organización de investigación y con un modelo inicial totalmente sin ánimo de lucro es clave para entender los acontecimientos de los últimos días.
Si vamos a la web de OpenAI existe un diagrama de la complejísima estructura que tiene a día de hoy la organización, con su junta directiva que controla, sus organizaciones sin ánimo de lucro, su holding, su organización de lucro limitado en la que Microsoft tiene un 49% …
Esta estructura tan compleja y peculiar está en la base de los acontecimientos de estos días, pero también ha jugado un papel decisivo la junta directiva externa que controlaba OpenAI y que es quien cesa a Sam Altman y que estaba compuesta la pasada semana por los siguientes miembros:
Ilya Sutskever: cofundador y científico jefe de OpenAI, reconocido por su trabajo en el campo del aprendizaje profundo y el procesamiento del lenguaje natural.
Adam D’Angelo: CEO de Quora, anteriormente CTO de Facebook.
Tasha McCauley: emprendedora tecnológica, cofundadora y CEO de Fellow Robots, una compañía de robótica en el sector minorista.
Helen Toner: directora de estrategia del Georgetown Center for Security and Emerging Technology, experta en políticas de IA y seguridad nacional.
Junto a ellos estaban también el despedido Sam Altman y Greg Brockman que fue destituido de su labor en la junta directiva que presidía (y que al parecer no fue siquiera informado previamente del despido de Altman) y que después renunció como presidente de la empresa también.
Cronología del despido y el retorno
De forma muy resumida (podéis leer una cronología más detallada por ejemplo en Xataka), el devenir de los hechos fue el siguiente:
Viernes, 17 de noviembre: OpenAI anuncia el despido del CEO Sam Altman. La junta directiva cita falta de transparencia en su comunicación como razón. Mira Murati es nombrada CEO interina. Greg Brockman, presidente de OpenAI, renuncia en solidaridad, al igual que tres investigadores senior.
Sábado, 18 de noviembre: la noticia sorprende a inversores importantes, incluido Microsoft que dijo haberse enterado del despido sólo un minuto antes de que se hiciera público. Brad Lightcap, director de operaciones de OpenAI, descarta malas prácticas como motivo del despido. Surge la posibilidad de reinstalar a Altman y Brockman. Se rumorea que ambos están explorando un nuevo proyecto de IA.
Domingo, 19 de noviembre: las negociaciones para el retorno de Altman, que llegó a estar en la empresa y hacerse una foto con su pase de invitado, fracasan. Se reporta que Emmett Shear, exCEO de Twitch, reemplazará a Murati como CEO interino. Los miembros de la junta de OpenAI reafirman su decisión de despedir a Altman. Microsoft anuncia, antes de que el mercado bursatil vuelva a abrir el lunes, la contratación de Altman y Brockman para liderar un nuevo equipo de investigación en IA avanzada.
Lunes, 20 de noviembre: se insinúa una asociación entre Microsoft y OpenAI, lo que podría estabilizar la situación. Varios empleados de OpenAI expresan su apoyo a Altman en redes a través de emojis de corazón. Ilya Sutskever, miembro de la junta y crítico de Altman, expresa su arrepentimiento por el despido y deseo de reunificar la compañía. Empleados de OpenAI amenazan con renunciar y unirse a Altman en Microsoft si la junta no se retracta y renuncia. Más de 740 de los 770 trabajadores habían firmado la carta contra la junta directiva en el momento de escribir estas líneas. Altman reafirma su compromiso con la misión de OpenAI y la continuidad de la asociación con Microsoft.
Martes, 21 de noviembre: a última hora del día en California, y cuando cerramos ya el contenido de esta newsletter el miércoles por la mañana en España, se llega a un principio de acuerdo para el regreso de Sam Altman:
En este acuerdo entran a la nueva junta directiva inicial Bret Taylor, anterior co-CEO de Salesforce y, Larry Summers, exsecretario del Tesoro de EE.UU. durante la presidencia de Bill Clinton.
Estos son los hechos de una crisis en la que Musk ha denominado la startup con mayor potencial de la historia, con sus menos de 800 empleados tenía ya una valoración de cerca de 90.000 millones de dólares. La “jugada” de Microsoft que aún no se ha cerrado (y que podría llevarle a poder hacerse prácticamente con todo el talento de OpenAI y sus modelos a coste cero y sin injerencia de reguladores), simplemente con el anuncio del fichaje de Altman y Brockman, hizo que sus acciones alcanzaran máximos históricos subiendo más de 115.000 millones de dólares en la primera hora de cotización de la bolsa el lunes (y que Elon Musk twitteara un video subtitulado del “risitas”, que recogemos en nuestra sección de meme de la semana, dando cuenta de tan increíble situación). Parece que con las noticias de última hora y la vuelta de Sam Altman a OpenAI Microsoft no absorberá directamente a todo el equipo de OpenAI pero sí que, muy probablemente, conseguirá una mejor integración y mayor presencia en las decisiones.
Cómo termine definitivamente este asunto sin duda marcará los próximos años de desarrollo de la IA, hasta ahora Microsoft tenía acceso al talento y los avances tecnológicos de OpenAI pero de una manera bastante limitada, por ejemplo existe una cláusula que dice que si se alcanza la AGI, la Inteligencia Artificial General –algo que los expertos ven cada vez más cerca– esos modelos de OpenAI no pasarían directamente a Microsoft y que serían para el bien público, algo que puede romperse ahora si la práctica totalidad de empleados de OpenAI pasan directamente a Microsoft o que puede cambiar si finalmente Sam Altman con el apoyo de Nadeya vuelve a liderar OpenAI. Muchas empresas competidoras como Salesforce o Nvidia han hecho públicamente grandes ofertas millonarias incluso por X, la antigua Twitter, para tratar de robar talento que quiera salir de OpenAI ante la situación suscitada… pero parece que detrás de todo este guión de serie de Hollywood vivido en los últimos días los diferentes rumores e informaciones internas filtradas – que es lo único que tenemos sobre las razones más profundas a día de hoy–, apuntan a dos cuestiones de fondo que tienen, especialmente la segunda, gran relevancia también en el plano político de visión y regulación de la Inteligencia Artificiales.
Conflicto entre sin ánimo de lucro y despliegue comercial. Investigación vs negocio.
Al parecer una de las posibles grandes diferencias, como recoge por ejemplo thealgorithmicbridge, que lleva al consejo de una organización que en su raíz no tiene ánimo de lucro es el desequilibrio que supuestamente Altman estaba propiciando en la empresa dedicando cada vez más y más recursos a comercializar “ChatGPT” y a levantar rondas y rondas de financiación para lanzar nuevos productos, incluido el anuncio en el día de los desarrolladores de principios de noviembre de una especie de APPStore de ChatsGPTs. Esta actitud de Altman, que trabajaba de un modo que parecía buscar colocar a OpenAI entre las 4 o 5 grandes tecnológicas del mundo, podría chocar enormemente con la vertiente defendida por Ilya Sustkever, científico jefe, que buscaba priorizar los recursos de la compañía en la investigación de los nuevos grandes modelos y, especialmente en los últimos meses, en la superalineación de las IAS para garantizar su seguridad en el largo plazo
Conflicto entre los “rápidos” y los “lentos” en el desarrollo y despliegue de nuevas IAs
Enlazando con la anterior varios analistas (Tomás Pueyo, por ejemplo, hace un largo recorrido en su newsletter) señalan que existe también, pese al compromiso de todos los trabajadores de OpenAI con una IA segura, potenciado por lo anterior un cierto conflicto entre aquellos que buscan ir más despacio y con más seguridad en el despliegue de los nuevos modelos fundacionales de Inteligencia Artificial. El mismo martes supimos por el New York Times del conflicto entre Sam Altman y Helen Toner por un artículo académico de esta que situaba dudas sobre el desarrollo de seguridad de OpenAI. De aquí por ejemplo vendría también el fichaje como CEO interino de Emmett Shear que si bien se declara tecno-optimista ha comentado en recientes entrevistas que el ritmo de la IA debería pasar de 10 a 1 o 2 porque los riesgos de la AGI son enormes como para no hacerlo bien y los que consideran que hay que desarrollar con seguridad pero también con gran rapidez los nuevos modelos de IA y que las capacidades que estos otorgarán a la humanidad respondiendo a muchos de sus principales desafíos: cambio climático, curación de enfermedades, energía… superan con mucho los posibles riesgos y que cada día más tarde que se alcancen dichos avances es un día más de sufrimiento para la humanidad.
Ilya Sustkever, probablemente por su trabajo en el laboratorio de OpenAI, donde varios tweets, suyos y de Altman, de los últimos meses apuntan a avances significativos incluso inesperados en las capacidades de los nuevos modelos y su trabajo en el superalineamiento de las IAs, para que las futuras AGIs que puedan llegar sientan emociones positivas hacía los humanos y no sean simples “inteligencias” podría defender (enlazando también con el punto anterior) un despliegue más tranquilo y seguro de los modelos que contrastaba con la voracidad empresarial de Sam Altman. Habrá que ver cómo queda toda esta cuestión dependiendo de si OpenAI conserva el control de los modelos, algo imposible si el 95% de sus empleados se van de la compañía o si se revierte la situación como parece finalmente con la vuelta de Altman a la empresa.
La posible adquisición de facto de OpenAI por Microsoft –que parece que finalmente no se llevará a cabo, al menos de esa manera– (quien ya había anunciado previamente una inversión de más de 50.000 millones de dólares anuales desde 2024 en infraestructura de servidores para IA), siendo una jugada maestra en el ámbito empresarial, alumbra también muchas dudas sobre el monopolio de la IA más poderosa en manos únicamente de las empresas más grandes del mundo. Ahora mismo Microsoft con OpenAI se pondría claramente a la cabeza por delante de Google que en su momento también absorbió DeepMind, la empresa puntera en su momento en Inteligencia Artificial para transformarlo en su laboratorio de IA. Es posible que estas corporaciones sean más lentas y cuidadosas en el despliegue de los grandes modelos de IA , aunque existe una carrera competitiva feroz entre ellas y también con actores quizá un poco más pequeños pero también con muchos recursos como Amazon, Tesla, Salesforce o Nvidia… , pero también, debido a su tamaño y capacidades, son muy capaces de establecer casi monopolios de facto como hemos visto ya en el pasado en cuestiones como los sistemas operativos de ordenador o de móviles, las aplicaciones empresariales, los navegadores, las tiendas de aplicaciones… Desde el punto de vista de la política los movimientos de los últimos días deberían llevar a prestar especial atención a las cuestiones de fondo de los mismos y plantear cómo desde la acción política se pueden dar respuestas efectivas a los desafíos que plantea la propia estructura de desarrollo e implantación de las IAs sin dejar de alentar el desarrollo rápido y responsable de una tecnología que bien utilizada puede dar lugar a una edad de oro de la humanidad.
Fernando Nieto Lobato
Director de Innovación Digital de la Institución Educativa ALEPH
Comparta estrategIA y Conecte con Más Mentes Curiosas
Cada edición de estrategIA es un espacio para descubrir y reflexionar sobre la IA en la política. Comparta estrategIA y conecte con más personas que, como usted, buscan entender y moldear este fascinante campo.
Actualidad y artículos de interés
Madrid acoge la cumbre clave de la UE sobre Inteligencia Artificial, enfocándose en la nueva ley europea de IA
La IV Asamblea de la Alianza Europea de IA, celebrada en Madrid, ha reunido a líderes políticos de la UE, el gobierno español y numerosas startups, centrando la atención en la AI Act, la legislación europea pionera en Inteligencia Artificial. Organizada por el Ministerio de Asuntos Económicos y Transformación Digital de España y la Comisión Europea, la asamblea fue inaugurada por Nadia Calviño y Thierry Breton, destacando el compromiso con la IA ética y fiable. Se discutió el inminente reglamento de IA en Europa, el primero de su tipo a nivel mundial, y la importancia de un enfoque coordinado en la regulación global de la IA. La Comisión Europea aprovechó la Asamblea para presentar su “AI Grand Challenge” una iniciativa que busca fomentar el desarrollo de modelos de IA a gran escala en Europa y que prevé dar acceso a startups y pymes europeas a los superordenadores situados en la UE.
España lidera un acuerdo para la convergencia regulatoria en Inteligencia Artificial entre Europa, Latinoamérica y el Caribe
La presidencia española del Consejo de la UE ha liderado una declaración firmada por varios países europeos y latinoamericanos para impulsar la cooperación y convergencia en la regulación de la Inteligencia Artificial. Este compromiso, alcanzado durante la cuarta Asamblea Europea de la Alianza de IA en Madrid, busca armonizar políticas y marcos regulatorios sobre IA entre países de Europa, Latinoamérica y el Caribe. La declaración –que ha sido suscrita por Argentina, Colombia, Chile, México, Uruguay, Panamá, República Dominicana, Alemania, Eslovenia, Estonia, Bélgica y España– también promueve la inclusión lingüística y el intercambio de buenas prácticas, enfocándose en el desarrollo de una IA inclusiva y ética. España, que presentó en 2021 la Carta de Derechos Digitales, impulsa el Reglamento Europeo de IA, buscando establecer un marco legislativo para una IA fiable y ética en la UE. Este esfuerzo se alinea con la Alianza Digital UE-LAC, establecida para fortalecer la cooperación digital y regulatoria entre ambas regiones.
Argentina se convierte en epicentro de la IA en campañas políticas: uso innovador y controversias
Las elecciones argentinas han demostrado una utilización intensiva y novedosa de la Inteligencia Artificial (IA) en las estrategias de campaña política. Los candidatos, Sergio Massa y Javier Milei, han utilizado IA para crear y alterar imágenes y videos, generando tanto contenido creativo como controversias. La campaña de Massa ha empleado la IA para retratarlo de manera positiva y a Milei de forma negativa, incluyendo un polémico deepfake que pone a Milei hablando sobre un mercado de órganos humanos. Por otro lado, Milei ha compartido imágenes que lo representan favorablemente y a Massa como un líder comunista. Este uso de IA ha generado debates sobre la veracidad de los contenidos y las implicaciones éticas. La campaña de Massa defiende su uso de IA como medio de entretenimiento y comentario político, no para engañar. Sin embargo, la creciente capacidad de la IA para crear contenido convincente y su bajo costo sugieren que su uso en campañas políticas será cada vez más frecuente y podría requerir una regulación específica. Este fenómeno en Argentina representa probablemente un punto de inflexión similar a los primeros días de las redes sociales.
DISARM: Innovación en IA para Prevenir Tiroteos
Un equipo de investigadores de la Universidad de Castilla-La Mancha y la Universidad de Sevilla ha desarrollado DISARM, un sistema avanzado de seguridad basado en IA. Este sistema es capaz de identificar de forma inmediata a individuos armados y comportamientos agresivos en espacios públicos y privados, utilizando cámaras de videovigilancia y técnicas de aprendizaje profundo. DISARM mejora notablemente la detección de amenazas potenciales y ya ha despertado el interés de empresas de seguridad, robótica y visión por computador. Este proyecto, financiado por la Agencia Estatal de Investigación y fondos de la Unión Europea, resalta el potencial de la IA en la mejora de la seguridad pública.
La Agencia británica de ciberseguridad alerta sobre la amenaza de la IA en las próximas elecciones
El National Cyber Security Center (NCSC) del Reino Unido ha alertado sobre los riesgos que la inteligencia artificial y los actores cibernéticos alineados con estados representan para la próxima elección nacional. En su informe anual, el NCSC destaca la amenaza de deepfakes y bots hiperrealistas en la difusión de desinformación. Además, señala la creciente actividad de ciberataques por parte de criminales rusoparlantes y actores afiliados a China, subrayando la necesidad de incrementar la resiliencia y las capacidades del Reino Unido frente a estos desafíos.
Francia, Alemania e Italia impulsan la autoregulación para modelos de IA en la legislación europea
Francia, Alemania e Italia están presionando para implementar códigos de conducta sin un régimen de sanciones inicial para los modelos fundacionales en la ley de IA de la UE, según un documento no oficial visto por Euractiv. Estos países están desafiando el enfoque escalonado previamente acordado, argumentando que las reglas horizontales para los modelos fundamentales de Inteligencia Artificial irían en contra del enfoque tecnológicamente neutral y basado en riesgos de la Ley de IA, que busca preservar la innovación y la seguridad. Proponen la autoregulación obligatoria a través de códigos de conducta y "tarjetas de modelo" que resuman información sobre modelos entrenados. Este enfoque ha causado tensiones en las negociaciones del primer conjunto de leyes de IA del mundo, con funcionarios del Parlamento Europeo mostrando su desacuerdo. Las discusiones sobre cómo regular los modelos de fundamento serán clave en las próximas reuniones del Consejo y el Parlamento Europeo.
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Microsoft Copilot (antes Bing Chat)
Microsoft ha renombrado la pasada semana Bing Chat como Copilot, marcando un cambio significativo en su enfoque hacia como ofrecer la inteligencia artificial generativa a sus clientes. Este cambio también se aplica a su edición empresarial, antes conocida como Bing Chat Enterprise, que ahora se llama Copilot con un enfoque reforzado en la protección de datos empresariales. Junto con esta renovación, Microsoft ha lanzado Copilot Studio y Copilot for Service, dirigidos a usuarios empresariales.
Aquí vamos a recomendaros que conozcáis, si aún no lo utilizabais, Microsoft Copilot vía web y app que, a diferencia del Copilot que se integra en Windows se puede usar ya también desde la Unión Europea, y en el que podréis utilizar, incluso, toda la potencia de GPT-4 de forma gratuita –seleccionando el modo creativo– y también generar imágenes desde el propio chat.
Prompts para GPT-4
Análisis de resultados electorales
Conéctate a Internet para conseguir los datos necesarios. Quiero que actúes como un analista político experto y detallado, especializado en elecciones latinoamericanas, y realiza un análisis exhaustivo de los resultados de las recientes elecciones en Argentina. Incluye en tu análisis:
Contexto Histórico y Político: Breve reseña de la historia política de Argentina, enfocándote en cómo eventos pasados podrían haber influenciado las elecciones actuales.
Partidos y candidatos principales: descripción de los principales partidos políticos y sus candidatos, incluyendo sus plataformas, promesas electorales y antecedentes políticos.
Resultados electorales: análisis detallado de los resultados, incluyendo el porcentaje de votos obtenidos por cada partido, comparaciones con elecciones anteriores, y cualquier dato notable o sorpresivo.
Análisis demográfico y geográfico: Evaluación de cómo diferentes regiones y grupos demográficos votaron y por qué, considerando factores como edad, género, nivel socioeconómico y ubicación geográfica.
Impacto socioeconómico: discusión sobre cómo los resultados podrían afectar la economía argentina, las políticas sociales y las relaciones internacionales.
Perspectivas futuras: reflexiones sobre el futuro político de Argentina a la luz de estos resultados, incluyendo posibles coaliciones, políticas que podrían implementarse y desafíos para el gobierno entrante.
Comparación internacional: comparación de estos resultados electorales con tendencias recientes en otras elecciones en América Latina y su posible impacto en la política regional.
Este análisis debe ser presentado con un enfoque imparcial, utilizando datos y estadísticas para apoyar cada punto, y manteniendo un tono profesional y académico.
Planificación de Instagram para un joven político
Actúa como un experto en marketing digital y estrategia de redes sociales, especializado en la promoción de figuras políticas jóvenes, y desarrolla una guía detallada para crear y gestionar una exitosa cuenta de Instagram para un joven político. Asegúrate de incluir en tu guía:
Definición de la marca personal: consejos sobre cómo el político puede definir su marca personal, incluyendo elementos como valores, mensajes clave y personalidad única que lo distinguen.
Estrategia de contenido: orientación sobre qué tipo de contenido publicar, frecuencia de publicaciones, y cómo mezclar temas políticos con aspectos personales para crear una conexión auténtica con los seguidores.
Estética visual y consistencia: importancia de mantener una estética visual coherente en todas las publicaciones, con consejos sobre el uso de filtros, colores del partido político y estilo fotográfico.
Engagement con la audiencia: técnicas para fomentar la interacción con los seguidores, incluyendo responder a comentarios, realizar encuestas y Q&A en las historias de Instagram, y cómo manejar críticas o comentarios negativos de manera efectiva.
Uso de hashtags y colaboraciones: estrategias para utilizar hashtags relevantes y colaborar con otros influencers o figuras políticas para ampliar el alcance y la visibilidad.
Historias de instagram y reels: ideas creativas para utilizar las historias y reels de Instagram, destacando su potencial para mostrar la personalidad del político y abordar temas actuales de manera rápida y atractiva.
Análisis y adaptación: métodos para monitorear el rendimiento de la cuenta utilizando las herramientas de análisis de Instagram, y cómo adaptar la estrategia basándose en esos datos.
Publicidad en Instagram: consejos sobre cuándo y cómo utilizar la publicidad pagada en Instagram para alcanzar un público más amplio, incluyendo la segmentación demográfica y geográfica.
Mantenimiento de la autenticidad y transparencia: enfatizar la importancia de mantener la autenticidad y transparencia en todas las comunicaciones, respetando las normas éticas y legales.
Manejo de crisis: preparación para manejar posibles crisis en redes sociales, incluyendo estrategias proactivas y reactivas para abordar situaciones difíciles.
Esta guía debe ser presentada de forma estructurada y detallada, ofreciendo consejos prácticos y ejemplos específicos, manteniendo siempre un enfoque profesional y adaptado a las necesidades y desafíos únicos de un joven político en el ámbito digital.
Recomendación de la semana
Sólo unas semanas antes de que se destara la tormenta en OpenAI el cofundador y científico jefe de la empresa, Ilya Sutskever, exploró el potencial transformador de la Inteligencia Artificial General, AGI por sus siglas en inglés, en esta breve y fascinante charla TED grabada el 17 de octubre.
The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED
Meme de la semana
Esta vez nuestro meme no será creado, por primera vez, de forma original para la newsletter, pero esta semana nada podría competir con esta maravilla que creó Matt Griswold y compartió Elon Musk utilizando un video de “El risitas” con un fondo, el de los subtítulos, tremendamente relevante también por su importancia:
y un bonus que recoge bien lo acontecido en los últimos días: