estrategIA #58: Cuando la IA aspira a un escaño: el caso de AI Steve y el futuro de la democracia
Newsletter pionera en español sobre inteligencia artificial en la Política y el Gobierno. Impulsada por la Institución Educativa ALEPH
Esta semana en estrategIA nos complace darle espacio en la newsletter a Fernando Domínguez Sardou, politólogo, docente, analista político y estudiante del Máster en Marketing, Comunicación y Consultoría Política de la Institución Educativa ALEPH, quien aborda en el artículo principal de este número un tema tan fascinante como inusual: la postulación de AI Steve.
AI Steve y las candidaturas basadas en inteligencia artificial
Las elecciones al parlamento británico que tuvieron lugar el pasado mes de julio trajeron una novedad: AI Steve. AI Steve fue un candidato independiente a miembro de la Cámara de los Comunes por el distrito de Brighton Pavilion, en el sureste de Inglaterra. ¿Qué fue lo particular de esta candidatura? Que el aspirante era un candidato basado en inteligencia artificial generativa, y su objetivo era replantear el funcionamiento de la democracia. Aprovechemos este entorno para sumarnos a la discusión y pensar -desde estas líneas- cómo la inteligencia artificial puede ayudarnos a repensar la democracia.
La legislación de la mayoría de los países del mundo exige que los candidatos sean personas físicas, de carne y hueso. Hay excepciones notables, que han dado lugar a lo que se conoce como “candidaturas no humanas”. Estas candidaturas, por lo general, suelen encarnar un voto crítico al funcionamiento de los sistemas políticos y representativos, permitiendo una posición habitualmente antisistema, pero de perfil distinto a la de los actores que vimos emerger en política en los últimos 20 años. Las “candidaturas no humanas” típicamente no buscan acceder a puestos representativos, sino que buscan criticar el trasfondo del sistema en su conjunto, incluso llegando a buscar deslegitimarlo. No es el caso de AI Steve.
La legislación británica entra dentro de las lógicas habituales: para ostentar una candidatura es necesario ser una persona física. Es allí donde no podemos concebir a AI Steve sin la persona física que está detrás de esta idea: Steve Endacott. Endacott es un empresario que armó su carrera en el mundo del turismo, y en los últimos años migró a apoyar y desarrollar distintas startups de tecnología. Dentro de ellas, destaca “Neural Voice”. Esta empresa se dedica a crear asistentes de voz que, por medio de inteligencia artificial generativa, acompañan a distintas empresas o negocios, como por ejemplo agencias de turismo, vendedores de autos, consultorios médicos, entre otros. Desde allí, Endacott comienza la aventura de AI Steve con una pregunta: ¿cómo podemos perfeccionar la democracia? Esta pregunta ya no es solo de esta candidatura no humana, sino también el eje rector de estas líneas.
Steve Endacott se registra como candidato a miembro del Parlamento, como ya se mencionó, por el distrito de Brighton Pavilion. Pero el rol de Endacott se limitaría a ser el ejecutor y representante de AI Steve, un candidato generado por inteligencia artificial, que por medio de su plataforma, mantendría una conversación permanente con su electorado y sus representados. A partir de ello, en un “juego de ida y vuelta”, las propuestas y las políticas de AI Steve estarían basadas en las conversaciones que esta inteligencia artificial mantendría con sus ciudadanos, y desde allí, las decisiones de Endacott en el Parlamento estarían guiadas por lo indicado por AI Steve.
El “error”, o el punto falto de autenticidad en la experiencia, fue que justamente el punto de partida de las posiciones de AI Steve fue desarrollado a partir de las ideas propias de Endacott y su equipo, tal como lo señalan en su propio sitio web. Ahora, desde allí, se muestran las ventajas: la disponibilidad del representante las 24 horas, los 7 días de la semana, los 365 días del año; la capacidad de los ciudadanos de crear políticas y que, por medio de la misma inteligencia artificial, lleguen efectivamente a los dirigentes políticos -en este caso, Endacott-; y el control de las acciones del representante por medio de validaciones permanentes con la ciudadanía, así como también la simplificación de cuestiones complejas de la vida política. AI Steve, y sus objetivos, finalmente son derrotados: la candidatura había sido poco reconocida por su electorado, el que, a su vez, no participaba de la plataforma -quitándole el insumo sobre el que iba a construir la relación representativa-, y en ese escenario, tal como es característico en sistemas con elección uninominal, la competencia se cifraba entre dos candidaturas, y finalmente Endacott le brinda apoyo explícito a una de las opciones más competitivas.
Una candidatura por inteligencia artificial, por ahora, no puede romper el sistema de partidos ni el sistema electoral. Sobre todo si requiere de una persona física, de carne y hueso, capaz de equivocarse -como fue el caso de Endacott, que finalmente, tomó una decisión al margen de la acción de la misma inteligencia artificial-. Sin embargo, AI Steve nos muestra qué es lo que puede hacer la inteligencia artificial en la actualidad por la relación representativa. Distintas plataformas pueden ser utilizadas por los representantes para mejorar su relación con su electorado, y agrupar información necesaria para tomar decisiones más eficientes, y en última instancia, más representativas. Esto, bien impulsado y sensatamente utilizado, puede llegar a transformar radicalmente la relación de la clase política con la ciudadanía. El ejercicio de AI Steve muestra que los posicionamientos humanos -sean estos ideológicos o meramente de preferencias- son en última instancia los que van a ordenar la relación representativa, pero los representantes pueden perfilar sus propuestas y sus acciones en la medida que logren comprometer a la ciudadanía a generar los inputs necesarios para su trabajo. Si la política enamora y convence a la ciudadanía de participar, la inteligencia artificial generativa puede ser una aliada crucial para mejorar la relación cotidiana. Incluso, puede ayudar a frenar la desafección que se observa en los últimos años. Queda que reflexionemos y pensemos cómo usar la tecnología en general -y la inteligencia artificial en particular- para mejorar la relación entre la gente y la política.
Politólogo, docente, y analista político. Candidato a Dr. en Ciencia Política – Universidad Nacional de San Martín (Argentina) y estudiante del Máster en Marketing, Comunicación y Consultoría Política de la Institución Educativa ALEPH. X: @ferdsardou
Difunda estrategIA: explorando la inteligencia artificial y la política juntos
Le invitamos a que nos ayude a seguir creciendo y comparta estrategIA con sus amigos y colegas. Pueden acceder a este número de la newsletter de manera gratuita y sin necesidad de suscripción desde el siguiente enlace:
Actualidad y artículos de interés
Ningún modelo de IA cumple con los requisitos del reglamento europeo, según estudio de la ETH de Zúrich
Un estudio de la La Escuela Politécnica Federal, ETH, de Zurich, mediante el marco COMPL-AI, ha evaluado doce modelos de IA de código abierto y cerrado, concluyendo que ninguno cumple completamente con la normativa europea de inteligencia artificial, que entrará en vigor en enero de 2025. El análisis destaca deficiencias en áreas como seguridad, privacidad, diversidad y transparencia, con énfasis en la falta de trazabilidad y el uso de marcas de agua para identificar contenido generado por IA, tal como exige el artículo 50 de la ley. Estos incumplimientos representan un desafío para la industria, que podría enfrentar sanciones extraterritoriales si no adapta sus modelos. La ETH sugiere que el marco COMPL-AI, junto a un código de buenas prácticas, sería esencial para que las empresas cumplan con los estrictos estándares europeos en sectores críticos como educación y empleo.
La inteligencia artificial impulsa la desinformación en la campaña de las elecciones de EE.UU. 2024
En la recta final de la campaña electoral de EE.UU. 2024 (elecciones que analizaremos desde el punto de vista de la IA en el próximo número), el uso de la inteligencia artificial ha potenciado la propagación de desinformación, afectando tanto a candidatos como al electorado. Imágenes falsas de huracanes, alteraciones que presentan a Kamala Harris en situaciones comprometedoras y fotos manipuladas de Donald Trump han circulado ampliamente en redes sociales. Estas herramientas avanzadas permiten elaborar contenidos engañosos que erosionan la confianza pública. Verificadores como VerificaRTVE y el proyecto IVERES han revelado y desmentido estas falsificaciones, destacando que el fenómeno es un desafío creciente que amenaza la integridad de los procesos democráticos.
Las autoridades de EE.UU. alertan sobre los riesgos de chatbots de IA en información electoral
Tan sólo unos días antes de las elecciones presidenciales en EE.UU., la fiscal general de Nueva York, Letitia James, y otras autoridades advirtieron sobre el uso de chatbots de inteligencia artificial para obtener información sobre el proceso electoral. Estos modelos pueden proporcionar datos inexactos, exponiendo a los votantes a errores que podrían afectar su participación. Un estudio del Centro para la Democracia y la Tecnología reveló que más de un tercio de las respuestas de chatbots a preguntas sobre votación contenían fallos. Las empresas tecnológicas han comenzado a aplicar medidas para prevenir la desinformación, aunque los expertos señalan que persisten los riesgos.
Los “gemelos digitales” de IA prometen revolucionar la gestión de reuniones y el trabajo
Eric Yuan, fundador de Zoom, propone que "gemelos digitales" de inteligencia artificial puedan sustituir a las personas en reuniones virtuales, liberando tiempo para tareas más productivas. Estos avatares basados en modelos lingüísticos avanzados no solo asistirían, sino que tomarían decisiones en nombre de sus usuarios, ayudando a optimizar la gestión del tiempo y la productividad. Aunque la tecnología aún enfrenta desafíos en interacciones complejas y creativas, su avance podría reducir la necesidad de participar en reuniones en un 90%. Yuan prevé un futuro en el que estas copias digitales asuman parte de la carga administrativa, facilitando incluso la implementación de semanas laborales más cortas.
La rivalidad tecnológica China-EE.UU. se intensifica con la IA generativa como nuevo frente
La competencia en inteligencia artificial entre China y EE.UU. continua escalando, con nuevas startups chinas como “01.AI” desafiando el dominio de empresas estadounidenses como OpenAI. Liderada por el veterano de IA Kai-Fu Lee, “01.AI” busca consolidarse con modelos avanzados como Yi, que compiten directamente con GPT-4. Sin embargo, la expansión de la IA en China enfrenta serios obstáculos: las restricciones internas por regulación gubernamental y la guerra comercial con EE.UU., que limita el acceso a tecnología crítica. Estas tensiones dificultan que China alcance a las gigantes tecnológicas occidentales, poniendo en juego su capacidad para competir en igualdad de condiciones en el sector de la IA.
Si desea patrocinar o colaborar con estrategIA, la newsletter pionera en español sobre IA, Política y Gobierno, por favor escriba a: pablomartin@institucioneducativaaleph.com
IA en acción (nuestro rincón más práctico)
Herramienta de IA de la semana
Recraft ha lanzado su modelo de IA Recraft V3, que supone un salto importante en la calidad en la generación de imágenes, superando, para sorpresa de muchos cuando empezaron a verse los benchmark la pasada semana, a competidores como OpenAI y Midjourney en el ranking de Hugging Face.
Este nuevo modelo lo pueden probar de forma gratuita (nosotros tenemos créditos suficientes –y cuentas de pago en otros generadores de imágenes– pero, por si les interesa, si usan este enlace, antes del 10 de noviembre, les regalan 200 créditos extra en la plataforma y a nosotros 500, tal y como explican en esta promoción)
Recraft 3 destaca por su precisión anatómica, capacidad para interpretar textos extensos y fidelidad al detalle en los prompts. Entre sus innovaciones, permite especificar la posición y tamaño de textos e integrar imágenes para diseños complejos, además de ofrecer control de estilo sin necesidad de reentrenamiento.
Un ejemplo realizado con Recraft 3:
Prompts para GPT-4
Enlazando con la temática del artículo principal de esta semana les proponemos estos dos prompts, uno más a largo plazo y otro más “inmediato”:
Propuesta de reforma electoral para candidaturas digitales
Actúa como una experta en derecho electoral e inteligencia artificial y redacta una propuesta detallada de reforma electoral que permita la postulación de candidaturas digitales, en las que una inteligencia artificial, en colaboración con una persona física, pueda participar en un sistema representativo. Incluye en la propuesta:
Requisitos de elegibilidad y cualificaciones para la IA y el candidato humano.
Limitaciones y controles sobre el alcance del poder ejercido por la IA.
Mecanismos de supervisión, transparencia y rendición de cuentas ante la ciudadanía.
Procedimientos para la validación y revisión continua de decisiones y propuestas emitidas por la IA.
Consideraciones éticas y de seguridad para la implementación responsable de este modelo de candidatura.
Especifica cómo estos elementos contribuirían a fortalecer la democracia y la participación ciudadana en un entorno digital y tecnológicamente avanzado
Cómo mejorar la representación democrática con IA
Actúa como un experto en ética y tecnología aplicada a la política, si una IA avanzada, como AI Steve, fuera implementada exclusivamente como asistente de candidatos humanos, ¿qué funciones podría desempeñar para fortalecer la representación democrática y optimizar la toma de decisiones? Proporciona ejemplos de aplicaciones prácticas que ayuden a mejorar la comunicación, la transparencia y la rendición de cuentas entre los representantes y la ciudadanía, considerando el impacto ético y los posibles desafíos.
Recomendación de la semana
OpenAI lanzó la pasada semana su esperado sistema de búsqueda “search GPT” pensando para competir directamente frente al principal negocio de Google.
Xavier Mitjana realizó este breve videoanálisis en el que podéis ver en acción este nuevo sistema en comparación con Google y también con Perplexity, la aplicación de búsqueda con IA que, en nuestra opinión, seguramente mejor funciona en la actualidad.
Meme de la semana
