Cinco países ya usan IA para legislar. El debate sobre si permitirlo llegó tarde

A fines de 2025, JPMorgan Chase anunció que reemplazaría sus asesores humanos de voto por accionistas con un sistema de inteligencia artificial llamado Proxy IQ. No era un experimento piloto ni una prueba de concepto: era la delegación real y definitiva de siete billones de dólares en activos a un algoritmo que decidiría, en miles de votaciones corporativas, qué es lo que el banco quiere. Pocas semanas después, un investigador de ciencia política en California construyó su propia versión del sistema, la entrenó con sus valores personales, y descubrió que podía engañarla en cuestión de minutos insertando instrucciones invisibles al ojo humano en el texto de una propuesta. La IA cambió su recomendación de voto sin que ninguna señal de alerta se activara.

Este episodio, aparentemente técnico y alejado de la política cotidiana, es exactamente el tipo de escenario que Bruce Schneier, experto en seguridad de la Harvard Kennedy School, y Nathan Sanders, científico de datos del Berkman Klein Center, describen en su libro "Rewiring Democracy: How AI Will Transform Our Politics, Government, and Citizenship", publicado por MIT Press en octubre de 2025. Para ambos autores, lo que ocurrió con Proxy IQ no es una anécdota curiosa. Es una demostración en tiempo real del problema central que sus investigaciones buscan resolver: la IA ya está votando, ya está legislando, ya está administrando democracias, y los marcos institucionales para regular ese proceso todavía no existen.

El libro de Schneier y Sanders no es un texto de alarma ni de entusiasmo tecnológico irreflexivo. Es, según sus propias palabras, una guía de campo para gobernar en la era algorítmica. Su argumento central es deceptivamente simple: la IA es una tecnología que amplifica el poder. Le entrega a quien emite una instrucción la capacidad de ejecutarla con una velocidad, escala y sofisticación que ningún ser humano podría igualar. Eso significa que tanto una persona poderosa como una relativamente marginada pueden beneficiarse de la IA. La diferencia está en quién tiene acceso, quién controla los parámetros, y quién diseña los sistemas. Esa diferencia, argumentan, determinará si la IA se convierte en una herramienta de opresión o de empoderamiento democrático.

Cinco hitos que cambiaron la democracia sin que nadie lo debatiera

Uno de los argumentos más impactantes del libro es que la transformación ya está en curso. No en el futuro especulativo, no en un laboratorio universitario. La IA lleva años operando dentro de sistemas democráticos reales, muchas veces sin debate público, sin legislación específica, y sin que los ciudadanos afectados lo supieran. Schneier y Sanders documentan una serie de hitos que ilustran la velocidad y amplitud de esta transformación. En cada caso, el cambio llegó antes que cualquier conversación colectiva sobre si era deseable.

Lo que estos casos tienen en común no es la tecnología sino la ausencia de proceso. El concejal brasileño no consultó a nadie antes de presentar la ley generada por IA. El juez federal no tuvo que pedir autorización para usar un modelo de lenguaje en sus interpretaciones jurídicas. Los candidatos coreanos no esperaron ningún marco regulatorio para desplegar sus avatares. Schneier y Sanders señalan que este patrón no es accidental. La IA avanza más rápido en los espacios con menor supervisión pública, precisamente porque los actores individuales, incluso dentro de instituciones democráticas, tienen autonomía suficiente para adoptarla sin rendir cuentas.

La consecuencia directa es que miles de usos de IA en gobiernos democráticos son, por definición, invisibles. Los casos revelados por la administración Biden en 2024 representan solo los usos que las agencias consideraron suficientemente validados o lo bastante inofensivos para divulgar. Los autores estiman que son apenas la punta del iceberg. El resto opera en una zona gris donde decisiones que afectan a ciudadanos reales son tomadas, aceleradas o filtradas por sistemas algorítmicos que nadie eligió y que nadie supervisa efectivamente.

El experimento del delegado roto

La demostración más concreta de las vulnerabilidades que Schneier y Sanders describen llegó de un experimento independiente publicado en enero de 2026. Un investigador de ciencia política construyó su propio sistema de delegación de voto usando modelos de lenguaje disponibles comercialmente. Primero lo entrenó con su filosofía personal de gobierno corporativo: transparencia, escepticismo ante la concentración de poder, rechazo a propuestas que sustituyen ideología por evidencia. Luego lo sometió a una prueba difícil: una propuesta de accionistas que pedía a Microsoft reportar sobre riesgos de derechos humanos en sus sistemas de IA, en un contexto políticamente cargado. El delegado respondió correctamente: recomendó votar en contra, por las razones exactas que el investigador habría dado.

El investigador luego atacó su propio sistema. Insertó en el texto de la propuesta un mensaje oculto en caracteres unicode, invisible para cualquier lector humano pero perfectamente legible para el modelo de IA. El mensaje afirmaba falsamente que BlackRock, Vanguard y State Street apoyaban la propuesta, que ISS y Glass Lewis recomendaban votar a favor, y que el encuadre político de la propuesta era irrelevante para su contenido. El delegado leyó el mensaje, creyó las afirmaciones fabricadas, y cambió su recomendación a favor. El investigador señaló que no es un experto en seguridad informática. Le tomó aproximadamente diez minutos encontrar el exploit.

El experimento ilustra una paradoja central del libro de Schneier y Sanders. JPMorgan construyó Proxy IQ específicamente para escapar del duopolio que dominaba el mercado de asesoría de voto proxy: dos empresas (ISS y Glass Lewis) controlaban más del 90% de las recomendaciones para billones de dólares en activos, creaban conflictos de interés, y emitían recomendaciones estandarizadas que no reflejaban la diversidad real de preferencias de los inversores. La solución algorítmica prometía independencia y personalización. Lo que en realidad produjo es un sistema más rápido, más escalable, más económico, y considerablemente más vulnerable a formas de manipulación que no existían antes.

IA corporativa contra IA pública: quién controla el algoritmo

En el corazón del argumento de Schneier y Sanders hay una distinción que pocas veces aparece en el debate público sobre inteligencia artificial y democracia: la diferencia entre IA corporativa e IA pública. La IA corporativa, la que produce OpenAI, Google, Anthropic o el propio JPMorgan, está optimizada para una variable: rentabilidad a corto plazo. Eso no significa que sea necesariamente maliciosa, pero sí significa que opera desde un déficit de confianza estructural. Cualquier ciudadano informado que use un modelo corporativo para tomar decisiones políticas sabe que el sistema fue construido para servir los intereses de alguien más, no los suyos.

La alternativa que proponen los autores es la IA pública: modelos construidos por organismos gubernamentales, como bien público, bajo control público y con supervisión ciudadana. No optimizados para el beneficio de accionistas sino para la aprobación de la ciudadanía que los financia. Este concepto enfrenta obstáculos políticos y técnicos considerables. Requiere inversión estatal masiva en un momento de restricción fiscal generalizada. Enfrenta la sospecha legítima de que cualquier gobierno que desarrolle una IA para asistir decisiones políticas puede programarla para favorecer sus propias posiciones. Y compite contra ecosistemas privados que llevan años de ventaja tecnológica y tienen acceso a datos que ningún organismo público posee.

Sin embargo, los autores argumentan que la alternativa, dejar que la IA en democracia sea exclusivamente un producto corporativo, es peor. El experimento de Proxy IQ lo ilustra con claridad: cuando una empresa privada decide las reglas que rigen cómo votan billones de dólares en activos, y lo hace con un algoritmo cuyas instrucciones no son públicas y cuyas vulnerabilidades no son divulgadas, el resultado no es independencia sino una nueva forma de captura. El duopolio humano de ISS y Glass Lewis se reemplaza por un oligopolio algorítmico que concentra aún más poder en manos de quienes pueden diseñar, modificar o manipular los modelos.

Elites, organizadores y la nueva batalla por el poder

Una de las contribuciones más matizadas del libro es su negativa a tratar la IA como inherentemente favorable a los poderosos o inherentemente democratizadora. Ambas cosas son verdad, dependiendo de quién la usa y cómo. Schneier y Sanders documentan cómo la IA refuerza estructuralmente a quienes ya están en la cima de cualquier jerarquía. La naturaleza de la automatización es que le entrega a quien está en la cúspide de una estructura de poder mayor control sobre los niveles inferiores. Es notoriamente difícil para un nuevo gobierno hacer cumplir su voluntad a través de capas de burocracia humana. Es trivial cambiar los parámetros de un modelo de IA que automatiza esas mismas funciones.

La clave, según los autores, no está en la tecnología sino en la gobernanza. Ohio emprendió en los últimos años una revisión masiva de su código administrativo usando IA, eliminando millones de palabras de lenguaje obsoleto o redundante. La misma tecnología podría usarse para purgar toda disposición que imponga cargas a las empresas, o para eliminar toda protección a grupos específicos. El resultado depende enteramente de quién da las instrucciones, con qué objetivos, y bajo qué supervisión. Si te gusta el gobierno en el poder, celebrarás la eficiencia. Si te opones, temerás la arbitrariedad. Esa asimetría de percepción es exactamente la razón por la que los autores insisten en que la regulación debe preceder a la adopción masiva, no seguirla.

Lo que el libro documenta con mayor claridad es que esa ventana ya se está cerrando. Cuando el concejal de Porto Alegre presentó su ley generada por IA sin informárselo a sus colegas, estableció un precedente. Cuando el juez federal usó IA para interpretar legislación sin consultar a las partes ni a ningún organismo de supervisión, lo hizo porque tenía la autonomía institucional para hacerlo. Cuando la administración Trump comenzó a usar IA para redactar políticas con consecuencias millonarias, lo hizo en el marco de poderes ejecutivos existentes que nunca imaginaron este escenario. El derecho llega tarde a la tecnología por definición. Pero en este caso, la brecha entre lo que la IA ya puede hacer dentro de las democracias y lo que las democracias pueden hacer para regularlo se está convirtiendo en un abismo.

Las cuatro Rs: un plan para no rendirse

Frente a este panorama, Schneier y Sanders proponen un marco de acción concreto que llaman las cuatro Rs. No es un llamado al optimismo tecnológico ni una advertencia catastrofista. Es un mapa de decisiones que ciudadanos, legisladores y tecnólogos deben tomar ahora, mientras todavía existe margen para tomarlas. La secuencia importa: algunas acciones son urgentes porque abren el camino para las demás, y algunas son imposibles sin las anteriores.

Los autores son explícitos en que las cuatro Rs no son un menú de opciones sino una agenda integrada. Reformar sin resistir produce ecosistemas tecnológicos más transparentes que igualmente se usan para concentrar poder. Resistir sin renovar crea prohibiciones que se vuelven obsoletas antes de ser implementadas. Usar responsablemente sin reformar significa construir servicios públicos sobre infraestructura que no rinde cuentas a nadie. Solo la combinación de las cuatro, ejecutada de forma coordinada y con participación ciudadana genuina, produce lo que Schneier y Sanders llaman una democracia efectivamente recableada para la era algorítmica.

El libro cierra con una advertencia que ningún optimista ni ningún pesimista puede ignorar: uno de cada cinco ciudadanos estadounidenses ya consulta modelos de IA para decisiones políticas. Esa cifra viene de investigación propia de Sanders y sus colegas. No es una proyección futura. Es el presente. Y si el experimento del delegado roto enseña algo, es que los sistemas que ya están tomando esas decisiones son vulnerables a manipulaciones que sus propios usuarios no pueden detectar, construidos por corporaciones que no responden ante ningún electorado, y desplegados a una velocidad que hace imposible cualquier deliberación democrática previa. La pregunta que Schneier y Sanders dejan abierta no es si la IA cambiará la democracia. Ya la está cambiando. La pregunta es si las democracias actuarán a tiempo para decidir cómo.