Democracia directa escalable mediante IA: promesa de equidad o riesgo de desconexión ciudadana

Piensa un proxy digital que conoce tus preferencias políticas tan bien como tú (o mejor), rastrea cada asunto en la boleta, y emite votos en tu nombre en tiempo real. Esta visión, alguna vez material de ciencia ficción, se está volviendo rápidamente técnicamente factible. Permitir que la IA sirva como nuestros proxies políticos suena radical, pero la idea se construye sobre una verdad simple sobre nuestro sistema político: la democracia representativa existe porque no todos podemos estar en la sala para cada decisión. Esta es la tesis central presentada por Bruce Schneier, experto en seguridad tecnológica de la Harvard Kennedy School, y Nathan Sanders, científico de datos del Berkman Klein Center, en su nuevo libro "Rewiring Democracy: How AI Will Transform Our Politics, Government, and Citizenship."

La democracia representativa requiere que funcionarios electos representen las preferencias colectivas de sus constituyentes. La razón más comprensible para esto es logística: los ciudadanos no todos tenemos el tiempo o la capacidad de comunicar nuestras preferencias directamente, y no todos podemos caber en la cámara legislativa para debatir los asuntos en juego. Este sistema no siempre funciona muy bien. Elegimos representantes y les enviamos señales groseras (a veces francamente obtusas) sobre lo que queremos, luego confiamos en ellos para extrapolar los detalles. Las elecciones tienden a enmarcarse alrededor de unos pocos asuntos clave - inmigración, impuestos, salud - con cada candidato alineado en un lado de un asunto u otro. Quien gana asume un mandato para resolver el resto.

A veces damos un poco de señal extra, como votos a favor o en contra de unas pocas iniciativas de votación. Nuestros funcionarios electos hablan con algunos de nosotros en persona, usualmente unos pocos a la vez, y obtienen señales masivas de encuestas y redes sociales. El resultado es que no se intercambia mucha información entre las personas y sus representantes, lo que puede dificultar que el público asegure que las acciones de sus representantes se alineen con las preferencias de los constituyentes. Schneier y Sanders argumentan que la IA puede cambiar esto fundamentalmente. En contraste con herramientas pasivas, los agentes de IA pueden ejecutar tareas (desde comandos simples hasta acciones complejas) en nombre de cualquiera que pueda emitir una instrucción. Conforme la IA se integra más en sistemas conectados, su potencial influencia en procesos políticos, incluyendo cabildeo o incluso votación, crecerá significativamente.

Más allá de los humanos: representando los no representados

Los proxies de IA podrían ayudar a representar los intereses de no votantes en el proceso legislativo: niños, animales, incluso generaciones futuras. Podríamos instruir a proxies de IA para representar apropiadamente los intereses de estos grupos. Esto no equivale a extender la franquicia a personas de IA particulares, pero podría significar que la deliberación y formulación de políticas podrían incluir representantes de IA que favorezcan políticas que apoyen, por ejemplo, la preservación de bosques. Este puede sonar como fantasía para los no iniciados, pero el desafío de internalizar entidades que no son titulares de franquicia en un sistema político es un problema bien estudiado en economía, derecho, y ciencia política.

Las convenciones de la ONU llaman por la representación de niños en procedimientos legales. Cientos de jurisdicciones reconocen "derechos de la naturaleza," análogos a los derechos humanos. Elegir desarrollar e integrar sistemas de IA que hablen directamente en nombre de estos grupos externos puede ser una forma de lograr eso. Yendo más lejos, si los sistemas de IA actualmente siendo desarrollados para comunicarse con animales hacen progreso significativo, las ideas establecidas de representación no humana toman nueva significancia. La propuesta de Schneier y Sanders es que los proxies de IA podrían proporcionar un mecanismo para dar voz política a intereses que sistemáticamente han sido excluidos del proceso democrático no por malicia sino por imposibilidad logística.

Sin embargo, esta extensión del concepto de representación plantea preguntas profundas. ¿Cómo programamos los "intereses" de las generaciones futuras cuando no sabemos qué valorarán? ¿Un proxy de IA para bosques favore preservación absoluta o gestión sostenible? ¿Quién decide los parámetros de estos proxies no humanos? Los autores reconocen estas preocupaciones pero argumentan que cualquier mecanismo de representación es mejor que la exclusión sistemática actual. Instituciones que toman decisiones de larga duración que afectan a generaciones futuras actualmente lo hacen sin ningún input de esas generaciones. Los proxies de IA al menos proporcionan un marco para intentar incorporar esos intereses, incluso si imperfectamente.

Los riesgos: confianza, sesgo, y vulnerabilidad

Por supuesto, la implementación de proxies de IA puede salir terriblemente mal. Primero, como los autores han discutido en tantos casos, esto requeriría tremenda confianza entre votantes y su proxy de IA. Esto no funcionará si te preocupa que podría malentender tu intención, o tergiversar una pregunta de votación. No funcionará si los proxies son inherentemente sesgados hacia las opiniones de alguien más, como las opiniones de la corporación que lo construyó. Y no funcionará si tienes que preocuparte de que tu IA sea hackeada. Los proxies de IA podrían no proporcionar una representación precisa de tus opiniones políticas. Una IA que extrapola de una respuesta a otra podría estar equivocada.

Este es un problema clásico tanto en estadística como en IA; hay métodos para entender cuándo un sistema predictivo falla en generalizar de un dominio, como un tipo de pregunta de votación, a otro. Un proxy de IA puede adivinar tu respuesta a una nueva pregunta de política - real o simulada - y verificar contigo el resultado. Si el proxy se equivoca, puedes decírselo y así actualizar tanto la comprensión de la herramienta de cuán frecuentemente necesita consultarte como tu propia comprensión de cuán confiable es. Todos tendrán una tolerancia diferente para este tipo de falla, así que el proxy de IA podría ser entrenado para consultar con su dueño tan frecuentemente como sientan que es apropiado.

La democracia es lenta, redundante, y frecuentemente retrocede. La incertidumbre política también ocurre en la democracia representativa tradicional, pero generalmente se resuelve bastante lentamente. Las leyes son revocadas y reemplazadas, enmendadas, desafiadas en cortes, y actualizadas ad nauseam durante años. A veces los cambios de política son tan caóticos que su implementación se estanca mientras la legislatura, las cortes, o los votantes resuelven qué realmente quieren decir. Esto frecuentemente indica un equilibrio inestable, una formulación de política que es vulnerable a fácil derribo por presión desde cualquier dirección. Con mejor representación de nuestras preferencias colectivas, podríamos encontrar formulaciones de política más estables. Toda la sociedad se beneficiaría si esa IA pudiera ayudar a llevar a políticas que fueran verdaderamente mejores para las personas que afectan y requirieran menos lucha política para implementar y mantener.

La crítica aristot élica: hacer democracia hace que la democracia funcione

La preocupación más fundacional relacionada con la implementación de proxies de IA es que podría contribuir a la atrofia de nuestra capacidad innata para la democracia. Aristóteles imaginó la democracia como una forma de auto-actualización. En esta visión, las preferencias políticas individuales no aparecen mágicamente en nuestras cabezas, solo esperando que una IA las discierna y luego abogue en nuestro nombre. Son creadas a través del proceso de educación, discusión, y debate. El acto de hacer democracia hace que la democracia funcione. Si permitimos que nuestros proxies de IA luchen y luego nos digan el resultado, perdemos esa interacción humana. Además, si comenzamos a escuchar y creer la versión de la IA de nuestras preferencias, podríamos perder cualquier sentido de convicción personal.

Esto podría resultar fácilmente en los mismos tipos de loops de retroalimentación que propulsan a las personas hacia opiniones extremas, o para atrincherar y polarizar partidos políticos. Reemplazar humanos con IAs podría resultar en peores resultados a largo plazo, incluso si llevara a mejores decisiones de política inmediatamente. Schneier y Sanders reconocen esta preocupación como quizás la más seria. La democracia no es solo un mecanismo para agregar preferencias; es un proceso que forma ciudadanos, construye comunidad, y crea legitimidad política. Si delegamos ese proceso a algoritmos, podemos lograr resultados de política más eficientes mientras socavamos simultáneamente las bases sociales que hacen posible la democracia estable.

Los autores ofrecen la analogía de conducir: podríamos estar bien con que las IAs conduzcan nuestros autos, y con que olvidemos cómo conducir, así como pocos de nosotros sabemos conducir un caballo y un buggy. Probablemente no estamos bien con que la IA apruebe todas las leyes mientras nosotros los humanos olvidamos cómo hacer democracia. Quizás permitiremos que las IAs nos ayuden a deliberar y construir consenso, pero nada más. El desafío es determinar dónde yace la línea entre asistencia útil y delegación perjudicial, una línea que probablemente varíe según el dominio de la política y la sofisticación del sistema de IA.

Precedente: ya delegamos decisiones críticas a sistemas opacos

¿Qué tan alien sería el mundo si las IAs estuvieran emitiendo votos y tomando decisiones por nosotros a gran escala? Schneier y Sanders afirman que no mucho. Cada habitante de una sociedad compleja tiene una vida de experiencia cediendo las decisiones más importantes que gobiernan sus vidas a una máquina sin rostro. Las decisiones reales tomadas por un gobierno, incluso en las áreas de política sobre las cuales nos preocupamos visceralmente, son tan remotas para la mayoría de nosotros como lo son las reacciones bioquímicas en nuestras células. Los padres se preocupan profundamente por la educación de sus hijos, pero la mayoría no tienen el tiempo de leer los textos asignados en las escuelas públicas, mucho menos ejercer influencia sobre cuáles textos son esos.

Los ciudadanos que se preocupan profundamente por la equidad y la justicia generalmente no tienen la más mínima idea de qué casos se están juzgando dentro de su tribunal del condado local, mucho menos qué reglas se están aplicando o las cualificaciones de los fiscales y jueces actuando en su nombre. Es simplemente imposible para los ciudadanos en una democracia moderna estar informados de o formular opiniones sobre la mayoría de las formas en que el gobierno funciona. Durante generaciones hasta el día presente, la solución ha sido confiar esa autoridad a instituciones. Incluso confiamos en esas instituciones para elegir tecnologías que ayuden a automatizar su trabajo. La IA es solo otro paso por ese mismo camino: otra opción tecnológica para nosotros usar en expresar nuestras preferencias de política y para las instituciones usar en ejecutar sus funciones.

Este argumento es tanto tranquilizador como inquietante. Es tranquilizador en que sugiere que los proxies de IA no representan una ruptura categórica con la práctica democrática existente, sino más bien una continuación de tendencias de larga data hacia delegación y especialización. Es inquietante porque podría normalizar un paso cualitativamente diferente: delegar no solo la ejecución de política sino la formulación de preferencias políticas en sí. La analogía de Schneier y Sanders entre tribunales opacos y proxies de IA puede subestimar la diferencia entre delegar la implementación técnica de valores que retenemos versus delegar la determinación de cuáles son esos valores en primer lugar.

La dependencia del compromiso ciudadano

La democracia mejorada por IA depende de que los ciudadanos permanezcan comprometidos. La mayoría de estos escenarios están demasiado lejos en el futuro para predecir claramente. Lo que Schneier y Sanders quieren, ahora mismo, es mejorar el compromiso cívico humano, incluso conforme la IA se vuelve esencial como tecnología de asistencia. En "Rewiring Democracy," exploran más completamente cómo la sociedad puede maximizar los beneficios de la IA para la democracia mientras minimiza sus riesgos. En general, son esperanzados de que esta tecnología proporcionará un beneficio neto a las sociedades construidas sobre el fundamento de las libertades individuales. Pero como todo en la democracia, realizar esos beneficios requerirá que todos estemos tan informados y comprometidos como sea posible.

Este último punto es crítico: los proxies de IA solo funcionan si los ciudadanos permanecen suficientemente comprometidos para supervisar, corregir, y ocasionalmente anular sus proxies. Si la conveniencia de la delegación lleva al descompromiso completo, todo el sistema se derrumba. Los autores son explícitos de que su visión requiere un equilibrio delicado: suficiente delegación para superar las barreras logísticas que plagan la democracia moderna, pero no tanta delegación que los ciudadanos pierdan la capacidad o inclinación para participar significativamente cuando es necesario. Lograr ese equilibrio será el desafío definidor de la democracia mejorada por IA.

La pregunta última que Schneier y Sanders dejan abierta es si podemos mantener ese equilibrio a largo plazo. Las tecnologías tienden a seguir sus propias lógicas: una vez que existe una opción más conveniente, las presiones competitivas y las preferencias individuales frecuentemente llevan a su adopción generalizada independientemente de consideraciones sistémicas más amplias. Si los proxies de IA ofrecen participación política sin esfuerzo, y si algunos ciudadanos los adoptan ampliamente, otros podrían sentirse presionados a hacer lo mismo para no ser políticamente supe rados. Con el tiempo, el músculo cívico de la sociedad podría atrofiarse incluso si nadie jamás pretendió que eso sucediera. Los autores son conscientes de este riesgo pero creen que vale la pena explorarlo dado las ineficiencias masivas de la democracia representativa actual.

Caso especial: Argentina y la delegación política algorítmica

El contexto político argentino presenta particularidades que hacen que la propuesta de proxies políticos de IA adquiera dimensiones únicas, tanto prometedoras como preocupantes. Argentina tiene una historia política marcada por ciclos de participación masiva alternados con desencanto profundo, una tradición peronista de intermediación política mediante estructuras partidarias, y experiencias recientes con movimientos digitales que desafían el sistema tradicional. La pregunta es si los proxies de IA podrían ayudar a resolver algunas de las disfuncionalidades crónicas de la democracia argentina o si simplemente amplificarían patologías existentes.

Argentina tiene una de las tasas de participación electoral más altas del mundo debido al voto obligatorio, pero paradójicamente sufre de una desconexión masiva entre ciudadanos y representantes electos. Los argentinos votan regularmente pero frecuentemente sienten que sus votos no se traducen en políticas que reflejen sus preferencias reales. Esta frustración ha llevado a la volatilidad electoral extrema: gobiernos que asumen con mandatos aplastantes pueden perder legitimidad en meses, y partidos políticos que dominaron durante décadas pueden colapsar en un solo ciclo electoral. Los proxies de IA podrían ofrecer un mecanismo para consultas más frecuentes y matizadas que capturen los cambios rápidos en el sentimiento público, potencialmente estabilizando la relación entre gobernantes y gobernados.

Sin embargo, el mismo fenómeno que hace atractiva la propuesta también presenta el mayor riesgo. La volatilidad política argentina no es solo producto de la desconexión entre representantes y representados; también refleja la polarización profunda, la debilidad institucional, y los ciclos de expectativas irreales seguidas de desilusión masiva. Si los proxies de IA permitieran que las preferencias políticas agregadas cambiaran día a día en respuesta a cada crisis económica o escándalo mediático, las políticas podrían oscilar tan salvajemente que se volvería imposible implementar cualquier estrategia coherente a mediano plazo. La democracia argentina ya sufre de este problema con las herramientas existentes; los proxies de IA podrían amplificarlo exponencialmente.

La tradición peronista de intermediación política presenta tanto oportunidades como amenazas para el concepto de proxies de IA. El peronismo históricamente ha funcionado mediante estructuras de mediación: punteros políticos, organizaciones sociales, sindicatos que conectan líderes con bases mediante cadenas de lealtad personal y beneficios materiales. En cierto sentido, estos intermediarios humanos ya funcionan como "proxies" que agregan y representan preferencias de comunidades. Los proxies de IA podrían verse como una digitalización de estas estructuras de mediación, potencialmente haciéndolas más transparentes y accountables. Alternativamente, podrían verse como una amenaza existencial a estas redes de poder, lo que generaría resistencia masiva de actores políticos establecidos.

La experiencia argentina con movimientos digitales proporciona pistas sobre cómo podrían funcionar los proxies de IA en la práctica. El fenómeno de La Cámpora y las redes sociales peronistas demostraron cómo la tecnología puede movilizar bases políticas masivas rápidamente. El surgimiento de Javier Milei mediante canales de YouTube y redes sociales, sin estructura partidaria tradicional, sugiere que los argentinos están dispuestos a experimentar con nuevas formas de organización política que bypasean intermediarios establecidos. Sin embargo, estos mismos fenómenos también revelaron vulnerabilidades: la facilidad con que la desinformación se propaga, la formación de cámaras de eco que polarizan aún más, y la dificultad de traducir movilización digital en gobernanza efectiva.

El caso de la representación de intereses no humanos mediante proxies de IA tiene relevancia particular para Argentina dado los debates actuales sobre recursos naturales. Argentina enfrenta decisiones críticas sobre explotación de recursos en Vaca Muerta, minería en regiones montañosas, deforestación en el norte, y uso de agroquímicos en zonas agrícolas. Estas decisiones afectan profundamente a generaciones futuras y ecosistemas, pero el proceso político actual frecuentemente favorece intereses económicos de corto plazo. Los proxies de IA programados para representar intereses de generaciones futuras o de ecosistemas podrían proporcionar un contrapeso institucional a las presiones extractivistas inmediatas. Sin embargo, esto también plantea la pregunta: ¿quién programa esos proxies y según qué valores?

La cuestión de sesgo corporativo en los proxies de IA es particularmente aguda en el contexto argentino. Si los proxies son desarrollados por corporaciones tecnológicas extranjeras (Google, OpenAI, Anthropic), existe el riesgo de que sus algoritmos reflejen valores, suposiciones, y sesgos de las culturas donde fueron creados en lugar de las realidades argentinas. Argentina ha tenido experiencias traumáticas con dependencia de instituciones extranjeras que imponen condiciones sin entender contextos locales. La idea de delegar decisiones políticas a algoritmos controlados por Silicon Valley probablemente generaría resistencia nacionalista significativa, independientemente de los méritos técnicos de la propuesta.

Una alternativa sería desarrollar proxies de IA argentinos, programados localmente con comprensión de historia, cultura, y necesidades específicas del país. Argentina tiene una comunidad tecnológica sofisticada y capacidad de desarrollar tal sistema. Sin embargo, esto requeriría inversión pública masiva en un contexto de recursos escasos y prioridades urgentes. Además, un sistema desarrollado localmente enfrentaría sospechas de manipulación partidaria: ¿qué gobierno podría desarrollar proxies de IA sin que la oposición lo acusara de programar sesgos a favor de sus propias posiciones? La politización de literalmente todo en Argentina haría casi imposible crear un sistema de proxies que fuera percibido como neutral.

Irónicamente, uno de los aspectos de la propuesta de Schneier y Sanders que podría funcionar mejor en Argentina es la representación de grupos marginalizados. Argentina tiene grandes poblaciones excluidas del proceso político efectivo: pueblos originarios en el norte, trabajadores informales en barrios populares, jóvenes desempleados que emigran masivamente. Los proxies de IA programados específicamente para representar estos intereses, con participación directa de estas comunidades en su diseño, podrían proporcionar voz política a grupos que actualmente dependen de intermediarios que frecuentemente los explotan. Sin embargo, esto requeriría un compromiso político con inclusión genuina que históricamente ha sido difícil de mantener.

La pregunta última para Argentina es si la propuesta de proxies de IA aborda las causas fundamentales de la disfunción democrática o simplemente ofrece una solución tecnológica sofisticada para problemas esencialmente políticos y sociales. Las patologías de la democracia argentina - desconfianza institucional, polarización extrema, ciclos de expectativas irreales, debilidad del estado de derecho - no son principalmente problemas de agregación de preferencias ineficiente. Son productos de historia política turbulenta, desigualdad económica estructural, y fracturas sociales profundas. Los proxies de IA podrían hacer que el sistema político sea más responsive a preferencias ciudadanas, pero sin abordar estas causas subyacentes, podrían simplemente acelerar los ciclos de ascenso y caída que han caracterizado la política argentina durante décadas.

Una implementación prudente en Argentina comenzaría con experimentos limitados a nivel municipal en ciudades con buena infraestructura digital y capacidad administrativa. Rosario, Córdoba, o municipios prósperos del Gran Buenos Aires podrían probar sistemas de consulta ciudadana asistidos por IA para decisiones de presupuesto participativo o planning urbano. Estos experimentos proporcionarían evidencia empírica sobre cómo funcionan los proxies de IA en contexto argentino sin arriesgar la estabilidad del sistema político nacional. Si resultados son positivos, la expansión podría ser gradual, siempre con salvaguardas fuertes contra manipulación y compromiso continuo con educación cívica para prevenir atrofia de capacidades democráticas fundamentales.