Contratos, confianza e incertidumbre: el nuevo “Reino Medio” de la IA

La narrativa dominante sobre la inteligencia artificial ha sido históricamente una historia de individuos. Desde las primeras concepciones de Alan Turing hasta los actuales debates sobre la inteligencia general artificial (AGI), el objetivo central ha sido crear una máquina pensante, una entidad autónoma capaz de igualar o superar la cognición humana. Esta visión, profundamente arraigada en la tradición filosófica occidental, posiciona la inteligencia como una propiedad inherente a un agente individual, ya sea humano o computacional. Sin embargo, en un giro conceptual tan radical como profundo, el investigador de renombre mundial Michael I. Jordan, catedrático en la Universidad de California, Berkeley, y uno de los pioneros de las redes neuronales modernas, propone un cambio de paradigma fundamental. Su trabajo no es solo una contribución técnica, sino una declaración de intenciones para reorientar toda la disciplina de la IA desde un foco individualista hacia una perspectiva colectivista y económica.

La tesis central de Jordan se basa en una premisa simple pero revolucionaria: la inteligencia humana es inherentemente social y cultural en su origen. A diferencia de la creencia popular de que la genialidad reside en la brillantez individual, la experiencia demuestra que el conocimiento y la innovación surgen de la colaboración, la comunicación y la acumulación de saberes compartidos a lo largo de generaciones. Por lo tanto, según Jordan, la IA debe reflejar esta realidad fundamental. Debe diseñarse no como un sistema aislado, sino como un artefacto que funcione dentro de un contexto socio-técnico, gestionando la incertidumbre, alineando incentivos y creando valor en entornos multi-participantes. Este cambio de metáfora es crucial: en lugar de ver los sistemas de IA como "máquinas pensantes", deben ser comprendidos como "culturas" o "artefactos colectivos" que cristalizan la inteligencia distribuida de millones de personas.

El flujo de conversaciones de un gran modelo de lenguaje (LLM) no es el discurso de un único individuo, sino el eco de un consenso cultural emergente, un vasto archivo de narrativas, opiniones y abstracciones compartidas que el modelo aprende a generar. Esta perspectiva desmonta la "ilusión de personalidad" que a menudo acompaña a los LLMs, revelando que su "inteligencia" es en realidad una manifestación de la inteligencia colectiva de la humanidad.

Para materializar esta visión, Jordan critica la fragmentación disciplinaria que caracteriza a la investigación actual en IA. Argumenta que la falta de un campo de ingeniería verdaderamente integrado es la causa raíz de muchos de los problemas más urgentes de la IA, como la falta de confianza, la dificultad para gestionar la incertidumbre y la ignorancia de los incentivos estratégicos de los usuarios. Señala la existencia de campos híbridos, como la econometría (combinando economía y estadística) o la teoría de juegos algorítmica (combinando computación y economía), pero sostiene que ninguno integra las tres formas de pensamiento necesarias para diseñar sistemas de IA robustos y socialmente responsables.

Estas tres formas de pensamiento son:

• Pensamiento Computacional: Heredado de la informática, se centra en el diseño modular de algoritmos, la escalabilidad y la eficiencia computacional.
• Pensamiento Inferencial: Proviene de la estadística y se ocupa de la cuantificación de la incertidumbre, la inferencia causal y el razonamiento sobre poblaciones y entidades invisibles.
• Pensamiento Económico: Derivado de la microeconomía, se enfoca en el diseño de incentivos, mecanismos, contratos y la comprensión de los equilibrios bajo comportamiento estratégico.

Jordan postula la necesidad de un "Reino Medio" o una nueva disciplina de ingeniería que combine estas tres vertientes en un todo coherente. Esta visión madura de la ingeniería, similar a cómo la ingeniería eléctrica se basa en las leyes de Maxwell o la química en las ecuaciones de Schrödinger, proporcionaría principios fundamentales para construir sistemas de IA que sean transparentes, modulares y orientados al bienestar social, en lugar de depender de métodos ad hoc y experimentales.

Un elemento central de su argumento es la distinción entre dos tipos de incertidumbre que los sistemas de IA deben gestionar de manera diferente. Primero, está la incertidumbre estadística, que surge de la falta de datos y puede reducirse mediante un mayor muestreo. Los modelos de ML modernos, incluidos los LLMs, a menudo ignoran esta forma de incertidumbre, mostrando una confianza excesiva en sus predicciones, incluso cuando operan fuera de su zona de entrenamiento. Segundo, y mucho más crítico, está la incertidumbre estratégica o asimetría de información. Esto ocurre cuando diferentes agentes en un sistema poseen conocimientos privados o intereses distintos. A diferencia de la incertidumbre estadística, esta no puede resolverse simplemente con más datos; requiere herramientas económicas sofisticadas como la teoría de contratos, el diseño de mecanismos y la teoría de juegos para alinear los incentivos y fomentar la transparencia y la cooperación.

La incapacidad de los sistemas de IA actuales para gestionar la asimetría de información es una brecha crítica que explica por qué plataformas digitales a menudo fracasan en compensar adecuadamente a los creadores de contenido, por qué los datos personales pueden ser explotados sin un consentimiento informado, y por qué los reguladores luchan por evaluar la seguridad de sistemas como los vehículos autónomos cuando los fabricantes tienen incentivos para presentar sus resultados de manera favorable. La solución, según Jordan, no reside en un algoritmo más complejo, sino en un diseño de mercado más inteligente que internalice estas dinámicas estratégicas en el propio sistema.

Este replanteamiento representa una llamada a la humildad y a una mayor integración de la IA con las ciencias sociales. Jordan advierte contra la "histeria" y el "entusiasmo" que a menudo acompañan a los avances en IA, argumentando que construir sistemas cada vez más poderosos sin una base teórica sólida es peligroso, comparable a construir plantas nucleares antes de entender la física atómica. Su enfoque colectivista ofrece un camino para construir una IA que no solo sea más precisa, sino también más resiliente, justo y alineada con los valores humanos, reconociendo que la verdadera inteligencia a menudo reside en la capacidad de coordinarse, cooperar y negociar dentro de una comunidad.

El diseño de mercados inteligentes

El enfoque colectivista de Michael I. Jordan trasciende la mera teoría para proponer un conjunto de modelos de mercado concretos y herramientas conceptuales avanzadas que buscan implementar esta visión en la práctica. La metáfora central de su obra no es la del agente autónomo, sino la del mercado inteligente: un sistema colectivo donde múltiples participantes interactúan, se coordinan y crean valor a través de flujos de datos, servicios y pagos. En esta visión, la IA no reemplaza al mercado, sino que lo enriquece y mejora, utilizando algoritmos de aprendizaje automático para conectar a los agentes de manera más eficiente, mientras que el diseño del mercado (las reglas, los contratos y los incentivos) asegura que los resultados sean justos y benéficos para todos.

Esta perspectiva transforma la pregunta de "¿qué puede hacer esta IA?" a "¿qué tipo de sistema colectivo podemos diseñar para que esta IA sirva mejor a la sociedad?". Dos de los modelos más desarrollados y ejemplificativos de esta filosofía son el mercado multilateral trifásico para la industria musical y el mercado de datos tricapa, ambos ilustrados con casos de estudio reales y análisis matemáticos rigurosos.

El ejemplo más prominente de un mercado multifacético es el modelo para la industria musical implementado por United Masters, una compañía de distribución musical con la que Jordan colabora como miembro del consejo de administración. Este modelo redefine la relación entre los tres actores clave de la industria: los músicos (proveedores de contenido), los oyentes (consumidores) y las marcas (financiadores e inversores). A diferencia de los modelos de streaming tradicionales como Spotify, donde el valor monetario se concentra en la plataforma y los artistas reciben una pequeña parte de los ingresos, el modelo de United Masters crea un ciclo virtuoso de valor directo e inmediato. Cuando una marca como la NBA, Bose o State Farm licencia una canción de un artista para usarla en sus campañas publicitarias, el pago se transfiere directamente al músico. Simultáneamente, el sistema utiliza el aprendizaje automático para analizar las respuestas del público a esa música, proporcionando a las marcas datos valiosos sobre tendencias y audiencias específicas. Esta retroalimentación positiva incentiva a otras marcas a encontrar y asociarse con nuevos talentos, creando así un ecosistema auto-sostenible que beneficia a todos los participantes.

Con más de 1.5 millones de músicos registrados y socios corporativos de primer nivel, el modelo demuestra que es posible escalar un sistema colectivista que priorice el bienestar de los creadores sobre la maximización de la rentabilidad de una única entidad. Este enfoque no intenta competir con los gigantes de la música, sino crear un nuevo mercado paralelo que opera con un contrato social y económico completamente diferente, donde la participación activa de todos los actores es esencial para el éxito.

Un segundo modelo clave es el mercado de datos tricapa, diseñado para navegar la compleja interacción entre usuarios, plataformas y compradores de datos externos. En este sistema, los usuarios proporcionan datos a una plataforma (como una aplicación financiera que les da acceso a crédito) a cambio de un servicio. La plataforma, a su vez, puede utilizar esos datos agregados y anonimizados para vender información a terceros compradores, como empresas de marketing o institutos de investigación. El desafío central aquí es mantener la confianza del usuario, quien tiene un claro interés en proteger su privacidad. Para resolver este conflicto, el modelo propone que las plataformas utilicen técnicas de privacidad diferencial, añadiendo "ruido" calibrado a los datos antes de venderlos. Esto crea un equilibrio cuantificable: cuanto mayor sea el nivel de privacidad (más ruido), más probable será que los usuarios participen, pero menos valioso será el dato para el comprador. Las plataformas deben encontrar el punto óptimo que maximice su propia rentabilidad, equilibrando la atracción de usuarios con la generación de ingresos por datos.

Este complejo juego de incentivos, donde los usuarios prefieren la privacidad, los compradores odian el ruido y las plataformas deben navegar entre ambos, puede ser modelado matemáticamente como un juego de Stackelberg generalizado, permitiendo a los diseñadores de políticas y sistemas identificar los equilibrios de mercado más eficientes y justos. Este modelo demuestra cómo la IA puede ser utilizada para crear mercados de datos más seguros y transparentes, tratando la privacidad no como una restricción post-hoc, sino como un componente integral y negociable del mercado mismo.

Para dar rigor matemático y económico a estos modelos de mercado, Jordan introduce varias herramientas conceptuales innovadoras. Una de las más importantes es la Teoría de Contratos Estadísticos. Esta teoría combina la inferencia estadística con la teoría económica para diseñar contratos que sean "incentivo-compatibles", es decir, que obliguen a los agentes estratégicos a actuar de manera honesta y eficiente. Utiliza un concepto matemático llamado "valores e" (e-values), que son funciones de los datos cuya expectativa es menor o igual a 1 bajo una hipótesis nula determinada. Un contrato se diseña como un menú de opciones, donde los proveedores de un producto o servicio (por ejemplo, fabricantes de vehículos autónomos) pueden elegir el nivel de calidad y el precio que ofrecen. La condición de que todas las funciones de pago en el contrato sean valores e garantiza que un proveedor de un producto de baja calidad nunca pueda esperar obtener una ganancia positiva, eliminando así elincentivo para mentir o jugar sucio.

Otra herramienta fundamental es la Inferencia Potenciada por Predicción (Prediction-powered Inference - PPI). Este método estadístico aborda directamente uno de los mayores problemas de los modelos de IA actuales: el sesgo sistemático. A menudo, los modelos de ML predicen con alta precisión pero con intervalos de confianza incorrectos, especialmente en datos poco representados. La PPI permite combinar las predicciones de un gran modelo global (como AlphaFold, que predice estructuras de proteínas) con un conjunto pequeño pero valioso de datos verificados ("oro") para producir intervalos de confianza que son tanto precisos como válidos estadísticamente. En lugar de simplemente ajustar un punto de predicción, la PPI estima un intervalo de confianza para el sesgo del modelo global y lo utiliza para corregir el resultado original, garantizando que el intervalo final contenga el valor verdadero con la cobertura deseada. Este enfoque es una forma de mitigar el sesgo a nivel local, permitiendo que los agentes locales usen sus conocimientos de primera mano para verificar y corregir las predicciones globales, lo cual es una manifestación perfecta de la inteligencia colectiva en acción.

Paralelismos y divergencias con las cooperativas tecnológicas

La propuesta de Michael I. Jordan de un enfoque colectivista para la IA encuentra una resonancia profunda en movimientos sociales y económicos alternativos que buscan un control democrático sobre la tecnología y los medios de producción, particularmente en el sector de las cooperativas de trabajo tecnológico. Ambos enfoques comparten un objetivo común: redistribuir el poder y los beneficios de la innovación digital de manos de unas pocas corporaciones multinacionales o accionistas a la comunidad de creadores, usuarios y trabajadores. Sin embargo, a pesar de estos paralelismos ideológicos, existe una tensión fundamental en sus metodologías y objetivos estratégicos. Mientras que el colectivismo de Jordan se centra en un diseño de mercado sofisticado para alinear incentivos dentro de un marco capitalista, el cooperativismo representa un replanteamiento más radical de la propiedad y la organización económica. Analizar esta conexión y estas divergencias es crucial para comprender tanto el potencial como los límites de la visión de Jordan.

Los principios subyacentes de las cooperativas de trabajo tecnológico se alinean notablemente con los pilares del enfoque colectivista de Jordan. La característica definitoria de una cooperativa es su estructura de propiedad y gobernanza democrática, típicamente operando bajo el principio de "un trabajador, una voz". Esto contrasta directamente con la estructura capitalista tradicional de "un accionista, una voz", donde el control recae en quienes poseen capital, a menudo desconectados de la ejecución diaria del trabajo. Al democratizar la toma de decisiones, las cooperativas aseguran que los intereses de quienes construyen y mantienen la tecnología estén intrínsecamente alineados con el bienestar de los usuarios y la comunidad en general, un objetivo central en el trabajo de Jordan. Organizaciones como Agile Collective en el Reino Unido, que se especializa en proyectos para organizaciones sin fines de lucro y sector público, o Hypha en Toronto, que se enfoca en el desarrollo de infraestructura para una "nueva historia sobre trabajar en tecnología", demuestran que este modelo es viable y busca explícamente un propósito más allá de la maximización de la ganancia. Además, el ámbito de las cooperativas ha evolucionado para incluir modelos multi-stakeholder, inspirados en marcos legales como las SCIC (sociétés coopératives d'intérêt collectif) en Francia, que permiten a diferentes grupos, como empleados, consumidores y proveedores, compartir la propiedad y la gobernanza. Este modelo se acerca conceptualmente al mercado trifásico de Jordan, donde músicos, oyentes y marcas interactúan dentro de un sistema de IA-coordinado, cada uno con derechos y responsabilidades definidos.

Sin embargo, la viabilidad de estos modelos colectivistas enfrenta desafíos significativos que ponen de relieve las divergencias con la visión de Jordan. Uno de los obstáculos más persistentes es el problema del capital. Las cooperativas de plataforma a menudo luchan por atraer inversión de riesgo, ya que su estructura de gobernanza democrática y su compromiso con el bienestar comunitario chocan con la lógica de crecimiento acelerado y retornos de inversión masivos que exigen los inversores. Otras iniciativas como Fairbnb o Drivers Cooperative han tenido que recurrir a modelos de financiación alternativos, como la venta de acciones de membresía o la búsqueda de subvenciones públicas, lo que limita su capacidad para escalar rápidamente y competir directamente con gigantes financieramente respaldados como Airbnb y Uber. La visión de Jordan, aunque colectivista, todavía opera dentro de un marco de negocio y monetización, lo que plantea la pregunta de si sus mercados de datos o música podrían requerir acceso a capital similar al de las empresas tradicionales para alcanzar la escala necesaria para ser competitivos.

Un segundo desafío crítico es la cuestión de la escala y la supervivencia. La evidencia empírica sugiere que las empresas gestionadas por los trabajadores tienden a tener tasas de crecimiento más bajas y vidas más cortas que sus contrapartes capitalistas, especialmente en mercados altamente competitivos. Empresas como AppJusto en Brasil, que logró pagar a sus conductores un 95% de los ingresos de los pasajeros, dependen de una estructura de costos cuidadosamente gestionada y de un fuerte compromiso ético para sobrevivir. La viabilidad a gran escala de los complejos mercados colectivistas propuestos por Jordan es una hipótesis que requiere una validación empírica exhaustiva. ¿Podrá un mercado de datos colectivista, con sus múltiples partes y contratos, escalar hasta competir con la red de datos de Google o Meta? La respuesta no está clara y depende de factores complejos como las barreras de entrada y la naturaleza de las externalidades de red en los mercados de datos.

Finalmente, la complejidad de la gobernanza democrática presenta un desafío formidable. Aunque las cooperativas promueven la democracia, la participación activa de los miembros en la toma de decisiones suele ser baja. Un estudio basado en encuestas de cuatro cooperativas de plataforma en Italia encontró que solo el 19.1% de los miembros participaban en decisiones estratégicas, tácticas u operativas. La implementación de un mercado colectivista a gran escala, involucrando a miles o millones de usuarios, plataformas y empresas, plantea desafíos de gobernanza aún mayores. ¿Cómo se tomarían decisiones sobre la arquitectura del mercado, las reglas de privacidad o la resolución de disputas? La experiencia de Fairbnb, donde algunos "embajadores" locales se sienten desconectados de la administración central, ilustra cómo las estructuras democráticas pueden volverse lentas y poco efectivas.

En última instancia, el colectivismo de Jordan puede interpretarse como una evolución del liberalismo tecnológico, buscando remediar los fallos de mercado del capitalismo corporativo a través de un diseño de mercado más sofisticado. El cooperativismo, por otro lado, representa un replanteamiento más fundamental de la propiedad y la organización económica. Ambos comparten el objetivo de distribuir el poder, pero difieren en los medios. La pregunta clave que queda es si el "poder" se distribuye de manera más efectiva a través de un mercado colectivista eficiente o a través de la propiedad colectiva de los medios de producción.

Implicaciones estratégicas, regulatorias y energéticas

La adopción de una perspectiva colectivista en la inteligencia artificial, tal como la propone Michael I. Jordan, tiene implicaciones profundas que van más allá de la pura investigación académica, afectando la estrategia empresarial, el diseño de políticas públicas y la propia naturaleza de la innovación tecnológica. Este enfoque ofrece una vía alternativa para abordar algunos de los dilemas más urgentes del siglo XXI, como la concentración de poder, la justicia social y la sostenibilidad ambiental. Al cambiar el foco de la IA de la optimización de un único agente a la coordinación de un sistema colectivo, Jordan proporciona un marco para imaginar futuros donde la tecnología sirve para fortalecer las comunidades y equilibrar las economías, en lugar de amplificar las asimetrías de poder existentes.

Una de las consecuencias más directo de este enfoque es su potencial como una alternativa a la centralización de poder. Muchos escenarios futuros para la IA pintan un panorama sombrío de un mundo dominado por unos pocos gigantes tecnológicos y estados-nación que controlan el acceso a los recursos críticos como los modelos de IA, los chips y los centros de datos. Jordan advierte que esto podría conducir a una era de "robber barons" donde el poder se concentra en manos selectas, amenazando la seguridad económica y la soberanía nacional. El modelo colectivista, con su énfasis en los mercados inteligentes y la gestión de incentivos, ofrece un contrapeso a esta tendencia. En lugar de una carrera por la hegemonía de un único modelo, el enfoque de Jordan promueve la diversidad de mercados colectivos, cada uno con sus propias reglas y valores. Esta visión se alinea de manera sorprendente con las directrices regulatorias emergentes, como la Ley de Mercados Digitales (DMA) de la Unión Europea. La DMA no busca prohibir a los grandes actores, sino regular su comportamiento para promover la "competibilidad" y la "equidad". Prohibiciones como la de la autocomercialización y requisitos como la interoperabilidad obligatoria son, en esencia, intervenciones de diseño de mercado diseñadas para romper las barreras de entrada y permitir que nuevos jugadores compitan en un terreno más llano. La teoría de contratos estadísticos de Jordan, por ejemplo, podría ofrecer una base metodológica para diseñar estas regulaciones, garantizando que los reguladores puedan evaluar la fiabilidad de los productos de las empresas sin ser engañados por sus propios datos estratégicos.

El enfoque colectivista también proporciona un marco metodológico para responder a las críticas dirigidas al movimiento "IA para el Bien Social" (AI4SG). Este movimiento, a menudo impulsado por las grandes corporaciones tecnológicas, ha sido criticado como una forma de "tecnosolucionismo" que legitima la influencia corporativa sobre el desarrollo y oculta prácticas problemáticas de recolección de datos. La crítica principal es que la AI4SG a menudo se centra en aplicaciones puntuales y altruistas (como diagnósticos médicos o alertas de desastres) sin abordar los incentivos subyacentes que perpetúan la explotación de los datos de los usuarios. El enfoque de Jordan representa una respuesta metodológica a esta falla. En lugar de simplemente "aplicar IA para ayudar a los pobres", su enfoque busca cambiar los incentivos desde el diseño del sistema. La idea no es que una empresa filantrópica dé una solución gratuita, sino diseñar un mercado de datos de salud colectivista, como el propuesto por el marco CHDO, donde los pacientes, los proveedores y los investigadores tienen derechos y control definidos sobre los datos. La diferencia radica en pasar de la acción filantrópica a la creación de un marco institucional justo y sostenible, donde la equidad no es un beneficio colateral, sino una propiedad fundamental del diseño del sistema.

Sin embargo, la visión colectivista no está exenta de contradicciones, la más crítica de las cuales es el costo energético de la infraestructura de IA. Mientras que los modelos de mercado de Jordan buscan un uso más eficiente y equitativo de los datos, la energía sigue siendo un recurso físico finito y su extracción y consumo tienen un impacto ambiental devastador. La proliferación de data centers, alimentada por la demanda de IA, está provocando un aumento masivo en el consumo de electricidad, con estimaciones que sugieren que los centros de datos podrían consumir hasta el 8% de la electricidad total de EE. UU. para 2030. Un solo interrogante a ChatGPT consume aproximadamente diez veces más electricidad que una consulta a Google, y el entrenamiento de modelos como GPT-3 genera toneladas de emisiones de CO₂. Esta tensión entre el ideal de una IA colectivista y sostenible y la realidad de su huella de carbono es un desafío existencial que no puede ser ignorado.

Aquí es donde emerge una conexión fascinante con las energías renovables y los mercados de energía descentralizados. El problema de la energía es análogo al de los datos: es un recurso que necesita ser gestionado eficientemente a través de redes complejas. Los modelos de energía descentralizada, como las comunidades de prosumidores (personas que tanto producen como consumen energía, como con paneles solares), utilizan algoritmos y blockchain para gestionar el comercio P2P de electricidad localmente. En estos sistema, la IA no es un consumidor pasivo de energía, sino un componente activo y optimizador de una red eléctrica inteligente y autoorganizada. Proyectos como el Brooklyn Microgrid en Nueva York o el I-NERGY en Croacia demuestran cómo la tecnología puede habilitar a las comunidades para que gestionen su propia producción y consumo de energía de manera colectiva. Este es un área donde la visión colectivista de Jordan encuentra un terreno fértil para aplicarse, no solo a los datos, sino también a los recursos físicos. La IA puede ser utilizada para gestionar el equilibrio entre la oferta variable de la energía solar y la demanda de la comunidad, optimizando el uso de baterías y gestionando los flujos de energía entre los vecinos. Este enfoque transforma la IA de una fuerza puramente extractiva a una herramienta de gestión colectiva de un recurso vital, ofreciendo un camino hacia una civilización de IA y energía verdaderamente sostenibles. La viabilidad a largo plazo de cualquier sistema de IA, colectivista o no, depende intrínsecamente de una transición energética radical, y es en la convergencia de estos dos campos donde podrían surgir las soluciones más potentes.

La necesidad de un "Reino Medio" en la educación y la investigación

No obstante, esta ambiciosa visión de un "Reino Medio" no está exenta de desafíos pragmáticos. La propuesta de Jordan, aunque teóricamente elegante, opera en gran medida a un nivel de abstracción que elude las fricciones del mundo real. La complejidad de diseñar, implementar y, sobre todo, gobernar estos mercados colectivistas a escala global es monumental. La teoría asume un alto grado de racionalidad y la capacidad de codificar matemáticamente incentivos sociales increíblemente complejos, una tarea que puede subestimar la naturaleza irracional y a menudo contradictoria del comportamiento humano. Además, al centrarse tanto en la arquitectura del mercado, el trabajo roza peligrosamente el determinismo económico, dejando menos exploradas las influencias culturales, éticas y políticas que no pueden ser fácilmente cuantificadas o resueltas mediante un contrato estadístico. Queda por ver si estos mercados inteligentes no se convertirán simplemente en una forma más sofisticada de tecno-solucionismo, reemplazando la opacidad de los algoritmos de caja negra por la opacidad de mecanismos económicos incomprensibles para el ciudadano común.

En conclusión, el trabajo de Michael I. Jordan sobre un enfoque colectivista y económico para la inteligencia artificial es una sugerencia metodológica de alto perfil, que representa una llamada urgente a la madurez de la disciplina. Propone una metamorfosis completa de la IA, pasando de ser una subdisciplina de la informática centrada en algoritmos a convertirse en una ingeniería de sistemas socio-técnicos complejos. Esta transición requiere una reorientación fundamental tanto en la investigación como en la educación, abogando por la creación de un "Reino Medio", una disciplina de ingeniería integrada que fusiona la computación, la inferencia y la economía, para abordar los desafíos sistémicos que enfrentamos. La relevancia de este trabajo es, por tanto, de una magnitud extraordinaria, ya que define el camino hacia una IA que sea no solo más potente, sino también más fiable, justa y alineada con los valores humanos.

El insight más transformador del paper de Jordan es la metamorfosis de la metáfora. Al cambiar el paradigma de "IA como cerebro artificial" a "IA como mercado colectivista", abre un universo de posibilidades para el diseño de sistemas. Abandona la búsqueda obsesiva de una AGI singular y omnipotente, un objetivo que, según él, es técnico, social y éticamente problemático. En su lugar, enfoca la atención en cómo la IA puede facilitar y mejorar la coordinación dentro de redes heterogéneas de agentes con intereses diversos. Esto abre la puerta a la construcción de sistemas resilientes, adaptativos y justos, como los mercados de datos tricapa o los mercados de música trifásicos, que gestionan la incertidumbre estratégica y alinean los incentivos de manera natural. Este cambio de enfoque es crucial porque reconoce que muchas de las mejores soluciones a los problemas humanos provienen de la colaboración y la organización colectiva, no de la genialidad individual.

Subyacente a esta nueva visión está la tesis de que la brecha disciplinaria es la raíz del problema. Jordan argumenta convincentemente que la fragilidad y los fallos sistémicos de la IA actual se deben a la falta de una disciplina de ingeniería verdaderamente integrada. La investigación actual está fragmentada, con equipos de computación, estadísticos y economistas trabajando en silos, lo que lleva a sistemas que pueden ser estadísticamente precisos pero socialmente insensibles. La creación de ese "Reino Medio" es, por lo tanto, la tarea prioritaria para la próxima década. Se necesitarán nuevos programas de estudio que enseñen a los futuros ingenieros a pensar simultáneamente en términos de algoritmos, incertidumbre y contratos. Iniciativas como la cátedra "Markets and Machine Learning" en Paris, liderada por Jordan, son un paso en esta dirección, buscando unir la academia y la industria para abordar problemas reales. Sin esta integración, la IA seguirá siendo una tecnología "a medio cocer", apta para tareas especializadas pero vulnerable a la manipulación, injusta en sus resultados y potencialmente perjudicial en su impacto social.

Finalmente, el trabajo de Jordan nos invita a repensar el rol de la IA en la sociedad. Lejos de ser una amenaza que debe ser contenida o una panacea que debe ser impuesta, el enfoque colectivista la posiciona como una herramienta fundamental para la construcción de marcos institucionales justos. La IA no es el fin, sino el medio para diseñar mejores sistemas de mercado, mejores sistemas de salud y mejores sistemas de gobierno. La diferencia con enfoques anteriores es radical: en lugar de preguntarnos "¿cómo podemos usar la IA para automatizar X?", ahora debemos preguntarnos "¿cómo podemos diseñar un sistema colectivo para X que utilice la IA de manera inteligente?". Este cambio de enfoque es lo que otorga a su trabajo su profundo carácter visionario. Ofrece un camino para que la IA no solo aumente nuestra productividad, sino que también nos ayude a construir una sociedad más equitativa y sostenible. La herencia intelectual de Jordan no será solo un conjunto de algoritmos más inteligentes, sino una nueva forma de pensar sobre la tecnología y su lugar en nuestro mundo.

Referencias

Jordan, Michael I. "A Collectivist, Economic Perspective on AI." arXiv preprint arXiv:2507.06268 (2025).