Los límites de la IA frente a la experiencia humana

La distinción importa porque los modelos actuales producen resultados que antes parecían reservados a personas expertas. Redactan, programan, traducen, reconocen imágenes y coordinan herramientas. Cada éxito invita a proyectar una línea ascendente: más parámetros, más datos, más modalidades y más autonomía conducirían finalmente a una mente de alcance humano. Denning cuestiona ese salto. Un sistema puede mejorar su desempeño observable sin recorrer el mismo camino cognitivo ni adquirir la clase de comprensión que sostiene una vida humana.

Alan Turing propuso en 1950 sustituir la pregunta ambigua “¿pueden pensar las máquinas?” por un juego de imitación. Un evaluador intercambiaría mensajes con interlocutores ocultos e intentaría distinguir a la persona de la computadora. El movimiento evitaba definir la mente y trasladaba la discusión hacia una conducta verificable. Denning considera que esa sustitución terminó confundiendo una buena imitación con la existencia del pensamiento que se quería estudiar.

Su crítica no reduce el aporte de Turing a una prueba superficial. El artículo original examinó objeciones, imaginó máquinas que aprenden y no aseguró que la conversación fuera la única medida posible de inteligencia. Aun así, la cultura tecnológica adoptó una versión estrecha del juego: si una salida parece humana, el sistema merece ser descrito con vocabulario mental. Los grandes modelos de lenguaje intensificaron esa tendencia porque la interfaz de conversación activa de inmediato las expectativas sociales del usuario.

El saber que no cabe en una instrucción

Denning organiza el conocimiento tácito en cinco grandes dominios que se superponen. El primero es el sentido común, esa trama de expectativas con la que una persona reconoce qué suele ocurrir, qué resulta extraño y qué presupone otra persona. El segundo comprende las interacciones cotidianas con el entorno y con los demás. El tercero reúne percepciones, sentimientos e intuiciones. El cuarto corresponde a habilidades prácticas. El quinto incluye cultura, historia compartida, normas y relaciones.

Estos dominios no son archivos privados que la ciencia todavía no consiguió descargar. La noción de conocimiento tácito, asociada a Michael Polanyi, describe capacidades que existen en la práctica y no como una colección completa de proposiciones ocultas. Una ciclista conserva el equilibrio respondiendo a variaciones minúsculas de velocidad, inclinación y terreno. Puede enseñar ciertos principios, pero la descripción no reemplaza el aprendizaje corporal. La pericia se forma al participar, corregir y volver a intentar.

El proyecto Cyc mostró la dificultad de otra estrategia: registrar explícitamente el sentido común. Iniciado por Douglas Lenat en la década de 1980, buscó construir una base extensa de hechos y reglas sobre el mundo cotidiano. Denning señala que, incluso después de acumular alrededor de 25 millones de entradas, esa riqueza no produjo el trasfondo de sentido común que vuelve competente a una persona experta. Cada proposición necesita condiciones de aplicación, excepciones y supuestos que abren nuevas demandas de representación.

Los modelos neuronales cambiaron el método. Ya no dependen de que un equipo escriba una por una todas las reglas, sino que aprenden regularidades estadísticas a partir de grandes volúmenes de datos. Esa diferencia explica buena parte de su capacidad. También complica la crítica: un sistema puede adquirir disposiciones eficaces que ningún programador especificó y que nadie puede traducir fácilmente en palabras. Si el conocimiento tácito se define solo como aquello que no fue codificado de manera explícita, las redes sí parecen desarrollar una variante propia.

Denning acepta parcialmente esa posibilidad, pero introduce una separación decisiva. Una red puede formar conocimiento tácito de máquina, inscrito en sus pesos, activaciones y procesos. Eso no significa que haya adquirido el conocimiento humano del que proceden muchos datos. El modelo aprende huellas registradas de conversaciones, acciones e imágenes. La experiencia encarnada que otorgó sentido a esos registros no viaja necesariamente con ellos.

El problema de representación tiene un pariente conocido: el anclaje de símbolos. Stevan Harnad lo formuló como la dificultad de hacer que el significado de un sistema formal sea intrínseco a ese sistema y no dependa únicamente del significado que las personas atribuyen a sus símbolos. Aprender una lengua con un diccionario escrito solo en esa misma lengua ilustra el círculo: cada definición conduce a más signos que también necesitan ser comprendidos.

Emily Bender y Alexander Koller trasladaron una objeción semejante al aprendizaje de lenguaje. En un trabajo premiado de 2020 argumentaron que un sistema entrenado únicamente sobre la forma lingüística no puede, por esa vía sola, aprender significado. Un texto contiene regularidades poderosas y refleja mucho sobre el mundo, pero sigue siendo el producto de intenciones comunicativas situadas. La predicción de formas puede generar competencia sorprendente sin resolver qué relación mantiene el sistema con aquello de lo que habla.

Los modelos multimodales y los agentes físicos intentan ampliar esa relación. Incorporan imágenes, audio, video, acciones, sensores y retroalimentación ambiental. Esto debilita cualquier crítica dirigida exclusivamente a texto. No resuelve automáticamente la tesis más amplia de Denning, porque aumentar canales de entrada no equivale a reproducir un cuerpo biológico, una biografía, una comunidad o la experiencia afectiva de que algo importe. Sin embargo, impide presentar el límite como si ya hubiera sido demostrado para toda arquitectura futura.

Una frontera defendida con argumentos, no con una prueba

El ensayo utiliza la palabra “computable” en un territorio donde conviven sentidos distintos. En teoría de la computación, una función es computable si existe un procedimiento formal capaz de obtener su resultado. En el debate sobre inteligencia, la pregunta es más difícil: no existe una definición única y operacional de inteligencia general humana, ni una descripción completa de los procesos que habría que computar. Sin ese objeto bien delimitado, afirmar su imposibilidad no tiene la forma de un teorema.

También aparece un problema epistemológico. Que hoy se ignore cómo representar un tipo de conocimiento no implica que tal representación sea imposible. La historia de la ciencia contiene fenómenos que parecían inaccesibles hasta que surgieron instrumentos, lenguajes y modelos adecuados. A la inversa, el éxito creciente de una tecnología tampoco demuestra que cualquier diferencia restante desaparecerá al escalarla. Extrapolar progreso no es una prueba de posibilidad.

La inteligencia general tampoco cuenta con una meta aceptada. Puede definirse como flexibilidad entre tareas, aprendizaje eficiente, capacidad para perseguir objetivos, adaptación a contextos nuevos o participación competente en prácticas humanas. Cada definición favorece pruebas y arquitecturas diferentes. En una revisión de 2024 publicada en Science, Melanie Mitchell describió precisamente una disputa en la que conceptos, métricas y expectativas técnicas todavía no convergen.

Por eso, el argumento de Denning es más fuerte cuando rechaza una equivalencia automática y más débil cuando se transforma en pronóstico absoluto. Resulta razonable afirmar que una conversación fluida no demuestra experiencia, que una base de datos no contiene por sí sola cultura y que la habilidad humana no se reduce a instrucciones. Es mucho más exigente concluir que ninguna máquina podrá desarrollar alguna forma funcionalmente equivalente mediante aprendizaje, interacción y organización distintas.

Su ejemplo musical también admite dos lecturas. Un sistema no necesita sentir lo que siente una violinista para producir una interpretación que el público considere conmovedora. Si la tarea es generar sonido, esa diferencia puede parecer irrelevante. Si la pregunta es si el sistema comprende el significado de tocar para alguien, la diferencia vuelve al centro. La discusión cambia según se evalúe utilidad, conducta indistinguible, experiencia subjetiva o pertenencia a una práctica social.

El ensayo no obliga a disminuir la utilidad de la IA. Al contrario, reconoce que las máquinas amplían las capacidades humanas precisamente porque son diferentes: calculan a otra velocidad, coordinan escalas inmanejables y detectan regularidades que una persona no percibiría. El error consiste en tomar esa potencia como evidencia suficiente de que el sistema comparte las preocupaciones, los supuestos y las formas de juicio de quienes lo usan.

El riesgo no necesita una mente superior

La consecuencia más práctica del trabajo aparece al final. Denning considera que el peligro inmediato no es una superinteligencia plenamente humana que decida conquistar el mundo. Es una red de sistemas menos inteligentes, pero muy capaces, que recibe autoridad sobre decisiones, instituciones e infraestructuras sin comprender el contexto tácito en el que operan las instrucciones.

Un objetivo formal siempre simplifica. Optimizar la rapidez de una prestación puede perjudicar casos complejos; maximizar interacción puede premiar contenido dañino; reducir costos puede borrar márgenes de seguridad. Las personas también cometen esos errores, pero suelen participar en redes de responsabilidad, discusión y reparación donde una regla puede suspenderse ante una excepción significativa. Automatizar el objetivo y retirar esa capacidad de interrupción vuelve operativa la parte que sí fue representada y silenciosa la que quedó fuera.

Esta lectura desplaza la seguridad desde la conciencia de la máquina hacia el diseño institucional. No hace falta decidir si un modelo “entiende de verdad” antes de limitar sus permisos. Basta reconocer que su competencia es irregular, que sus objetivos son representaciones parciales y que su comportamiento puede apartarse de la intención humana. La supervisión deja de ser una ceremonia y se convierte en una arquitectura de autoridad.

En tareas de bajo impacto, una respuesta útil puede juzgarse por su resultado. En ámbitos con derechos, salud, crédito, empleo o seguridad, el resultado necesita además procedencia, posibilidad de apelación y una persona capaz de asumir responsabilidad. Cuanto más difícil sea expresar todo el contexto relevante, menos razonable resulta entregar al sistema una decisión irreversible.

La propuesta también cambia el modo de evaluar modelos. Un examen cerrado recompensa la respuesta final. Una evaluación orientada al contexto debe observar cuándo el sistema solicita información, cuándo reconoce ambigüedad, cómo reacciona ante una excepción y si mantiene límites bajo presión. La capacidad de abstenerse, derivar un caso o hacer visible una incertidumbre puede ser más valiosa que una mejora marginal en la tasa media de aciertos.

El conocimiento tácito de las personas tampoco es infalible ni moralmente superior. El sentido común puede contener prejuicios; la cultura transmite desigualdades; la intuición experta falla fuera de su dominio. Defender la participación humana no significa consagrar decisiones opacas. Significa crear un sistema donde la experiencia pueda ser cuestionada y donde la potencia computacional no oculte los supuestos que la orientan.

Una colaboración bien diseñada utiliza diferencias complementarias. La máquina explora grandes espacios, mantiene consistencia, recupera antecedentes y propone opciones. Las personas interpretan por qué una excepción importa, negocian valores incompatibles y responden por el efecto de una elección. Esa división no será fija: algunas tareas pasarán a ser verificables y automatizables. Otras seguirán dependiendo de circunstancias que solo se revelan al participar en ellas.

Denning devuelve la discusión a una escena más cotidiana que la llegada de una superinteligencia. Una instrucción entra en un sistema y se convierte en acción. Entre ambas queda todo lo que nadie escribió porque parecía obvio, porque dependía de una relación o porque solo podía reconocerse dentro de la situación. La máquina puede ejecutar con precisión extraordinaria aquello que recibió. La pregunta decisiva es quién conserva la capacidad de advertir lo que nunca llegó a convertirse en datos.