Por qué los cerebros digitales fallan en problemas infantiles

Alicia tiene cuatro hermanas y un hermano. ¿Cuántas hermanas tiene el hermano de Alicia? Para cualquier niño de primaria, la respuesta es una obviedad inmediata: cinco. Sin embargo, al plantear este acertijo a los sistemas más sofisticados del planeta, aquellos capaces de aprobar exámenes de abogacía o diagnosticar enfermedades raras, la respuesta suele ser un asombroso y seguro: cuatro. Este fenómeno, documentado por investigadores de Caltech y la Universidad de Stanford, no es una anécdota aislada, sino el síntoma de una patología profunda en la arquitectura de lo que hoy denominamos inteligencia.

La elocuencia ha sido el gran caballo de Troya de la tecnología moderna. Al interactuar con estos agentes lingüísticos, su fluidez nos seduce hasta hacernos creer que existe un proceso deliberativo similar al humano detrás de cada palabra. Pero un nuevo y exhaustivo mapa de fallos revela que estamos ante un espejo deformante. Estos sistemas operan sobre una base de predicción estadística tan avanzada que imita la razón, pero cuando la estructura lógica se aleja un ápice de los patrones habituales de entrenamiento, el castillo de naipes se derrumba. Es lo que los científicos han empezado a llamar el colapso de la composición.

El reciente análisis sistemático presentado por académicos como Peiyang Song y Noah Goodman expone una taxonomía de fracasos que van desde lo trivial hasta lo existencial para la industria. No se trata simplemente de falta de datos o de potencia de cálculo; se trata de debilidades intrínsecas en la forma en que estas redes neuronales procesan la información. Al dividir estos errores en categorías fundamentales, específicas y de robustez, el estudio nos obliga a replantearnos si realmente estamos construyendo mentes o simplemente loros estocásticos de una escala sin precedentes.

La paradoja del genio que olvida sus propias premisas

Uno de los hallazgos más inquietantes es la debilidad en las llamadas funciones ejecutivas. En los seres humanos, la memoria de trabajo nos permite retener y manipular información durante periodos cortos para resolver problemas complejos. Los modelos actuales, a pesar de sus inmensas ventanas de contexto, sufren de lo que se denomina interferencia proactiva. La información previa degrada la capacidad de asimilar datos nuevos, provocando que el sistema se aferre a patrones antiguos incluso cuando las reglas del juego han cambiado drásticamente. Un ejemplo recurrente es el error A-no-B, donde el modelo persiste en dar una respuesta que fue correcta en un contexto anterior pero que ya no lo es en la situación presente.

La flexibilidad cognitiva es otra asignatura pendiente. Cuando se les somete a pruebas clásicas de psicología, como el Test de Clasificación de Tarjetas de Wisconsin, estos agentes muestran una rigidez asombrosa. Si aprenden a clasificar por color y de repente la regla cambia a forma, su precisión cae en picado. No logran inhibir la respuesta impulsiva basada en el hábito estadístico. Esta incapacidad para el cambio de paradigma sugiere que no existe una comprensión de la regla en sí, sino una adherencia ciega a la probabilidad de la secuencia observada billones de veces durante su entrenamiento.

Bajo esta misma luz aparece el sesgo de confirmación algorítmico. Al igual que los humanos, estos sistemas tienden a favorecer hipótesis iniciales y buscar evidencias que las respalden, ignorando alternativas plausibles. Si se les pide que prueben una regla numérica, generarán ejemplos que la confirmen en lugar de intentar refutarla. Esta tendencia se ve amplificada por el diseño de las arquitecturas de atención, que dispersan el foco en tareas complejas, perdiendo el hilo conductor de la lógica pura en favor de la sonoridad del lenguaje. Es, en esencia, una memoria prodigiosa disfrazada de entendimiento analítico.

El laberinto de la deducción y los muros del lenguaje

Este problema se extiende al razonamiento compositivo, la capacidad de unir piezas de conocimiento para llegar a una conclusión nueva. Los modelos actuales pueden conocer el hecho X y el hecho Y por separado, pero fracasan sistemáticamente al intentar integrarlos en una deducción de dos pasos. A medida que aumenta la profundidad de la composición o se añaden elementos distractores, la precisión se desploma. Es como tener un bibliotecario que recuerda cada página de cada libro pero es incapaz de conectar una idea del tomo uno con una consecuencia en el tomo dos, un fallo que invalida su uso en investigaciones científicas profundas.

Incluso las matemáticas revelan grietas profundas. El conteo básico de caracteres o palabras sigue siendo un desafío humillante para sistemas que pueden resolver ecuaciones diferenciales. Esto se debe a que el modelo no cuenta del mismo modo que nosotros. Al fragmentar las palabras en tokens, pierde la noción de la letra individual. Es una inconsistencia que se manifiesta incluso en los modelos especializados en razonamiento, los cuales pueden fallar en tareas aritméticas simples como determinar cuántas veces aparece una letra específica en una cadena de texto aparentemente sencilla.

La aritmética elemental no escapa a esta fragilidad. A medida que el número de dígitos aumenta, los modelos dejan de calcular para empezar a estimar. Dependen de atajos heurísticos y de la coincidencia de patrones superficiales. Investigaciones demuestran que tienen más éxito identificando el primer dígito de un resultado que el último, una inconsistencia que sería imposible para cualquier algoritmo de cálculo tradicional. No están operando con algoritmos matemáticos internos, sino con una mímica de los resultados que han visto anteriormente en su inmenso océano de datos.

Una mente sin cuerpo ante el desafío del mundo físico

Quizás la limitación más profunda sea la falta de anclaje en la realidad física. El razonamiento encarnado es aquel que surge de interactuar con el mundo: saber que una taza se rompe si cae, que el fuego quema o que un objeto grande no cabe en una caja pequeña. Los modelos actuales son mentes en un vacío, cerebros en una cubeta de datos que jamás han experimentado la gravedad o la resistencia de los materiales. Esta carencia se traduce en predicciones imposibles y planes de acción absurdos cuando se les pide que operen en entornos tridimensionales complejos.

En el ámbito de la visión, los modelos actuales muestran una vulnerabilidad similar. Aunque pueden describir una imagen con gran detalle, a menudo fallan en detectar anomalías físicas evidentes, como sombras que caen en direcciones opuestas o personas patinando sobre suelos de madera como si fuera hielo. Sufren de lo que en ciencia cognitiva se conoce como el problema de vinculación, la incapacidad de procesar múltiples objetos distintos y sus relaciones espaciales de forma simultánea. Ven las partes, pero no comprenden el todo dinámico que rige nuestra realidad cotidiana.

A medida que nos adentramos en una era donde estos sistemas gestionarán infraestructuras críticas, comprender estas fallas se vuelve una prioridad de seguridad global. La propuesta de los investigadores no es el pesimismo, sino la transparencia necesaria para construir herramientas seguras. Solo reconociendo que estamos ante dispositivos de una potencia lingüística inmensa pero de una fragilidad lógica persistente, podremos diseñar las salvaguardas adecuadas. El objetivo no es que los sistemas dejen de fallar, sino que sus fallos sean predecibles, transparentes y, sobre todo, recuperables ante la intervención humana.