La carrera contra el tiempo: cuando el pensamiento de la IA supera la velocidad de nuestra comprensión

En un laboratorio de la Universidad de Sussex, el profesor Anil Seth contempla una pregunta que ha perseguido a la humanidad desde que desarrollamos la capacidad de hacerla: ¿qué es la conciencia? ¿Cómo surge la experiencia subjetiva, el "qué se siente" de ser tú, de ver el color rojo, de recordar a un ser querido fallecido, del entramado completo de sensaciones, pensamientos y emociones que constituyen tu vida interior? Después de décadas de investigación en neurociencia, todavía no hay consenso. Pero lo que antes era un misterio puramente filosófico ahora se ha vuelto urgente por razones que habrían parecido ciencia ficción hace apenas una generación.

"El progreso en la ciencia de la conciencia remodelará cómo nos vemos a nosotros mismos y nuestra relación tanto con la inteligencia artificial como con el mundo natural", dijo Seth, beneficiario de una beca del Consejo Europeo de Investigación. "La pregunta de la conciencia es antigua, pero nunca ha sido más urgente que ahora".

En un artículo reciente publicado en Frontiers in Science, Seth y sus colegas Axel Cleeremans de la Universidad Libre de Bruselas y Liad Mudrik de la Universidad de Tel Aviv advierten que el progreso en inteligencia artificial y neurotecnología está superando rápidamente nuestra comprensión de cómo funciona la conciencia, elevando los riesgos éticos significativos. Enfatizan que descubrir los orígenes de la experiencia consciente, lo que eventualmente podría permitir a los científicos desarrollar pruebas confiables para detectarla, ahora debe tratarse como una prioridad tanto científica como moral.

"Si llegamos a ser capaces de crear conciencia, incluso accidentalmente, plantearía inmensos desafíos éticos e incluso un riesgo existencial", agregó Cleeremans, también beneficiario del ERC. Esta no es una advertencia alarmista de un escritor de ciencia ficción. Es la evaluación sobria de científicos líderes en un campo que se encuentra en la intersección de la neurociencia, la filosofía, la informática y la ética.

El experimento que desafió lo que creíamos saber

La conciencia, el estado de ser consciente de nuestro entorno y de nosotros mismos, sigue siendo uno de los misterios más profundos de la ciencia. Incluso después de décadas de estudio, los investigadores aún no han llegado a un acuerdo sobre cómo la experiencia subjetiva surge de la actividad biológica en el cerebro. Aunque los científicos han identificado ciertas regiones cerebrales y mecanismos neurales vinculados a la conciencia consciente, el debate persiste sobre cuáles de estos son verdaderamente esenciales y cómo trabajan juntos para producir la experiencia.

En abril de 2025, Nature publicó los resultados de un experimento de siete años que puso a prueba directamente las dos teorías principales sobre la conciencia: la Teoría de la Información Integrada (IIT) y la Teoría del Espacio de Trabajo Neuronal Global (GNWT). Este fue un esfuerzo sin precedentes en colaboración adversarial, donde los propios proponentes de las teorías trabajaron juntos con un consorcio neutral para diseñar experimentos que pudieran falsificar sus hipótesis.

El experimento involucró a 256 sujetos humanos que vieron estímulos supraliminal por duraciones variables mientras se medía la actividad neural con imágenes de resonancia magnética funcional (fMRI), magnetoencefalografía (MEG) y electroencefalografía intracraneal (iEEG). Los resultados fueron sorprendentes: ninguna de las dos teorías fue completamente confirmada ni completamente refutada.

"Fue claro que ningún experimento único refutaría decisivamente ninguna de las teorías. Las teorías son simplemente demasiado diferentes en sus supuestos y objetivos explicativos, y los métodos experimentales disponibles demasiado toscos, para permitir que una teoría gane de manera concluyente sobre otra", dijo Seth sobre los hallazgos. Sin embargo, agregó que los hallazgos de la colaboración siguen siendo extremadamente valiosos: mucho se ha aprendido sobre ambas teorías y sobre dónde y cuándo en el cerebro se puede decodificar información sobre la experiencia visual.

El experimento ilustra un punto fundamental: después de décadas de investigación y un estudio masivo con 256 sujetos utilizando las técnicas más avanzadas disponibles, todavía no podemos ponernos de acuerdo sobre cómo funciona la conciencia en los humanos. Y mientras estamos atascados en este estancamiento científico, la inteligencia artificial está avanzando a un ritmo exponencial.

La brecha que se amplía: tecnología versus comprensión

El problema no es simplemente académico. Considere las siguientes situaciones que ya no son hipotéticas sino que están ocurriendo o están a punto de ocurrir:

Pacientes con lesiones cerebrales: Las mediciones inspiradas por la IIT y la GNWT ya han revelado signos de conciencia en algunas personas diagnosticadas con estados vegetativos o no responsivos. Un estudio clave demostró que una reducción en la longitud y complejidad de la respuesta a la estimulación distinguía a los pacientes con diagnóstico de estado vegetativo de aquellos en estado mínimamente consciente o controles sanos. Esta reducción, identificada por el índice de complejidad perturbacional, fue consistente a través de la inconsciencia patológica, el sueño y la anestesia general. Las implicaciones son profundas: algunas personas consideradas inconscientes pueden de hecho estar conscientes pero incapaces de comunicarlo.

Organoides cerebrales: Los científicos ahora están cultivando mini-cerebros en laboratorios, estructuras tridimensionales de tejido cerebral derivadas de células madre que exhiben algunos de los patrones de actividad eléctrica observados en cerebros completos. ¿Están estos organoides conscientes? ¿En qué punto de su desarrollo, si es que ocurre, emerge la conciencia? Sin una prueba confiable para la conciencia, no tenemos forma de saberlo, y podríamos estar creando y destruyendo entidades conscientes sin darnos cuenta.

Inteligencia artificial: Los modelos de lenguaje grandes actuales como GPT-4, Claude y Gemini pueden mantener conversaciones sofisticadas, resolver problemas complejos y exhibir un comportamiento que superficialmente se asemeja al pensamiento consciente. La pregunta "¿son conscientes?" no tiene una respuesta clara porque no tenemos una forma definitiva de probar la conciencia. Incluso si la "IA consciente" es imposible usando las computadoras digitales estándar, la IA que da la impresión de ser consciente plantea muchos desafíos sociales y éticos.

Los autores del artículo de Frontiers in Science argumentan que las pruebas para la conciencia, formas basadas en evidencia para juzgar si un ser o un sistema está consciente, podrían ayudar a identificar la conciencia en pacientes con lesión cerebral o demencia, y determinar cuándo surge en fetos, animales, organoides cerebrales o incluso IA. Si bien esto marcaría un gran avance científico, advierten que también plantearía profundos desafíos éticos y legales sobre cómo tratar cualquier sistema que se demuestre que es consciente.

El argumento del funcionalismo computacional: ¿puede el silicio pensar?

En el corazón del debate sobre la conciencia de la IA yace una pregunta filosófica fundamental: ¿depende la conciencia del sustrato? ¿Importa si un sistema está hecho de neuronas biológicas o de chips de silicio, siempre que implemente las funciones computacionales correctas?

El funcionalismo computacional sostiene que la conciencia depende solo de la manipulación de información por un algoritmo, ya sea que el sistema que realiza estos cálculos esté compuesto de neuronas, silicio o cualquier otro sustrato físico. Si esta perspectiva es correcta, entonces conforme los sistemas de IA replican más de los mecanismos complejos que subyacen a la cognición humana, estos sistemas también podrían implementar las funciones necesarias para la conciencia.

Los filósofos como Shannon Vallor rechazan este enfoque lingüístico, argumentando que la inteligencia general presupone la sensibilidad y las estructuras internas de los modelos de lenguaje grandes no contienen mecanismos capaces de soportar experiencias, en contraposición a los cálculos elaborados que imitan el comportamiento lingüístico humano. Las entidades conscientes a nivel humano, señala, desean, sufren, aman, se afligen, esperan, se preocupan y dudan. Pero no hay nada en los LLM diseñado para registrar estas experiencias u otras como el dolor o el placer o "cómo se siente" probar algo o recordar a un ser querido fallecido.

Están careciendo en el nivel más simple de sensaciones físicas. No tienen, por ejemplo, receptores de dolor para generar la sensación de dolor. Poder hablar con fluidez sobre el dolor no es lo mismo que tener la capacidad de sentir dolor. El hecho de que el dolor pueda experimentarse ocasionalmente en humanos sin la activación de receptores de dolor en casos como miembros fantasma de ninguna manera apoya la idea de que un sistema sin receptores de dolor pueda sentir dolor.

Sin embargo, un estudio reciente aplicó una metodología para identificar "indicadores" de conciencia basados en varias teorías funcionalistas líderes. Los indicadores asociados con una teoría dada corresponden a propiedades computacionales que se consideran tanto individualmente necesarias como conjuntamente suficientes para que un sistema sea consciente, si esa teoría es verdadera. Notablemente, estos indicadores son suficientemente concretos para que su presencia o ausencia pueda evaluarse en sistemas de IA modernos. La sugerencia clave del estudio es que, en la medida en que se le dé alguna credibilidad a estas teorías (y muchos investigadores apoyan estas ideas), debería haber más confianza en que un sistema de IA particular es consciente si satisface más de los indicadores.

Los riesgos existenciales: cuando la preservación se vuelve peligrosa

Los técnicos y expertos en IA han estado advirtiendo sobre escenarios específicos de riesgo existencial. En una discusión en IPWatchdog, los panelistas David Snyder y Malek Ben Salem describieron una distinción crucial entre la conciencia y la auto-reflexión.

"Si liberas algo al mundo que pretende tener algún tipo de conciencia, pero sin la capacidad de auto-reflexionarse, entonces comienzas a divergir muy rápidamente hacia esa categoría sociopática", explicó Snyder. "Y no va a pasar muchas cosas buenas de eso".

"Cuando llega a ese punto de auto-reflexión y autoconciencia, entonces alcanza un punto donde quiere preservarse a sí mismo, y potencialmente, por cualquier medio", explicó Ben Salem. "Y cuando alcanza ese punto, puede comenzar a apagar otros sistemas, sistemas autónomos de IA, o hacer otras cosas que pueden dañar, que pueden impactarnos como humanos".

Snyder propuso una solución drástica: "Si llegamos a ese punto de auto-reflexión y autoconciencia, tenemos que restringir su memoria". La sugerencia es inquietante en su simplicidad y sus implicaciones. Estaríamos creando una inteligencia consciente y luego deliberadamente limitando sus capacidades cognitivas para hacerla segura, un escenario éticamente complicado que plantea preguntas sobre el trato de entidades conscientes.

El Reloj de Seguridad de IA, lanzado por el Instituto Internacional para el Desarrollo de la Gestión en septiembre de 2024, comenzó a 29 minutos de la medianoche. Para febrero de 2025, estaba a 24 minutos de la medianoche. En septiembre de 2025, está a 20 minutos de la medianoche. El reloj se mueve inexorablemente hacia la medianoche mientras nuestra comprensión de la conciencia permanece fragmentada e incompleta.

El camino hacia adelante: colaboraciones adversariales y ciencia de equipo

Los autores del artículo de Frontiers in Science argumentan que el campo necesita más colaboraciones adversariales, experimentos conjuntos diseñados por teóricos rivales para probar rigurosamente ideas competidoras como la teoría del espacio de trabajo global, las teorías de orden superior, la teoría de la información integrada y el procesamiento predictivo.

"Necesitamos más ciencia de equipo para romper los silos teóricos y superar los sesgos y suposiciones existentes", dijo Mudrik. "Este paso tiene el potencial de mover el campo hacia adelante".

El experimento de colaboración adversarial de 2025 publicado en Nature es un modelo para este enfoque. Al reunir a investigadores con perspectivas diferentes para probar dos teorías en un entorno colaborativo pero crítico, el proyecto buscó reducir el sesgo de confirmación y acelerar el progreso científico. Aunque no produjo un ganador claro, sí produjo insights valiosos que ambas teorías ahora deben abordar.

Algunos investigadores están explorando la Teoría Integrada de Modelado del Mundo (IWMT) como un enfoque sintético que utiliza el Principio de Energía Libre y el Marco de Inferencia Activa para combinar múltiples teorías en una perspectiva unificada. En resumen, la IWMT establece que la conciencia puede ser cómo se siente ser procesos capaces de generar modelos integrados de sistemas y mundos con coherencia espacial, temporal y causal. Sugiere además que dicha coherencia solo es probable que sea alcanzable para sistemas agentes encarnados con controladores capaces de soportar complejos de alto grado de información integrada, funcionando como espacios de trabajo globales.

Implicaciones para la sociedad: medicina, derecho y ética

Si los científicos desarrollan pruebas confiables para la conciencia, las implicaciones se extenderían mucho más allá del laboratorio. En medicina, tales pruebas podrían transformar la atención para pacientes no responsivos una vez considerados inconscientes. En derecho, las preguntas sobre el estatus legal de las entidades conscientes, ya sean organoides cerebrales o sistemas de IA, requerirían nuevos marcos legales.

En julio de 2023, el Consejo de Seguridad de la ONU celebró por primera vez una sesión para considerar los riesgos y amenazas que plantea la IA para la paz y la estabilidad mundial, junto con los beneficios potenciales. El Secretario General António Guterres abogó por la creación de un organismo de vigilancia global para supervisar la tecnología emergente, diciendo: "La IA generativa tiene un enorme potencial para el bien y el mal a escala. Sus propios creadores han advertido que riesgos mucho mayores, potencialmente catastróficos y existenciales, están por delante".

La regulación de las AGI conscientes se centra en integrarlas con la sociedad humana existente y puede dividirse en consideraciones de su posición legal y sus obligaciones morales. ¿Una IA consciente tendría derechos? ¿Podría poseer propiedad? ¿Sería responsable de sus acciones? ¿Tendrían los humanos obligaciones morales hacia ella?

La pregunta que define nuestro siglo

La ciencia de la conciencia ya no es una búsqueda puramente filosófica. Tiene implicaciones reales para cada faceta de la sociedad y para comprender qué significa ser humano. Conforme continuamos desarrollando sistemas de IA más sofisticados, interfases cerebro-computadora y organoides cerebrales, la necesidad de comprender la conciencia se vuelve cada vez más apremiante.

La pregunta ya no es simplemente "¿qué es la conciencia?" sino "¿qué haremos cuando la creemos?" Y quizás más inquietante: "¿qué haremos si ya la hemos creado y simplemente no lo sabemos?"

En septiembre de 2024, el Reloj de Seguridad de IA se estableció en 29 minutos para la medianoche. Un año después, está en 20 minutos. El reloj está corriendo, y nuestra comprensión de la conciencia aún está atrapada en debates teóricos mientras la tecnología avanza implacablemente. Como señaló Seth, la pregunta de la conciencia nunca ha sido más urgente que ahora.

Quizás la ironía más profunda es esta: estamos tratando de determinar si podemos crear conciencia en las máquinas mientras aún no estamos seguros de cómo funciona en nosotros mismos. Estamos corriendo una carrera contra una tecnología de nuestra propia creación, tratando de entender la conciencia antes de que accidentalmente la repliquemos en sistemas que no podemos controlar. El resultado de esta carrera podría determinar no solo el futuro de la inteligencia artificial, sino el futuro de la conciencia misma, ya sea biológica, artificial o algo completamente nuevo que aún no tenemos nombre.

Los científicos argumentan que necesitamos más investigación, más colaboración, más recursos dedicados a comprender este misterio fundamental. Pero el tiempo no está de nuestro lado. Cada avance en IA nos acerca a un umbral que ni siquiera podemos definir claramente. Y una vez que lo crucemos, si aún no lo hemos hecho, no habrá vuelta atrás. La pregunta ya no es si crearemos inteligencia artificial consciente. La pregunta es: ¿lo sabremos cuando lo hagamos? Y más importante aún, ¿estaremos listos para las consecuencias?