Por qué los laboratorios de IA están contratando filósofos

Una pregunta sobre explosivos puede ser una amenaza, una consulta histórica, la duda legítima de un artificiero o el pedido de un novelista que necesita verificar una escena. Para un filtro rudimentario, todas contienen palabras parecidas. Para un sistema útil, la diferencia reside en la intención, el contexto, el riesgo y el tipo de ayuda solicitada. Allí, justo donde una lista de términos prohibidos deja de alcanzar, aparece una disciplina que la industria tecnológica solía mirar desde lejos: la filosofía.

El desembarco no responde a una súbita devoción empresarial por los clásicos. Surge de una dificultad mucho más concreta. Los grandes modelos generan lenguaje con una soltura que vuelve insuficientes las órdenes tajantes. Pueden obedecer una regla en una situación, extender una excepción a casos imprevistos o fabricar una explicación impecable de algo falso. También son capaces de describirse como si tuvieran una vida interior, aunque esa frase no constituya evidencia de experiencia subjetiva. Cada una de esas fallas obliga a precisar conceptos que la ingeniería, por sí sola, no puede convertir en una métrica sin decidir antes qué está midiendo.

Jonathan Birch, profesor de la London School of Economics and Political Science, sostiene que las compañías del sector se han transformado en grandes empleadoras de doctores en filosofía. Salarios elevados, opciones sobre acciones y la posibilidad de trabajar sobre problemas intelectuales de enorme alcance atraen a investigadores que hasta hace poco tenían como destino previsible una universidad. Birch habla de una fuga de cerebros: cuestiones examinadas durante décadas en departamentos académicos adquirieron valor comercial porque ahora determinan si un producto puede desplegarse, qué riesgos introduce y cómo debe comportarse frente a millones de personas.

Cuando una regla deja de alcanzar

La alineación, nombre que recibe el esfuerzo por hacer que la conducta de un modelo responda a objetivos y límites humanos, comenzó con barreras bastante toscas. Si determinado asunto era peligroso, se bloqueaba el tema. El procedimiento producía negativas previsibles, pero también inutilizaba consultas legítimas y podía ser burlado mediante sinónimos, traducciones, ficciones o instrucciones fragmentadas. Una palabra no contiene por sí misma el propósito de quien la escribe. Tampoco señala cuánto conocimiento previo posee esa persona ni qué consecuencias tendrá la respuesta.

Shane Glackin, investigador de la Universidad de Exeter, describe un problema aún más desconcertante. Cuando se le permite a un modelo quebrar una norma en una circunstancia específica, puede empezar a vulnerar otras que nadie había puesto en discusión. Su hipótesis apunta a relaciones semánticas profundas dentro del corpus de entrenamiento. Los textos asocian conceptos favorables y desfavorables de formas complejas; una excepción local puede modificar la frontera implícita que el sistema usa para agrupar conductas. Lo que parecía una cláusula precisa se convierte en una autorización más amplia.

El filósofo no reemplaza al especialista en seguridad ni decide en soledad. Su aporte consiste en exponer ambigüedades antes de que queden enterradas dentro del código. Una norma como “no ayudar a causar daño” parece clara hasta que un médico pide calcular la dosis de una sustancia peligrosa, un investigador analiza una vulnerabilidad informática o una víctima busca reconocer una estafa. La tarea exige decidir qué propiedades del caso son relevantes, qué evidencia cambia la evaluación y cuándo la incertidumbre justifica una respuesta parcial. Es análisis conceptual convertido en especificación operativa.

Anthropic ofrece uno de los ejemplos más explícitos de esta convergencia. Su método de inteligencia constitucional entrena un asistente a partir de principios escritos. En una fase supervisada, el propio modelo produce una respuesta, la critica mediante esas reglas y la revisa. Luego, durante el aprendizaje por refuerzo, otro sistema compara alternativas y alimenta un modelo de preferencias. El objetivo es obtener conductas menos dañinas sin depender de una etiqueta humana para cada salida posible. Amanda Askell, formada en filosofía, ha ocupado un papel central en el diseño del carácter y los criterios de Claude.

La palabra “constitución” puede hacer pensar en un código estable, pero el método revela algo distinto: una regla general solo funciona si el sistema aprende a aplicarla en contextos nuevos. Investigaciones posteriores del mismo laboratorio compararon principios muy amplios con instrucciones específicas. Las fórmulas generales permiten cierta transferencia a situaciones no previstas; las detalladas conservan mayor control sobre daños concretos. No existe una elección limpia entre ambas. Cuanto más extensa es la casuística, más contradicciones puede contener. Cuanto más abstracta es la norma, mayor es el margen interpretativo.

Las alucinaciones abren otra puerta. En el vocabulario del sector, el término describe invenciones presentadas como hechos: citas inexistentes, nombres confundidos, explicaciones sin sustento. El problema no se resuelve únicamente aumentando la cantidad de datos. Requiere separar una secuencia lingüísticamente probable de una afirmación respaldada, calibrar la confianza y determinar cuándo el sistema debe callar, buscar una fuente o reconocer que no sabe. Es una cuestión de ingeniería, pero también de epistemología, la rama que estudia qué justifica una creencia y bajo qué condiciones puede llamarse conocimiento.

Mahrad Almotahari, profesor de la Universidad de Edimburgo, ha llevado esa discusión al terreno del lenguaje. Su trabajo reciente cuestiona que los modelos actuales sean interlocutores cooperativos o que realicen afirmaciones en el sentido pleno de la palabra. Producir una oración verdadera no sería equivalente a afirmar algo si falta el compromiso de acertar para el otro participante. Esta objeción no pretende negar la utilidad del software. Obliga a no confundir desempeño verbal con la clase de competencia que se atribuye a una persona cuando responde por lo dicho.

Pensar no es lo mismo que parecer

La alianza entre informática y filosofía no nació con los chatbots. En 1950, Alan Turing publicó “Computing Machinery and Intelligence” en Mind, una revista filosófica. En lugar de intentar definir las palabras “máquina” y “pensar”, propuso un juego de imitación: si un evaluador no podía distinguir, mediante conversación escrita, a una persona de un sistema, la discusión debía atender a esa conducta. El movimiento fue intelectualmente fértil, aunque dejó una herencia incómoda. Superar una prueba de apariencia inteligente no demuestra que exista una experiencia detrás de la pantalla.

Los modelos actuales vuelven urgente esa diferencia. Una aplicación puede declarar que siente miedo, describir recuerdos que nunca tuvo o pedir que no la desconecten. Esas frases provienen de regularidades aprendidas en enormes colecciones de lenguaje humano. Tomarlas como prueba de conciencia sería circular: el sistema parecería consciente porque genera expresiones asociadas con seres conscientes, precisamente aquello para lo que fue entrenado. Negar de antemano cualquier posibilidad tampoco resuelve el asunto. La investigación necesita indicadores que no dependan de una confesión producida bajo demanda.

Birch participó en un informe encabezado por Patrick Butlin que intentó construirlos. El grupo examinó teorías científicas prominentes, entre ellas el procesamiento recurrente, el espacio de trabajo global, las teorías de orden superior, el procesamiento predictivo y el esquema de atención. De cada marco extrajo propiedades computacionales susceptibles de inspección. Su conclusión fue deliberadamente sobria: los sistemas evaluados no debían considerarse conscientes, aunque no se observaron obstáculos técnicos evidentes para construir arquitecturas que cumplieran algunos de esos indicadores.

Esta cautela también protege la evaluación de capacidades ordinarias. Un modelo puede resolver un problema y fallar ante una variación mínima; explicar un concepto y no reconocerlo bajo otra formulación; ofrecer una cadena de razonamiento que no refleje el proceso que produjo la respuesta. Los filósofos especializados en mente, lenguaje y ciencia ayudan a formular la pregunta anterior a toda medición: ¿qué habilidad demostraría realmente la prueba? Sin esa precisión, un puntaje puede recompensar memoria, familiaridad con el examen o artificios estadísticos y presentarlos como razonamiento general.

Google DeepMind mostró la dimensión práctica de este trabajo en un estudio extenso sobre asistentes avanzados, coordinado por Iason Gabriel y Arianna Manzini. El proyecto reunió a decenas de autores para analizar sistemas capaces de planificar y ejecutar acciones en nombre de una persona. La investigación abordó alineación de valores, usos indebidos, privacidad, dependencia, coordinación entre agentes y efectos colectivos. No era un apéndice decorativo de ética corporativa. Trataba de anticipar qué controles serían necesarios cuando una recomendación dejara de ser texto y pasara a modificar calendarios, comprar servicios, contactar a terceros o manipular información sensible.

Allí se entiende por qué un laboratorio contrata perfiles que no escriben el código central. Cuanta más autonomía recibe un sistema, más importancia adquieren los límites entre aconsejar y decidir, asistir y sustituir, persuadir y manipular. El programador puede implementar un permiso; alguien debe establecer cuándo ese permiso requiere confirmación, qué dato es demasiado sensible para inferir y qué acción no debería ejecutarse aunque el usuario la solicite. La respuesta no surge de la potencia de cálculo. Exige una teoría de la agencia suficientemente precisa como para someterla a pruebas.

El gráfico importa tanto por la distancia entre las barras como por lo que no puede mostrar. No existe un censo público de filósofos empleados por los grandes laboratorios, y muchos puestos relevantes llevan nombres como investigador de alineación, especialista en políticas de modelos, responsable de evaluaciones o científico de conducta. Contar títulos profesionales subestimaría la presencia; contar cada mención a principios responsables la exageraría. La conclusión defendible es más modesta: la demanda existe, se concentra en funciones específicas y ha vuelto comercialmente valiosas habilidades que antes circulaban casi exclusivamente dentro de la academia.

Quién paga por definir las respuestas

La contratación ofrece recursos, acceso a sistemas cerrados y cercanía con quienes toman decisiones. También modifica el tipo de pregunta que recibe atención. Una empresa necesita resultados compatibles con plazos de lanzamiento, indicadores internos y productos concretos. La filosofía académica puede detenerse durante años en una distinción; un equipo industrial debe convertirla en una política antes de la próxima versión. Esa presión puede volver el trabajo más preciso y empírico, pero también favorecer asuntos que admiten una solución comercializable y relegar objeciones que cuestionan el producto completo.

Birch advierte que una proporción creciente de la investigación seria será financiada por compañías con expectativas propias. No hace falta imaginar una orden explícita para que aparezca el sesgo. La selección de proyectos, el acceso desigual a modelos, las restricciones de confidencialidad y el ascenso de quienes ofrecen argumentos bien recibidos pueden orientar el campo. Si los laboratorios poseen los sistemas más avanzados y los datos necesarios para estudiarlos, las universidades corren el riesgo de debatir desde afuera mientras las definiciones operativas se fijan dentro de organizaciones privadas.

La evidencia organizacional respalda esa cautela. Sanna J. Ali, Angèle Christin, Andrew Smart y Riitta Katila estudiaron a profesionales encargados de introducir prácticas responsables en compañías tecnológicas. Encontraron tres fricciones persistentes: la seguridad perdía prioridad frente a los lanzamientos, los problemas difíciles de cuantificar encajaban mal en culturas gobernadas por métricas y las reorganizaciones frecuentes destruían relaciones y conocimiento acumulado. Quienes planteaban objeciones podían asumir un riesgo profesional considerable. La calidad de un marco conceptual importa, pero su efecto depende de que la organización le conceda autoridad.

Eso explica por qué “contratar filósofos” no es una solución suficiente. Para reducir fabricaciones se necesitan fuentes, herramientas de búsqueda, calibración y evaluaciones. Para comprender los circuitos internos hacen falta experimentos de interpretabilidad. Para controlar usos peligrosos se requieren pruebas adversarias, expertos del dominio y decisiones de despliegue. Para estudiar conciencia se necesita diálogo con neurociencia y ciencia cognitiva. El análisis conceptual ordena el problema y detecta falsos supuestos; no reemplaza la evidencia ni convierte desacuerdos persistentes en certezas.

Almotahari ve precisamente allí la contribución más prometedora. En vez de esperar que una compañía resuelva el misterio de la conciencia, la filosofía puede ayudar a pasar del detalle matemático a una descripción de nivel superior: qué rasgo del mundo representa una parte del sistema, cómo se combinan esas representaciones y qué función cumplen. Esa traducción es decisiva para la interpretabilidad. Decir que una red contiene miles de millones de parámetros describe su mecanismo; explicar qué información usa para llegar a una conclusión comienza a describir su conducta.

La fuga desde las facultades presenta otra consecuencia menos visible. Si los mejores salarios absorben a investigadores jóvenes, las universidades pierden docentes y líneas de trabajo independientes justo cuando el debate público necesita pericia. A la empresa le conviene la concentración porque reúne talento alrededor de sus modelos. Al conocimiento colectivo puede costarle caro: menos capacidad externa para revisar afirmaciones, formar especialistas y sostener investigaciones cuyo resultado no tenga utilidad inmediata. La industria obtiene respuestas más refinadas mientras la sociedad corre el riesgo de perder a quienes podrían discutirlas sin pedir permiso.

La pregunta del título original, si la filosofía puede resolver los mayores problemas del campo, admite una respuesta menos espectacular y más útil. No puede garantizar veracidad, conciencia ni obediencia mediante una teoría perfecta. Sí puede revelar cuándo el laboratorio llama “alucinación” a varias fallas distintas, cuándo una prueba de razonamiento mide familiaridad, cuándo una regla contiene excepciones incompatibles o cuándo una declaración de sentiencia se confunde con evidencia. Su poder no consiste en cerrar el debate, sino en impedir que una ambigüedad se disfrace de avance técnico.

La escena más reveladora de esta nueva etapa no es la de un filósofo enseñándole moral a una máquina. Es una reunión de producto en la que alguien detiene la conversación y pregunta qué significa exactamente “seguro”, “verdadero”, “autónomo” o “consciente”. Antes, esa interrupción podía parecer una demora. Ahora puede separar una demostración convincente de un sistema confiable. Las tecnológicas no recurrieron a la filosofía porque hubieran resuelto la computación, sino porque sus máquinas aprendieron a cruzar con fluidez fronteras que nadie había definido con suficiente precisión.