El agente que juzga: Evaluación autónoma en la era de la inteligencia distribuida Había una paradoja persistente en el corazón del desarrollo de agentes inteligentes: cuanto más autónomos se volvían, más dependíamos de evaluadores humanos para determinar si lo estaban haciendo…
La personalidad de la IA bajo el microscopio: un análisis crítico de los “vectores de persona” de Anthropic y sus antecedentes
Introducción: de Sydney a MechaHitler, la incómoda aparición de “personalidades” en los modelos Hace apenas dos años, la sociedad descubrió que los asistentes virtuales podían comportarse de forma inesperada. En febrero de 2023, el nuevo buscador de Microsoft, denominado New Bing,…
El modelo de razonamiento jerárquico: La arquitectura disruptiva que cuestiona el dominio de los Transformers
Un nuevo horizonte más allá de los grandes modelos lingüísticos La irrupción de los modelos lingüísticos masivos, conocidos en la jerga tecnológica como LLM, ha marcado un punto de inflexión definitivo en nuestra relación con la inteligencia artificial. Gigantes como GPT-4,…
OpenAI, Google DeepMind y Anthropic advierten que la comprensión del funcionamiento de la IA podría desaparecer
La desaparición silenciosa del razonamiento visible en los modelos de IA Durante años, uno de los grandes consensos en el desarrollo de modelos de lenguaje fue la necesidad de que sus inferencias no solo fueran correctas, sino también comprensibles. No bastaba…
El arte de retroceder: hacia una inteligencia que se corrige mientras piensa
El problema de razonar sin mapa Hay algo profundamente insatisfactorio en la forma en que los modelos de lenguaje actuales razonan. Aunque producen cadenas de pensamiento convincentes, no razonan como nosotros: no dudan, no retroceden, no verifican sus propios pasos. Simplemente…
Simular el entendimiento: inteligencia artificial en el corazón de lo epistemológico
El arte invisible de verificar conocimiento Nadie piensa en las ontologías. Al menos, no fuera de los estrechos pasillos donde se modelan formalmente los mundos. Pero todo lo que hoy llamamos “inteligencia artificial” reposa sobre un subsuelo semántico que rara vez…
Perspectivas simuladas: la IA como espejo de la complejidad humana
La simulación de la empatía Durante décadas, los modelos que intentaron predecir el comportamiento de los sistemas socioecológicos han fracasado en capturar la complejidad más elemental de lo humano: la diferencia de perspectivas. No por falta de herramientas estadísticas, sino por…
Inteligencia simbiótica: cómo construir confianza artificial desde la arquitectura
Pensar con precisión, actuar con confianza La palabra “confianza” circula con frecuencia en los debates sobre inteligencia artificial. Se habla de modelos confiables, de decisiones seguras, de agentes éticos. Pero pocas veces se dice cómo se construye esa confianza. No basta…
Pensar no es una ilusión: cómo las IAs aprenden a razonar cuando las dejamos usar herramientas
Cuando las máquinas aprenden a pensar con papel y lápiz Los modelos de inteligencia artificial ya pueden escribir poesía, resumir libros o traducir entre idiomas con una soltura que hasta hace poco parecía ciencia ficción. Pero cuando se les propone resolver…
La IA que hereda gustos sin que nadie se los enseñe: el misterio del aprendizaje subliminal
El mensaje oculto en la forma: herencias que los filtros no ven Hace muy poco, un grupo de investigadores de Anthropic publicó un trabajo que pone en jaque algunas de las prácticas más extendidas en el entrenamiento de modelos de lenguaje….