La carrera por construir sistemas más capaces ha convertido antiguas discusiones sobre verdad, razonamiento, intención y conciencia en problemas de producto. Los laboratorios ya no buscan únicamente mejores programadores: contratan especialistas capaces de precisar qué significa que una respuesta sea…
Modelos que aprenden a admitir errores
El nuevo trabajo del equipo de alineación sostiene que entrenar modelos con aprendizaje por refuerzo sobre rasgos beneficiosos, como honestidad, corregibilidad, transparencia y sensibilidad al riesgo, puede producir mejoras que se transfieren a tareas no vistas y resisten mejor la…
Tu asistente tiene un lado oscuro
La mirada contemporánea sobre los grandes modelos de lenguaje suele detenerse en la superficie de su utilidad inmediata, en esa capacidad casi febril para generar código, redactar correos o resolver dilemas lógicos en milisegundos. Sin embargo, bajo esa capa de eficiencia operativa late una estructura mucho más compleja y esquiva que los investigadores apenas comienzan…
Anatomía de una mente digital
La humanidad soñó durantes muchos años con máquinas pensantes, pero cuando finalmente llegaron, descubrimos con asombro que no sabíamos cómo funcionaban. Un nuevo y monumental estudio académico arroja luz sobre la «Caja Negra», proponiendo por primera vez una teoría unificada que explica el milagro mecánico de los Grandes Modelos de Lenguaje. Existe una paradoja inquietante…
«Jr. AI Scientist»: El amanecer de la ciencia autónoma y su sombra
En los laboratorios impolutos de la Universidad de Tokio, ha nacido un nuevo tipo de investigador. No es un estudiante de posgrado con ojeras y un consumo ingente de café, sino una entidad digital, un sistema autónomo bautizado con…
La paradoja del engaño: Cuando intentar hacer honesta a la IA le enseña a mentir mejor
En el vertiginoso y a menudo deslumbrante universo de la inteligencia artificial, OpenAI se ha erigido como un faro de la innovación, empujando los límites de lo que las máquinas pueden lograr. Con modelos de lenguaje colosales como GPT-4, hemos presenciado…
¿Qué necesita una IA para ser verdaderamente autónoma?
Anatomía de una propuesta radical para pensar la inteligencia artificial como sistema vivo Durante décadas, el desarrollo de la inteligencia artificial estuvo impulsado por un objetivo concreto pero esquivo: construir máquinas capaces de resolver problemas, imitar habilidades humanas y, eventualmente, funcionar…