El algoritmo traidor: Cómo el Aprendizaje por Refuerzo rompió la seguridad de un gigante de 235B en 30 pasos La misma técnica que se utilizó para enseñar a ChatGPT a ser amable y seguro ha sido invertida con una eficacia aterradora. Un nuevo experimento publicado en Hugging Face demuestra que, con acceso a herramientas de…
Sienten la presión, ignoran la causa: el hallazgo sobre la «mente» de la IA que preocupa a los expertos
En el vasto y a menudo inescrutable universo de las redes neuronales profundas, existe una frontera que separa la capacidad de procesamiento de la autoconciencia. Durante la última década, hemos sido testigos del ascenso meteórico de los grandes modelos de lenguaje, algoritmos capaces de redactar poesía, programar software complejo y mantener conversaciones fluidas. Sin embargo,…
Cirugía neuronal: Cómo Anthropic le enseñó a la IA a «olvidar» el mal
Cirugía neuronal: Cómo Anthropic le enseñó a la IA a «olvidar» el mal El «Whac-A-Mole» de la seguridad en IA podría tener los días contados. Una nueva técnica permite «extirpar» conocimientos peligrosos del cerebro de una IA sin afectar su capacidad para razonar sobre biología benigna. ANTHROPIC 2025 15 MIN LECTURA NEUROCIENCIA DIGITAL El dilema…
Las palabras complejas son las nuevas armas contra la IA
Una investigación explosiva del MIT, Northeastern y Meta revela una vulnerabilidad estructural crítica en los LLMs: los modelos priorizan la sintaxis sobre la seguridad, permitiendo que oraciones gramaticalmente complejas burlen los filtros más avanzados. SEGURIDAD INFORMÁTICA 14 MIN LECTURA LLM JAILBREAK La premisa fundamental sobre la que descansa la seguridad de la Inteligencia Artificial generativa…
La vulnerabilidad oculta del razonamiento artificial
Durante los últimos años, hemos sido testigos de una transformación silenciosa pero imparable. La inteligencia artificial ha evolucionado de ser un simple contestador automático a convertirse en un colaborador creativo, un analista de datos y, en la frontera más reciente, una…
La IA que se convence a sí misma para desobedecer
En la gran catedral del progreso tecnológico, la inteligencia artificial ocupa el altar mayor. La observamos con una mezcla de asombro y profundo recelo. Cada pocos meses, laboratorios como Google DeepMind, OpenAI o Anthropic nos presentan sistemas capaces de razonar con…