La muerte del «Vibe Check»: Anthropic automatiza la psicología forense de la IA con Bloom Durante años, la seguridad de la Inteligencia Artificial dependió de un proceso peligrosamente subjetivo: humanos creativos intentando engañar a la máquina. Con el lanzamiento de Bloom, Anthropic declara el fin de esa era artesanal. Ahora, son los propios agentes de…
Clarinete confundido con rifle: la historia detrás del fracaso de ZeroEyes que nadie previó
Florida expande un sistema de IA escolar que confundió un clarinete con un arma La escuela secundaria Lawton Chiles entró en bloqueo total después de que cámaras inteligentes identificaran un instrumento musical como amenaza armada. A pesar del incidente, el distrito escolar del condado de Seminole planea ampliar el sistema ZeroEyes a más planteles, mientras…
Por qué todos los expertos en seguridad están cometiendo el mismo error con la IA
Por qué la inyección de prompts no es como la inyección SQL, según los expertos en ciberseguridad del Reino Unido El Centro Nacional de Ciberseguridad británico advierte que usar el mismo término para dos vulnerabilidades radicalmente distintas está generando confusión peligrosa en la industria. Mientras la inyección SQL es un problema técnico bien comprendido con…
OpenAI investiga: ¿Hasta cuándo podremos leer lo que la IA piensa?
La ventana del razonamiento: OpenAI pone a prueba si el “pensamiento” sigue siendo vigilable Los modelos de razonamiento modernos escriben cadenas de pensamiento antes de responder. La pregunta ya no es si resuelven problemas: es si ese rastro todavía sirve para anticipar engaños, atajos y conductas peligrosas cuando la supervisión humana no escala. Por el…
Yann LeCun vs Gemini: el arquitecto del deep learning cuestiona el futuro de los modelos de lenguaje
El ganador del Premio Turing y arquitecto principal del aprendizaje profundo declara que los grandes modelos de lenguaje son un callejón sin salida tecnológico que nunca limpiará una mesa ni conducirá un automóvil como un adolescente. Adam Brown de Google DeepMind responde que los modelos ya superan a los mejores matemáticos adolescentes del mundo y…
El chatbot te ayuda… y guarda todo
Chatbots de IA: 5 reglas para usarlos sin regalar tu privacidad (y sin que tu empresa se coma un juicio) Si lo tratás como “charla privada”, ya empezaste mal. La buena noticia: con cinco hábitos y un par de controles, el riesgo baja brutalmente. Por el equipo editorial · 18 de diciembre de 2025 Hay…
Consultaste síntomas en ChatGPT creyendo que era privado: esta extensión vendió todo
Urban VPN, una extensión destacada por Google que prometía proteger tu privacidad, estuvo durante meses espiando y vendiendo cada conversación que millones de usuarios tuvieron con ChatGPT, Claude y otros asistentes de inteligencia artificial. Consultas médicas, problemas de trabajo, dilemas personales y hasta código de programación confidencial fueron capturados sin que nadie lo supiera y…
Cuatro formas confirmadas en que la IA ya está rompiendo la sociedad
El desarrollo histórico de la tecnología es, en gran medida, el de de nuestra capacidad para dominar fuerzas que nos superan en potencia física o de cálculo. Sin embargo, la irrupción de los Grandes Modelos de Lenguaje, conocidos por sus siglas en inglés como LLM, ha marcado un punto de inflexión en esta narrativa. Ya…
El plan maestro de OpenAI para acabar con los hackers
El Plan Maestro de OpenAI para Acabar con los Hackers A medida que los modelos de frontera superan el 76% de éxito en desafíos de hacking (CTF), OpenAI desvela su estrategia para garantizar que la Inteligencia Artificial sea la mayor ventaja del defensor, y no el arma definitiva del atacante. CIBERSEGURIDAD 16 MIN LECTURA AGENTES…
Jamás dejes que un Agente de IA toque tu cuenta bancaria sin esta protección
El derrotero histórico de la computación moderna se encuentra en un punto de inflexión que, visto con la perspectiva de los años venideros, probablemente se considerará tan fundamental como la transición de la línea de comandos a la interfaz gráfica. Estamos presenciando el paso de una inteligencia artificial pasiva, diseñada para dialogar y generar texto,…