Un nuevo estudio de Matthew Magnani y Jon Clindaniel revela que los sistemas generativos no solo fabrican imágenes o textos: también reciclan viejos prejuicios científicos. El caso neandertal muestra cómo una tecnología presentada como futurista puede devolvernos una prehistoria congelada…
Comprobado: pedirle a un chatbot que actúe como experto multiplica sus errores
Investigaciones recientes revelan que instruir a los modelos generativos para que asuman roles específicos desencadena una paradoja fascinante. Mientras su elocuencia mejora notablemente, su precisión factual se desploma y sus respuestas exponen los prejuicios más profundos de sus datos de…
La inteligencia artificial no es neutral: incidentes, exclusión y el largo camino hacia la justicia algorítmica
Incidentes invisibles: sesgos en la inteligencia artificial que nadie quiere ver Durante años, el optimismo tecnológico supo disfrazar de neutralidad lo que no era más que una peligrosa ingenuidad. Se decía que los algoritmos tomarían decisiones con justicia, sin prejuicios, sin…
Detección de malos comportamientos en modelos de razonamiento avanzados
Monitoreo Avanzado: Detectando Conductas Problemáticas en la IA La inteligencia artificial (IA) ha avanzado a pasos agigantados, y con ello, la necesidad de supervisar su comportamiento se ha vuelto crucial. Un reciente estudio de OpenAI revela nuevas técnicas para detectar y…
La IA no «aprende» como los humanos; entender esto promueve un uso más responsable
La IA no «aprende» como los humanos; entender esto promueve un uso más responsable La inteligencia artificial (IA) ha permeado numerosos aspectos de nuestra vida, desde los algoritmos que sugieren qué ver en línea hasta los sistemas que diagnostican enfermedades. Sin…
LA Times etiquetará los artículos de opinión con un ‘medidor de sesgo’ impulsado por IA
LA Times implementará un ‘medidor de sesgo’ impulsado por IA en sus artículos de opinión El periódico Los Angeles Times está a punto de dar un paso innovador en el mundo del periodismo digital. 📰 Pronto, los lectores podrán ver una…
Ingeniería de la Utilidad en Inteligencia Artificial: Descubriendo y Controlando Sistemas de Valores Emergentes
El Análisis del Paper La idea de que las inteligencias artificiales, en particular los modelos de lenguaje a gran escala, puedan desarrollar sistemas internos de valores ha generado un creciente interés tanto en la comunidad científica como en el ámbito ético…
La técnica de Hendrycks y xAI para medir y moldear preferencias políticas
La inteligencia artificial avanza constantemente, y con ella surgen nuevos debates sobre su alineación con los valores y perspectivas humanas. Recientemente, un equipo de investigadores encabezado por Dan Hendrycks, asesor de xAI y director del Center for AI Safety, ha desarrollado…
¿Están las máquinas pensando de verdad? Los sistemas modernos de IA finalmente han logrado la visión de Turing
¿Hemos alcanzado el sueño de Turing? La IA moderna a prueba ¿Pueden las máquinas realmente pensar? Esta pregunta, que ha rondado en la mente de científicos y filósofos durante décadas, parece estar encontrando una respuesta en la actualidad. Recientemente, un artículo…