NEWSLETTER

Crimefluencers y gamificación del daño: policía australiana desarrolla IA para descifrar emojis de redes criminales

Generated Image November 04, 2025 - 12_52AM(1)

Crimefluencers y gamificación del daño: policía australiana desarrolla IA para descifrar emojis de redes criminales

Crimefluencers y gamificación del daño: policía australiana desarrolla IA para descifrar emojis de redes criminales que explotan niñas
La comisionada de la Policía Federal Australiana Krissy Barrett reveló que la AFP está desarrollando en colaboración con Microsoft un prototipo de herramienta de IA para interpretar emojis y jerga de Generación Z y Alpha en comunicaciones encriptadas y grupos de chat para identificar explotación sádica en línea. La iniciativa responde a redes criminales descentralizadas sin jerarquía centralizada atraídas a extremismo violento, nihilismo, sadismo, nazismo y satanismo. Barrett las llamó "crimefluencers", motivados por anarquía y dañar a otros, con la mayoría de sus víctimas siendo niñas preadolescentes o adolescentes. Los grupos reclutan miembros que deben pasar prueba o realizar tarea, como proporcionar videos de autolesión de otros. La AFP identificó 59 presuntos delincuentes, resultando en nueve arrestos internacionales y tres domésticos. Un subgrupo dentro del Five Eyes Law Enforcement Group fue establecido para enfrentar estos grupos. Australia desde el 10 de diciembre forzará a plataformas de redes sociales a eliminar usuarios menores de 16 años.
ADVERTENCIA DE CONTENIDO: Este artículo trata temas de explotación infantil, autolesión y violencia en línea. El discurso original de la comisionada Barrett incluye detalles de investigaciones sobre explotación sexual infantil que pueden resultar angustiantes. Si necesitas apoyo, contacta líneas de ayuda locales.

La comisionada de la Policía Federal Australiana Krissy Barrett pronunció el miércoles un discurso en el National Press Club que pintó un cuadro confrontador de la naturaleza cambiante del crimen en Australia. El titular que captó atención global: la AFP está desarrollando una herramienta de inteligencia artificial, en colaboración con Microsoft, para descifrar emojis y jerga de la Generación Z y Alpha utilizados por criminales en línea. Pero esa herramienta es solo una pieza de una historia mucho más oscura sobre cómo redes criminales descentralizadas están explotando niñas vulnerables a través de un sistema retorcido de gamificación del daño.

Lo que Barrett describió no son las típicas operaciones criminales con jefes, jerarquías y motivos financieros claros. Son redes difusas de individuos principalmente jóvenes (hombres y niños de contextos de habla inglesa) atraídos a extremismo violento, nihilismo, sadismo, nazismo y satanismo. No están conectados por ideología única o liderazgo centralizado. Están conectados por deseo de causar daño, particularmente a niñas preadolescentes y adolescentes.

Barrett acuñó un término para describirlos: "crimefluencers". Son influencers del crimen, glorificando violencia y explotación en línea, motivados no por dinero ni gratificación sexual sino por anarquía, diversión y popularidad en línea sin entender completamente las consecuencias. "Esta es una nueva y perturbadora frontera en la violencia de género tradicional", dijo Barrett.

Cómo funcionan las redes de crimefluencers

Las redes que Barrett describió operan de manera fundamentalmente diferente a organizaciones criminales tradicionales. Son descentralizadas. No tienen jerarquía centralizada. No tienen ideología única. Pero son prolíficas y peligrosas.

Anatomía de las redes de crimefluencers

Perfil de perpetradores: Abrumadoramente jóvenes hombres y niños de contextos occidentales de habla inglesa. Edad típica de arrestados en Australia: 17 a 20 años.

Perfil de víctimas: Abrumadoramente niñas jóvenes. Típicamente preadolescentes o adolescentes con baja autoestima, trastornos de salud mental, historia de autolesión, trastornos alimentarios u otros atributos que pueden llevarlas a buscar conexión en línea. Esto las hace más vulnerables a ser objetivo directo de estas redes.

Motivación: No es financiera ni para gratificación sexual. Es puramente por diversión, popularidad en línea, o para alcanzar estatus dentro del grupo. Como dijo Barrett: "Esto es puramente para su diversión, para diversión, o para ser popular en línea sin entender completamente las consecuencias."

Proceso de reclutamiento: Miembros a menudo tienen que pasar prueba o realizar tarea, como proporcionar videos de autolesión de otros, o contenido gore. Es un ritual de iniciación.

Gamificación retorcida: Los perpetradores alcanzan estatus o nuevo nivel en su grupo cuando proporcionan más contenido mostrando actos más extremos de depravación y sadismo. En algunos casos, perpetradores intercambian a sus víctimas entre ellos, justo como en juego en línea. Una vez intercambiada, nuevo perpetrador puede controlar a su nueva víctima.

Comunicación: Utilizan jerga de Gen Z y Alpha, emojis con significados recodificados, y plataformas encriptadas. Esto dificulta que investigadores adultos entiendan conversaciones incluso cuando tienen acceso a ellas.

Ideologías variadas pero conectadas: Mientras no tienen ideología única, están atraídos a extremismo violento, nihilismo, sadismo, nazismo y satanismo. Están motivados por anarquía y dañar a otros.

Barrett fue clara: "Estos crímenes ahora están derramándose al mundo real y tienen consecuencias en el mundo real". No son solo comunidades en línea hablando sobre violencia. Están coordinando actos reales de daño, explotación y abuso.

La herramienta de IA: traducir un lenguaje que los adultos no entienden

Aquí es donde entra la inteligencia artificial. Los investigadores de la AFP enfrentan un problema fundamental: cuando interceptan comunicaciones de estos grupos, a menudo no pueden entenderlas. Los emojis tienen significados completamente diferentes para la Generación Z y Alpha de los que tienen para generaciones mayores. La jerga evoluciona tan rápido que para cuando los adultos aprenden qué significa algo, ya ha cambiado.

La herramienta de IA para traducir jerga y emojis

Colaboración: La AFP está trabajando con Microsoft para desarrollar el prototipo. "Miembros inteligentes de la AFP, con Microsoft, están desarrollando una herramienta prototipo de IA que interpretará emojis y jerga de Gen Z y Alpha en comunicaciones encriptadas", dijo Barrett.

Objetivo: Interpretar emojis y jerga de Gen Z y Alpha en comunicaciones encriptadas y grupos de chat para identificar explotación sádica en línea.

Propósito: "Este prototipo tiene como objetivo hacer que sea más rápido para nuestros equipos salvar a niños del daño mucho más temprano." La velocidad es crítica. Mientras más rápido puedan descifrar comunicaciones, más rápido pueden intervenir.

Estado: Es un prototipo. No está completamente desarrollado ni desplegado todavía. Están en etapa de desarrollo.

Desafío técnico: No es solo traducción directa. Los emojis y jerga tienen significados contextuales que cambian rápidamente. Un emoji que significa algo inocente en un contexto puede tener significado completamente diferente y siniestro en comunidades criminales.

The Register caracterizó esto como "un uso de IA al que nadie puede objetar". Y en la superficie, eso parece cierto. Usar IA para identificar y rescatar niños de explotación sexual y abuso es difícil de argumentar en contra. Pero hay complejidades.

Primero, la herramienta está diseñada para trabajar en "comunicaciones encriptadas". Esto plantea preguntas sobre cómo exactamente la AFP tiene acceso a comunicaciones encriptadas. ¿Están rompiendo encriptación? ¿Están usando backdoors? ¿Están accediendo a comunicaciones solo después de obtener órdenes judiciales para dispositivos específicos? Barrett no especificó los detalles técnicos.

Segundo, cualquier sistema que interprete automáticamente comunicaciones privadas para buscar actividad criminal tiene implicaciones de privacidad. Sí, el objetivo es noble. Pero las herramientas construidas para un propósito pueden ser ampliadas para otros. La historia de vigilancia está llena de ejemplos de herramientas construidas para "casos más graves" que eventualmente se usan de manera más amplia.

Tercero, la IA que interpreta jerga y emojis va a cometer errores. Va a tener falsos positivos. Comunicaciones inocentes pueden ser mal interpretadas como siniestras. ¿Cómo equilibras velocidad de detección con exactitud? ¿Cuánta supervisión humana hay?

Estas no son razones para no construir la herramienta. Son razones para construirla cuidadosamente, con supervisión, con salvaguardas, y con transparencia sobre cómo será usada.

Taskforce Pompilid y la respuesta de Five Eyes

La herramienta de IA es solo un componente de una respuesta más amplia. La AFP ha establecido Taskforce Pompilid para usar los poderes completos de la AFP para apuntar a estos delincuentes. La misión del taskforce es identificar, disrumpir y desmantelar ecosistemas criminales en línea que apuntan a australianos "dondequiera que operen, como sea que se oculten, y a quienquiera que dañen". El taskforce expondrá facilitadores y eliminará el anonimato que protege a delincuentes de la aplicación de la ley.

Hasta ahora, la AFP ha identificado 59 presuntos delincuentes como miembros de estas redes. Trabajando con socios de aplicación de la ley en Australia y en el exterior, la AFP se ha movido rápidamente contra los delincuentes, resultando en nueve arrestos internacionales y tres arrestos domésticos. En Australia, los arrestados tenían entre 17 y 20 años.

Colaboración internacional de Five Eyes

"Un subgrupo dentro del Five Eyes Law Enforcement Group también ha sido establecido para apuntar a estos grupos", dijo Barrett. Esto significa que aplicación de la ley a través de Australia, Reino Unido, Estados Unidos, Canadá y Nueva Zelanda están intentando detener a estos criminales.

Five Eyes es una alianza de inteligencia entre cinco países de habla inglesa. Tradicionalmente enfocada en seguridad nacional y antiterrorismo, ahora está aplicando sus capacidades a estos grupos de explotación descentralizados.

Barrett señaló ese esfuerzo en el contexto del tema del discurso de que la AFP ha desarrollado habilidades y capacidades para enfrentar el crimen dondequiera que suceda, incluyendo en línea. Pero el discurso también delineó acción en el mundo real incluyendo despliegues de policía australiana a la jungla colombiana para destruir instalaciones de producción de cocaína.

La colaboración internacional es crítica porque estas redes operan a través de fronteras. Los perpetradores en un país pueden victimizar niños en otro. La coordinación entre agencias de aplicación de la ley es esencial para detenerlos efectivamente.

El contexto más amplio: terrorismo juvenil y radicalización en línea

Barrett también discutió actividades antiterrorismo de la AFP, que desde 2020 han visto 48 jóvenes de entre 12 y 17 años investigados, y 25 acusados de uno o más delitos relacionados con terrorismo. La comisionada mencionó un caso en el que un niño de 14 años que tenía acceso a armas de fuego y explosivos, y una "ideología extremista violenta nacionalista y racista", usó "una cuenta de Snapchat para publicar extremismo violento motivado por problemas".

Una denuncia a la AFP alegó que el niño planeaba un tiroteo escolar, y los investigadores frustraron ese plan y aseguraron una condena. La comisionada dijo que publicaciones de ese tipo no son inusuales. "En la mayoría de los casos, redes sociales o juegos en línea han sido usados para radicalizar, o para que un joven señale su intención de cometer un acto terrorista."

Esto conecta al problema más amplio de radicalización juvenil en línea. Ya sean redes de explotación, grupos extremistas violentos o comunidades que glorifican tiroteos escolares, las plataformas en línea se han convertido en caldo de cultivo para reclutamiento de jóvenes vulnerables.

Si solía tomar un pueblo criar a un niño, debido a avances en tecnología, ahora toma un país mantenerlos seguros. Comisionada Krissy Barrett sobre protección infantil en era digital

La respuesta de Australia: prohibición de redes sociales para menores de 16

El discurso de Barrett se produce cuando Australia se prepara para implementar una de las regulaciones de redes sociales más estrictas del mundo. Desde el 10 de diciembre de 2025, Australia forzará a plataformas de redes sociales como Facebook, Instagram y TikTok a eliminar usuarios menores de 16 años.

Hay gran interés en si las restricciones radicales de Australia pueden funcionar, ya que reguladores alrededor del globo lidian con los peligros de las redes sociales. La ley es controvertida. Los críticos argumentan que:

- Empuja a niños a plataformas menos reguladas

- Es técnicamente difícil de hacer cumplir (los niños pueden mentir sobre su edad)

- Priva a adolescentes de espacios en línea que pueden ser positivos

- No aborda el problema raíz de por qué estas plataformas son peligrosas en primer lugar

Los defensores argumentan que:

- Los niños necesitan protección de explotación, acoso y radicalización en línea

- Las plataformas de redes sociales han fallado en autorregularse

- Los años de adolescencia temprana son particularmente vulnerables para desarrollo psicológico

- Incluso si no es perfectamente aplicable, envía señal clara sobre responsabilidad de plataformas

El discurso de Barrett proporciona contexto para por qué Australia está tomando una postura tan agresiva. No es pánico moral abstracto sobre "niños en internet". Es respuesta a redes criminales específicas que están explotando activamente a niños australianos usando estas plataformas.

Forensics tradicional aún superando a la IA en algunos casos

Interesantemente, Barrett también compartió anécdota que destacó limitaciones de IA. Involucró investigación de "un criminal bien conectado, a quien sospechábamos había acumulado criptomoneda de vender un producto tipo tech a presuntos criminales alrededor del mundo".

Los oficiales de la AFP obtuvieron orden para registrar el hogar del sospechoso, y encontraron "una imagen en su dispositivo mostrando números y palabras aleatorios. Los números estaban divididos en grupos de seis y había más de 50 variaciones de los grupos de números".

El equipo de criminalística digital determinó que podría estar relacionado con una billetera de criptomoneda, pero el acusado presuntamente se negó a entregar sus contraseñas para su billetera de criptomoneda, lo cual es un delito de Commonwealth que conlleva pena de 10 años de prisión. "Sabíamos que si no podíamos abrir la billetera de criptomoneda, y si el presunto delincuente era sentenciado, al salir dejaría la prisión como multimillonario, todo de las ganancias del crimen organizado."

Aquí es donde entra el ingenio humano. Un científico de datos de la AFP notó un patrón que la IA había perdido, y manualmente descifraron la frase de recuperación codificada. Barrett fue clara: "Mientras el poder computacional es esencial, no siempre es tan creativo e innovador como un humano".

Esto es recordatorio importante cuando discutimos herramientas de IA para aplicación de la ley. La IA puede aumentar capacidades humanas, pero no reemplaza creatividad humana, intuición e ingenio. Las mejores investigaciones probablemente combinarán ambas.

Criminalística no ortodoxa: teléfonos celulares enterrados con cuerpos

Barrett también mencionó que la AFP está experimentando con técnicas de criminalística no ortodoxas, como intentar usar teléfonos celulares enterrados con cuerpos muertos para determinar la edad, causa y método de muerte. Esto muestra el rango de innovación técnica que la AFP está explorando, desde IA interpretando emojis hasta análisis forense post-mortem de dispositivos digitales.

El Social Cohesion Consultative Board

Reconociendo que no puedes arrestar para salir de este problema, Barrett anunció que establecerá un AFP Social Cohesion Consultative Board en el primer trimestre del próximo año. El consejo reunirá a líderes comunitarios, juventud y organizaciones no gubernamentales para prevenir crimen, promover educación, construir asociaciones y lograr soluciones acordadas.

"Estoy lanzando el llamado para líderes de fe, líderes juveniles, expertos en salud mental, grupos de diáspora, aquellos con conexiones a australianos indígenas y grupos sin fines de lucro que verían valor en contribuir a un consejo consultivo de la AFP. Estoy buscando soluciones que encuentren terreno común usando voces comunitarias confiables para tomar posición de liderazgo que previene crimen y protege a personas que tradicionalmente no confían en la policía."

Este es reconocimiento de que respuesta efectiva requiere no solo tecnología y aplicación de la ley, sino también compromiso comunitario, prevención y abordar causas raíz de por qué jóvenes son atraídos a estas redes en primer lugar.

El veredicto: herramienta necesaria con preguntas legítimas

La herramienta de IA que la AFP está desarrollando para traducir emojis y jerga de Gen Z/Alpha es respuesta a problema real y urgente. Las redes de crimefluencers que Barrett describió están causando daño genuino a niños vulnerables. El uso de jerga y emojis específicos de generación hace genuinamente difícil para investigadores adultos entender comunicaciones incluso cuando tienen acceso legal a ellas. Una herramienta que acelera comprensión podría genuinamente salvar vidas.

Pero no es historia tan simple como "IA buena vs criminales malos". Hay complejidades legítimas:

Privacidad y encriptación: ¿Cómo exactamente la herramienta accede a comunicaciones encriptadas? ¿Qué salvaguardas existen para prevenir uso excesivo?

Exactitud: ¿Qué tan buena es la IA en interpretar realmente contextos cambiantes rápidamente de jerga juvenil? ¿Cuántos falsos positivos produce?

Amplitud de misión: ¿Las herramientas construidas para identificar explotación sádica infantil eventualmente serán usadas para investigar crímenes menos graves? ¿Hay límites claros?

Transparencia: ¿Habrá supervisión pública sobre cómo se usa esta herramienta? ¿Reportes sobre exactitud, falsos positivos, salvaguardas?

Estas preguntas no son argumentos contra construir la herramienta. Son argumentos para construirla cuidadosamente, con responsabilidad.

El discurso de Barrett también proporciona contexto crucial que a menudo falta en debates sobre vigilancia y IA. No está hablando en abstracto sobre amenazas hipotéticas. Está describiendo redes específicas que han victimizado a niñas específicas de maneras específicas y horribles. La AFP ha identificado 59 sospechosos. Han hecho arrestos. Esto no es pánico moral; es respuesta a actividad criminal real.

La colaboración de Five Eyes muestra que esto es problema reconocido internacionalmente. La prohibición de redes sociales de Australia para menores de 16 muestra que es lo suficientemente serio como para justificar intervención regulatoria dramática.

Y fundamentalmente, el reconocimiento de Barrett de que "si solía tomar un pueblo criar a un niño, debido a avances en tecnología, ahora toma un país mantenerlos seguros" captura el desafío central. La tecnología ha dado a depredadores alcance sin precedentes. La respuesta requiere no solo más tecnología (como herramientas de IA) sino también coordinación internacional, compromiso comunitario, prevención y abordar factores sociales que hacen a niños vulnerables en primer lugar.

La herramienta de traducción de emojis acaparará titulares porque es concreta, específica y un poco futurista. Pero es solo una pieza de respuesta mucho más compleja a problema genuinamente difícil. Si está construida responsablemente, con salvaguardas apropiadas y supervisión, podría ser herramienta valiosa. El desafío es asegurar que esas condiciones sean cumplidas.

Referencias

Australian Federal Police, "National Press Club address by AFP Commissioner Krissy Barrett" - discurso oficial completo (octubre 28, 2025).

The Register, "Australian police build AI to translate emoji used by crims" - sobre herramienta de IA y crimefluencers (octubre 29, 2025).

Tom's Hardware, "Australia's police to use AI to decode criminals' emoji slang to curb online crime" - sobre contexto de crimefluencers (octubre 30, 2025).

TechXplore/Digital Journal, "Australian police design AI tool to decipher predators' Gen Z slang" - sobre colaboración con Microsoft (octubre 29, 2025).

RedPacket Security, "Australian Police Building AI To Translate Emoji Used By 'crimefluencers'" - sobre proceso de reclutamiento y gamificación (octubre 31, 2025).

Region Canberra/PS News, "AFP turning to AI to fight 'new and disturbing front' in sadistic 'crimefluencers'" - sobre Taskforce Pompilid (octubre 30, 2025).

Blockonomi, "AFP Warns of Youth Radicalization and Online Crime Networks in Australia" - sobre Social Cohesion Board (octubre 31, 2025).

Bitget News, "AFP's AI Interprets Gen Z Slang to Reveal Hidden Online Exploitation Rings" - sobre colaboración Five Eyes (octubre 31, 2025).

Pravda EN, "Australian police teach AI to understand the 'Zumerian language'" - sobre contexto de prohibición de redes sociales (octubre 30, 2025).

Publicaciones Recientes

Generated Image November 04, 2025 - 1_16AM

De la fragilidad del experto a la robustez del aprendiz

En el imaginario colectivo, la inteligencia artificial aprende de la perfección. Alimentamos a las máquinas con ejempl
Leer Más
345619ae-75f3-475f-a2b4-622b8bd50a38

Canva lanza modelo de IA que entiende estructura de diseño

  Canva anunció el mayor lanzamiento de producto en su historia: el Creative Operating System, un ecosistema unifi
Leer Más

Para estar informado, Ingresá o Creá tu cuenta en MundoIA...

Entrar

Recordá revisar la carpeta de "no deseados", el correo puede llegar allí