Hassabis propone controlar los modelos antes de su lanzamiento

Demis Hassabis eligió una intervención menos habitual que el manifiesto tecnológico. Su texto, publicado este martes, no pide una pausa genérica ni se limita a repetir que los sistemas más avanzados exigen cuidado. Propone una oficina. Tendría estándares propios, acceso anticipado a modelos que crucen cierto umbral de capacidad y especialistas capaces de ensayarlos antes de que lleguen a un producto de uso masivo. El director de Google DeepMind imagina una entidad estadounidense financiada por la industria, supervisada por el gobierno y modelada, en parte, sobre la Financial Industry Regulatory Authority, FINRA.

El planteo aparece en un momento en que la distancia entre construir un sistema y ponerlo a disposición de millones de personas se redujo de manera drástica. Los grandes laboratorios evalúan sus propios modelos, convocan a expertos externos y publican reportes de seguridad. Pero ese circuito sigue dependiendo, en gran medida, de la información que las compañías deciden entregar y del momento en que eligen hacerlo. Hassabis quiere mover la revisión a una etapa anterior y darle continuidad después del lanzamiento.

La palabra importante es “acceso”. Ninguna regla de seguridad vale demasiado si la institución que debe aplicarla no puede observar el objeto que evalúa. En ciberseguridad, biología computacional o manipulación de infraestructura, una declaración de la empresa no reemplaza una prueba independiente. El proyecto de Hassabis intenta resolver ese problema práctico: crear un lugar que pueda recibir una versión de un modelo, intentar descubrir capacidades peligrosas y discutir un resultado con autoridad suficiente como para afectar una fecha de despliegue.

Una puerta antes del mercado

El itinerario previsto tiene una lógica clara. El organismo definiría qué sistemas entran en la categoría de frontera mediante umbrales actualizables. Los desarrolladores que lleguen a esa zona podrían entregar el modelo para su revisión previa. Las evaluaciones tendrían foco en capacidades de alto riesgo, entre ellas operaciones de ciberseguridad y amenazas biológicas. Agencias federales y laboratorios nacionales participarían cuando el asunto afectara a la seguridad nacional. Después de la publicación, las vulnerabilidades relevantes deberían recibir una respuesta de la compañía.

El enfoque se diferencia de un código de conducta. El marco de gestión de riesgos del Instituto Nacional de Estándares y Tecnología de Estados Unidos, NIST, proporciona prácticas para gobernar, mapear, medir y administrar riesgos, pero está pensado para uso voluntario. La Unión Europea, por su parte, ya cuenta con obligaciones para modelos de propósito general y con un código de buenas prácticas que ayuda a demostrar cumplimiento, incluso en materia de seguridad y protección para los sistemas de riesgo sistémico. Hassabis no propone reemplazar esas piezas. Busca agregar una instancia material de inspección entre el laboratorio y el mercado.

La idea tiene un antecedente más cercano en las evaluaciones de terceros que ya realizan algunos desarrolladores. Anthropic, OpenAI y Google DeepMind publicaron marcos y reportes sobre capacidades avanzadas. Esos documentos elevaron el estándar de transparencia respecto de la opacidad total, pero siguen sin constituir una autoridad independiente con facultades estables. El salto que propone Hassabis consiste en separar, al menos parcialmente, a quien desarrolla del que mide. La autonomía sería técnica antes que retórica: especialistas con cómputo, instalaciones seguras y tiempo suficiente para tratar de fallar el sistema.

La fórmula resume una dificultad real. Un umbral fijo envejece rápido. Una capacidad que hoy merece vigilancia puede convertirse en una prestación común en pocos meses; una prueba diseñada para una familia de modelos puede dejar escapar otra arquitectura. Por eso el ensayo insiste en que los estándares deben actualizarse al ritmo de las capacidades. Sin embargo, esa flexibilidad abre una cuestión que no se resuelve con vocabulario técnico: quién decide que una habilidad ya cambió de categoría y qué evidencia le permite mover la vara.

La prueba no termina en un laboratorio

Un sistema potente no se comporta igual en una demostración, en un entorno de ensayo y frente a usuarios reales. Puede tener límites sólidos en una configuración y perderlos cuando se lo conecta con herramientas, memoria, datos privados o instrucciones encadenadas. La propuesta de Hassabis reconoce esa diferencia al incluir la obligación de atender vulnerabilidades que aparezcan después del lanzamiento. No trata el examen previo como un certificado definitivo, sino como una capa dentro de un seguimiento más largo.

El gráfico siguiente no mide rendimiento ni asigna una probabilidad a cada riesgo. Ordena las cuatro funciones que el texto de Hassabis reúne en un mismo organismo. Su valor está en mostrar que el plan no descansa sólo en la evaluación previa. Exige definir quién entra al régimen, probarlo antes, condicionar el acceso al mercado y sostener la vigilancia cuando el sistema ya circula.

La comparación con FINRA ayuda a entender la ambición institucional. La autoridad financiera estadounidense es una organización privada sin fines de lucro, financiada por sus miembros y sometida a supervisión de la Securities and Exchange Commission. Hassabis toma de ese modelo la combinación de recursos sectoriales y control público. Es una analogía útil, pero también revela el trabajo pendiente. FINRA opera en un campo con leyes, sujetos regulados, reglas de reporte y potestades definidas durante décadas. El ecosistema de modelos de frontera no tiene, todavía, una arquitectura comparable.

La autoridad será la verdadera prueba

El texto de Hassabis modifica su alcance al pasar de la cooperación voluntaria a una obligación futura. En el comienzo, las empresas compartirían sus modelos por decisión propia. Más adelante, cuando los métodos estuvieran afinados, deberían cumplir para desplegar sistemas de frontera en Estados Unidos. Esa secuencia resulta comprensible: nadie quiere convertir en mandato un mecanismo inmaduro. Pero también concentra el conflicto. Una prueba voluntaria puede funcionar mientras no altera un cronograma comercial decisivo. Cuando el resultado pueda postergar un lanzamiento, la institución necesitará reglas legales, recursos y mecanismos de apelación que no dependan de la cortesía de los evaluados.

La financiación sectorial tampoco es un detalle administrativo. Los laboratorios poseen el conocimiento, la capacidad de cómputo y los ingenieros necesarios para entender modelos que cambian rápido. Excluirlos haría inviable cualquier entidad de esta clase. Incluirlos sin contrapesos convertiría el esquema en una forma de autorregulación. La credibilidad del organismo dependería de reglas visibles sobre nombramientos, conflictos de interés, publicación de resultados agregados y participación de expertos que no trabajen para las compañías sometidas a revisión.

El llamado a estándares compartidos entre países intenta responder a este último punto. Un organismo nacional puede condicionar la entrada a su mercado, pero los desarrollos y las publicaciones no respetan una única frontera. La Unión Europea ya transita un camino regulatorio propio. NIST opera como referencia técnica más allá de Estados Unidos. Los grandes laboratorios, mientras tanto, venden y entrenan sistemas en una red de proveedores, centros de datos y usuarios que no coincide con ningún perímetro institucional sencillo.

La contribución de Hassabis está en poner una pregunta incómoda sobre la mesa sin disfrazarla de eslogan: ¿qué institución puede pedir acceso a un modelo antes de que su dueño decida que ya está listo? No alcanza con que exista una guía, ni con que una compañía publique un informe favorable sobre su propio producto. Para funcionar, el organismo que imagina necesitará algo más prosaico y más difícil que una declaración de buenas intenciones. Tendrá que reunir competencia técnica, autonomía y el poder efectivo de convertir una evaluación en una decisión que nadie pueda simplemente ignorar.