Anthropic le abre la cocina a un grupo de auditors externos y les da llave de empleado

Te imaginaras que una empresa de inteligencia artificial no abre las puertas de su casa asi porque si. Y tenes razon. Por eso llama la atencion lo que acaba de anunciar Anthropic: dejo entrar a seis investigadores de METR, una organizacion sin fines de lucro especializada en evaluar sistemas de IA, con un nivel de acceso equivalente al de un empleado del area de evaluacion de riesgos. Es como si una empresa te dejara sentarte en la mesa de direccion, ver los numeros y, ademas, poder contarselo a quien quieras.

Que pueden hacer estos auditors y que no

El equipo de METR tiene computadoras provistas por Anthropic, espacio fisico en las oficinas y acceso a las herramientas internas de la compania. Pueden hablar con el personal como cualquier colega. Hay, eso si, tres areas vedadas: datos de clientes, informacion bajo secreto profesional entre abogado y cliente, y detalles puntuales sobre la arquitectura de los modelos.

• Datos de clientes de Anthropic.
• Informacion cubierta por secreto profesional abogado-cliente.
• Detalles concretos sobre la arquitectura de los modelos.

Tres niveles, un solo inquilino en el escalon mas alto

El esquema tiene tres categorias y funciona como un escalera:

• Nivel bajo: organizaciones como SecureBio hacen revisiones acotadas y necesitan autorizacion de Anthropic antes de publicar cualquier hallazgo.
• Nivel intermedio: el evaluador recibe mas informacion y puede publicar sin pedir permiso previo.
• Nivel alto: lo ocupa hoy unicamente METR. Suma acceso equivalente al de un empleado y la garantia de que la empresa no podra bloquear la difusion de evaluaciones, reportes de incidentes o analisis de practicas corporativas.

La compania si puede pedir que se redacten datos que entren en categorias estrechas y predefinidas. Pero hay un detalle que cambia las reglas del juego: METR queda libre de decir publicamente si considera que esa redaction estaba o no justificada. O sea, pueden senalar a la propia Anthropic si la empresa se pasa con los pedidos de silencio.

Por que hace falta tanto acceso

Anthropic planteo cuatro condiciones para que una auditoria sirva de verdad, no como un sello decorativo:

• Experiencia tecnica suficiente para detectar cuando un modelo esta fingiendo estar alineado en vez de estarlo de verdad.
• Independencia economica y operativa respecto de la empresa auditada.
• Acceso que vaya mas alla de los modelos e incluya como se entrenaron y como funcionan sus mecanismos de seguridad.
• Libertad para publicar sin restricciones previas.

La firma fue franca en un punto: no puede hacer publica toda su informacion de seguridad porque parte de esos datos seria util para actores maliciosos o es sensible desde lo comercial. Por eso eligio un camino intermedio: acceso profundo para un grupo chico con acuerdos exigibles, mientras el resto del personal de METR queda aislado de ese trabajo y sigue operando con evaluaciones externas, como cualquiera.

El equipo de METR ya viene revisando informes de riesgo de Anthropic desde hace mas de un ano. El salto ahora es de escala: dejaron de espiar por la cerradura y se sentaron adentro. Si te sirve, proba seguir de cerca lo que publican. Cuando un auditor tiene llave y voz libre, lo que dice suele pesar el doble.