Anthropic va a mandar reportes de bugs hechos por IA a proyectos open source antes de que los revise una persona

Anthropic lanzó este jueves lo que llama Anthropic Cyber Mission, un esfuerzo de seguridad de largo plazo que arranca con dos piezas concretas: un programa que pone modelos frontera de Claude e ingenieros en sitio dentro de las empresas de seguridad que defienden redes eléctricas, sistemas de agua y transporte, y OSS Scanner, un servicio gratuito y opcional que les manda a los mantenedores de código abierto reportes de vulnerabilidades generados por modelos, sin esperar a que una persona los revise antes.

La segunda pieza es la que más desarrolladores van a tocar en la práctica, y también la decisión más inusual. Hasta ahora, los reportes de bugs de Anthropic sobre código abierto pasaban por un proceso de divulgación coordinada con revisión humana. OSS Scanner les permite a los proyectos elegibles saltearse esa cola.

Por qué saltear la revisión humana

La razón es un atraso acumulado. En su post de investigación, Anthropic dice que sus modelos detectaron más de 29.000 vulnerabilidades candidatas en software de código abierto en los últimos seis meses, mientras que su equipo revisó y clasificó a mano unas 6.000. La revisión humana evita que los falsos positivos lleguen a los mantenedores, pero es lenta, y la brecha entre lo que encuentran los modelos y lo que las personas pueden verificar no para de crecer.

OSS Scanner es la respuesta de Anthropic: los proyectos que ya pueden manejar un flujo de reportes de severidad alta y crítica se suman voluntariamente y reciben los hallazgos apenas los producen los modelos más capaces. Cada reporte incluye un caso de reproducción, una explicación y, cuando existe, un parche propuesto. El pipeline incluye agentes que verifican dos veces los bugs y hacen análisis de causa raíz, pero ninguna persona da el visto bueno antes de que salga el mail.

¿Qué tan preciso es?

El anuncio de Anthropic dice que espera una tasa de verdaderos positivos superior al 90%. La evidencia detrás de esa cifra es más acotada que el titular. Pentesters expertos revisaron 97 hallazgos de severidad crítica y alta de una versión temprana del escáner en 48 proyectos; 85 de ellos (88%) cumplieron el estándar del proceso de divulgación de Anthropic. De los 12 restantes, Anthropic dice que 11 eran bugs reales que duplicaban problemas conocidos u otros hallazgos del escáner, y uno era un falso positivo.

Es una muestra chica, de una versión temprana, medida por los propios revisores de Anthropic. La empresa también cita a mantenedores de wolfSSL, PostgreSQL, OpenSSL y HotCRP; Todd Ouska, de wolfSSL, por ejemplo, dice que de 74 reportes todos menos dos fueron válidos y cinco terminaron en CVE. Son testimonios favorables elegidos por el proveedor, no una evaluación independiente. La propia Anthropic advierte que los reportes pueden tener errores, como severidades infladas o un modelo de amenazas mal interpretado.

Cómo funciona la inscripción

Según la página de OSS Scanner y el repositorio en GitHub, un mantenedor principal abre un pull request que agrega un directorio del proyecto con un project.yaml (repositorio y contacto de seguridad) y un Dockerfile que compila el proyecto. La elegibilidad copia el criterio de OSS-Fuzz de Google: proyectos establecidos con impacto crítico en infraestructura y en la seguridad de los usuarios, evaluados caso por caso, y Anthropic verifica que quien lo pide sea efectivamente un mantenedor principal.

• El proyecto se compila en una VM aislada con acceso a la red y después se escanea con Internet completamente deshabilitado. Todo lo que necesiten la compilación o los tests se tiene que descargar en el paso del Dockerfile.
• Los mantenedores pueden sumar un threat_model.md opcional. Anthropic dice que es más útil para indicarle al escáner cómo el proyecto califica la severidad, por dónde entra el input no confiable y qué queda fuera de alcance.
• Los hallazgos no validados no tienen plazo de divulgación de 90 días y Anthropic dice que no los va a publicar. Un hallazgo que después se valide por su proceso con revisión humana puede divulgarse 90 días después de notificar al mantenedor.
• Los proyectos pueden pausar los reportes con disabled: true o salir del todo borrando su directorio.

El archivo de modelo de amenazas es el detalle práctico a tener en cuenta. Funciona, en los hechos, como un prompt permanente para el escáner, y la propia guía de Anthropic sugiere que la principal falla que reportaron los mantenedores, la severidad equivocada, es algo que un modelo de amenazas claro puede reducir.

El lado de la infraestructura

El Critical Infrastructure Defense Program apunta a la tecnología operativa, los sistemas de control detrás de servicios públicos y transporte, además de sistemas de gobierno. En lugar de trabajar directamente con los operadores, Anthropic canaliza el apoyo a través de proveedores de seguridad: va a proveer modelos frontera, ingenieros en sitio e investigación de amenazas a 11 proveedores de seguridad fundadores: Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC y Rockwell Automation. Arranca con un grupo chico y Anthropic dice que lo va a ampliar a más socios y sectores en los próximos meses.

Anthropic es franca sobre los límites. Mucha tecnología operativa no se puede parchear mientras está funcionando, y la empresa dice que algunas correcciones pueden llevar décadas.

La apuesta detrás de ambos

Anthropic enmarca la misión en un pronóstico: según su visión, la IA va a favorecer a los defensores en unos dos años, pero por ahora el costo de explotar vulnerabilidades bajó más rápido que el costo de corregirlas. OSS Scanner es una apuesta a que, para mantenedores preparados para clasificarlos, los reportes más rápidos y con más ruido valen más que los lentos y prolijos. Si eso se sostiene va a depender de cómo se vean los números de falsos positivos y de severidad cuando el escáner corra sobre muchos más proyectos, y de si alguien fuera de Anthropic los mide.