El 20 de febrero, Anthropic lanzó una herramienta de análisis de vulnerabilidades dirigida a aplicaciones de seguridad, lo que provocó una caída media de más del 5 % en nuestra cobertura de ciberseguridad, ya que los inversores temen que Anthropic y otros laboratorios de inteligencia artificial puedan sustituir las funciones de ciberseguridad dentro de las empresas.
Por qué es importante: a pesar del impacto tangible en el mercado del lanzamiento del producto, no consideramos que la herramienta de análisis de vulnerabilidades de Anthropic sea una amenaza para nuestra cobertura de ciberseguridad por las siguientes razones.
- En primer lugar, existe una clara dinámica adversaria, como demuestra la propia publicación de Anthropic. Anthropic afirma haber encontrado más de 500 vulnerabilidades en bases de código de código abierto actualmente en producción o en uso.
- Si Opus de Anthropic pudo encontrar estas vulnerabilidades, un modelo desalineado con el objetivo de automatizar los ciberataques también podría encontrarlas. Esta dinámica significa que, a medida que los grandes modelos de lenguaje se vuelven más eficaces en la detección de amenazas, esto beneficia tanto a los atacantes como a los defensores.
Panorama general: dado que Claude, de Anthropic, ve tanto código en su plataforma y ha sido entrenado en bases de código gigantescas, tiene un buen sentido de qué código es seguro y cuál no, un factor clave para identificar vulnerabilidades.
- A medida que avanzamos hacia aplicaciones de ciberseguridad en tiempo real, la dinámica será muy diferente.
- Aunque los LLM pueden entrenarse en métodos y técnicas de seguridad, simplemente no tienen acceso a los petabytes de datos en tiempo real que recopilan a diario los grandes proveedores de seguridad, y estos datos son importantes para entrenar modelos para aplicaciones de seguridad.
A largo plazo: consideramos que el escaneo automatizado de código es una prueba de que avanzaremos rápidamente hacia un mundo en el que los proveedores de ciberseguridad, aprovechando modelos potentes como Claude junto con datos de telemetría en tiempo real propios, captarán la mayor parte del nuevo gasto neto en seguridad catalizado por la adopción de la IA.
