Le 20 février, Anthropic a lancé un outil d’analyse des vulnérabilités destiné aux applications de sécurité, entraînant une baisse moyenne de plus de 5 % de notre couverture en matière de cybersécurité, les investisseurs craignant qu’Anthropic et d’autres laboratoires d’intelligence artificielle ne remplacent les fonctions de cybersécurité au sein des entreprises.
Pourquoi c’est important ? Malgré l’impact tangible de la sortie du produit sur le marché, nous ne considérons pas l’outil de détection des vulnérabilités d’Anthropic comme une menace pour notre couverture en matière de cybersécurité, et ce pour les raisons suivantes.
- Premièrement, il existe une dynamique antagoniste claire, comme le montre le message publié par Anthropic. Anthropic affirme avoir trouvé plus de 500 vulnérabilités dans des bases de code open source actuellement en production ou en cours d’utilisation.
- Si Opus d’Anthropic a pu trouver ces vulnérabilités, un modèle mal aligné visant à automatiser les cyberattaques pourrait également les trouver. Cette dynamique signifie que lorsque les grands modèles linguistiques deviennent plus efficaces dans la détection des menaces, cela profite à la fois aux attaquants et aux défenseurs.
Contexte : comme Claude d’Anthropic voit énormément de code sur sa plateforme et a été formé sur des bases de code gigantesques, il a une bonne idée des codes qui sont sûrs et de ceux qui ne le sont pas, ce qui est un facteur clé pour identifier les vulnérabilités.
- À mesure que nous nous dirigeons vers des applications de cybersécurité en temps réel, la dynamique sera très différente.
- Si les LLM peuvent être formés aux méthodes et techniques de sécurité, ils n’ont tout simplement pas accès aux pétaoctets de données en temps réel collectées quotidiennement par les grands fournisseurs de sécurité, et ces données sont importantes pour la formation des modèles destinés aux applications de sécurité.
À long terme : nous considérons l’analyse automatisée du code comme la preuve que nous allons rapidement évoluer vers un monde où les fournisseurs de solutions de cybersécurité, s’appuyant sur des modèles puissants tels que Claude et sur des données télémétriques propriétaires en temps réel, capteront la part du lion des nouvelles dépenses nettes en matière de sécurité catalysées par l’adoption de l’IA.
Les articles traduits à l’aide d’outils d’IA peuvent ne pas être relus par une personne parlant couramment la langue traduite, et leur exactitude ne peut être garantie. Les articles traduits sont fournis à titre informatif uniquement. En cas de divergence, l’article en langue originale prévaudra.
