Op 20 februari bracht Anthropic een tool voor het scannen van kwetsbaarheden op de markt, gericht op beveiligingsapplicaties. Dit leidde tot een gemiddelde daling van meer dan 5% in onze cyberbeveiligingsdekking, omdat beleggers vrezen dat Anthropic en andere kunstmatige-intelligentielaboratoria de cyberbeveiligingsfuncties binnen bedrijven zouden kunnen vervangen.
Waarom dit belangrijk is: Ondanks de tastbare impact van de productrelease op de markt, zien we de tool voor het scannen van kwetsbaarheden van Anthropic niet als een bedreiging voor onze cyberbeveiligingsdekking om de volgende redenen.
- Ten eerste is er een duidelijke vijandige dynamiek, zoals blijkt uit de eigen post van Anthropic. Anthropic beweert meer dan 500 kwetsbaarheden te hebben gevonden in open-sourcecodebases die nu in productie of in gebruik zijn.
- Als Anthropic’s Opus deze kwetsbaarheden kon vinden, zou een verkeerd afgestemd model met als doel cyberaanvallen te automatiseren deze ook kunnen vinden. Deze dynamiek betekent dat naarmate grote taalmodellen beter worden in het detecteren van bedreigingen, dit zowel aanvallers als verdedigers ten goede komt.
Het grote plaatje: aangezien Claude van Anthropic zoveel code op zijn platform ziet en is getraind op gigantische codebases, heeft het een goed gevoel voor welke code veilig is en welke niet, een belangrijke factor bij het identificeren van kwetsbaarheden.
- Naarmate we evolueren naar realtime cyberbeveiligingstoepassingen, zal de dynamiek er heel anders uitzien.
- Hoewel LLM’s kunnen worden getraind op beveiligingsmethoden en -technieken, hebben ze simpelweg geen toegang tot petabytes aan realtime gegevens die dagelijks door grote beveiligingsleveranciers worden verzameld, en deze gegevens zijn belangrijk voor het trainen van modellen voor beveiligingstoepassingen.
Lange termijn: We zien geautomatiseerde codescanning als bewijs dat we snel zullen evolueren naar een wereld waarin cyberleveranciers, die gebruikmaken van krachtige modellen zoals Claude en eigen realtime telemetriegegevens, het leeuwendeel van de netto nieuwe beveiligingsuitgaven zullen binnenhalen, gestimuleerd door de invoering van AI.
