Den 20 februari släppte Anthropic ett verktyg för sårbarhetsskanning riktat mot säkerhetsapplikationer, vilket ledde till en genomsnittlig nedgång på över 5 % inom vår cybersäkerhetsbevakning, då investerare oroar sig för att Anthropic och andra laboratorier för artificiell intelligens skulle kunna ersätta cybersäkerhetsfunktioner inom företag.
Varför det är viktigt: Trots den påtagliga marknadspåverkan som produktlanseringen har haft ser vi inte Anthropics verktyg för sårbarhetsskanning som ett hot mot vår cybersäkerhetsbevakning av följande skäl.
- För det första finns det en tydlig motstridig dynamik, vilket framgår av Anthropics eget inlägg. Anthropic hävdar att de har hittat mer än 500 sårbarheter i öppen källkod som för närvarande är i produktion eller används.
- Om Anthropics Opus kunde hitta dessa sårbarheter, skulle en felaktigt anpassad modell med syftet att automatisera cyberattacker också kunna hitta dem. Denna dynamik innebär att när stora språkmodeller blir mer skickliga på att upptäcka hot, gynnar det både angripare och försvarare.
Helhetsbild: Eftersom Anthropics Claude ser så mycket kod på sin plattform och har tränats på gigantiska kodbaser, har den en god känsla för vilken kod som är säker och vilken som inte är det, vilket är en nyckelfaktor för att identifiera sårbarheter.
- När vi går mot realtidscybersäkerhetsapplikationer kommer dynamiken att se mycket annorlunda ut.
- Även om LLM kan tränas på säkerhetsmetoder och -tekniker har de helt enkelt inte tillgång till petabytes av realtidsdata som samlas in dagligen av stora säkerhetsleverantörer, och dessa data är viktiga för att träna modeller för säkerhetsapplikationer.
Långsiktig syn: Vi ser automatiserad kodskanning som ett bevis på att vi snabbt kommer att gå mot en värld där cyberleverantörer, som utnyttjar kraftfulla modeller som Claude tillsammans med egenutvecklad realtids-telemetridata, kommer att ta en lejonpart av de nya säkerhetsutgifterna som katalyseras av AI-användningen.
