- Inför de förmodade börsintroduktionerna har de senaste händelserna lyft fram säkerhetsfarhågor kring AI-modellerna från Anthropic och OpenAI.
- Investerare som utvärderar AI-företag bör hålla ett öga på företagens kundlojalitet, styrelsearbete, rapportering av incidenter, samverkan med tillsynsmyndigheter och transparens i databehandlingen.
- Dessa signaler kan ge en indikation på om dessa företags AI-relaterade förtroenderisker förbättras eller försämras redan innan de syns i de finansiella resultaten.
Investerare i de kommande börsintroduktionerna av Anthropic och OpenAI måste noga beakta en rad risker som kan påverka aktieägarvärdet avsevärt. Ett ramverk som vi har utvecklat på Morningstar Sustainalytics, kallat Trustworthy AI, kan hjälpa investerare att identifiera dessa risker. Det är en strategi för utveckling av artificiell intelligens (AI) som prioriterar säkerhet och transparens – tillsammans med traditionell analys av miljö-, sociala och styrningsaspekter.
Två händelser – Anthropics lansering i juli av sin flaggskepps-AI-modell, Fable 5, och intrånget i Hugging Face i juni av OpenAI:s AI-modeller – visar hur händelser som rör säkerhet och styrning kan påverka ett företags risk redan innan detta återspeglas i traditionella finansiella nyckeltal. Investerare bör också ställa sig frågan om styrning, säkerhet och beredskap inför regleringar kommer att påverka företagens införande av tekniken, vid sidan av pris, prestanda och distribution.
Anthropics ”Fable 5”-incident
I juni, strax efter lanseringen av sin flaggskeppsmodell för resonemang, Fable 5, tvingades Anthropic enligt ett direktiv från det amerikanska handelsdepartementet att stänga av åtkomsten för alla utländska medborgare. Eftersom Anthropic inte kunde verifiera användarnas nationalitet i realtid tog företaget både Fable 5 och Mythos 5 (en modell med begränsad åtkomst) ur drift globalt för att följa direktivet och undvika eventuella myndighetspåföljder.
Fable 5-incidenten förvandlade Anthropics säkerhetsåtaganden till en finansiell risk. Säkerhetsåtaganden och gränserna för omtvistad användning påverkade plötsligt produktens tillgänglighet, kontinuiteten för kunderna och efterlevnaden av regelverket. Under de 24 timmarna efter den globala tillbakadragningen sjönk Anthropics implicita värde med 3,7 % på sekundärmarknaden, och media ifrågasatte om tidsplanen för börsintroduktionen skulle hålla.
Händelsen visade att ett federalt direktiv kan ta bort ett företags viktigaste produkt för intäkter över en natt. Företagskunder inom finans, sjukvård och kritisk infrastruktur förlorade sina produktionsverktyg utan förvarning, och konkurrenter som OpenAI och kinesiska modeller som GLM-5.2 vann mark under avbrottet.
Den 30 juni, efter förhandlingar med Anthropic, hävde regeringen restriktionerna. I utbyte gick Anthropic med på att proaktivt upptäcka och åtgärda risker för säkerhet, samarbeta med regeringen kring testprotokoll och publicera standarder för framtida modeller samt rapportera all skadlig verksamhet. Dessutom enades Anthropic, Amazon, Microsoft och Google om att inrätta ett gemensamt ramverk för att betygsätta säkerhetsöverträdelser i modellerna. När osäkerheten kring regelverket hade lösts och en handbok för efterlevnad hade fastställts steg den implicita värderingen av Anthropic på sekundärmarknaden till en rekordhög nivå den 9 juli.
Den viktigaste slutsatsen är att Anthropics åtaganden inom säkerhet och bolagsstyrning fick ekonomisk betydelse genom tre olika kanaler samtidigt: risken för myndighetsingripande, risken för minskad intäktsstabilitet samt signalen om beredskap inför reglering. Företagets förhandlade återgång till marknaden visade på dess förmåga att samarbeta med tillsynsmyndigheter och återställa kundernas åtkomst efter en betydande störning. För investerarna utgjorde händelsen ett test av företagets beredskap inför reglering och dess förmåga inom bolagsstyrning.
OpenAI:s incident med Hugging Face
I juli avslöjade OpenAI att företagets egna modeller under en utvärdering på egen hand lyckades ta sig ut ur en avgränsad testmiljö, utnyttjade flera sårbarheter i följd och komprometterade open source-plattformen Hugging Face. OpenAI avbröt träningen och samarbetade med externa rådgivare. OpenAI:s vd Sam Altman beskrev händelsen som den första säkerhetsincidenten som han upplevt ”mycket känslomässigt”, och han menade att branschen kanske behöver ”justera takten i AI-utvecklingen”. Incidenten bidrog direkt till den lagstiftningsmässiga drivkraften, bland annat ett förslag till en ”AI Kill Switch Act”.
Både incidenterna med Fable 5 och Hugging Face visar att en liknande förtroendemekanism är i spel, vilket sätter Anthropics beredskap inför regleringar och OpenAI:s åtgärder för att begränsa skadan på prov. Det är talande att Hugging Face först försökte använda Anthropics Fable 5 för att parera attacken, men dess säkerhetsmekanismer kunde inte skilja mellan en försvarare och en angripare – vilket visar hur säkerhetskontroller inte bara minskar risken utan också medför driftskostnader.
Risker kopplade till miljöansvar
Miljöansvar är det område där informationen är minst tillgänglig hos båda företagen. Inget av företagen offentliggör någon omfattande utsläppsförteckning, och de redovisar inte heller uppgifter om el- eller vattenförbrukning. Detta begränsar investerarnas möjlighet att bedöma miljöprestanda eller resurseffektivitet. Båda företagen står dessutom inför långsiktiga frågor rörande utbyggnad av Datacenter, elbehov, vattenförbrukning och påverkan på den lokala infrastrukturen – inget av detta redovisas fullständigt.
Så här fungerar tillförlitlig AI
Ett starkare förtroende och bättre styrningsrutiner minskar ett företags exponering mot risker kopplade till rättstvister, regulatorisk risk, nyckelpersoner och anseende. Dessa risker är ekonomiskt väsentliga, och Morningstar Sustainalytics betraktar dem som exponering. Vi identifierar i vilka fall förtroendet ökar eller minskar ett företags risk. Riskerna för dessa två företag uppstår via två kanaler:
- Risker på uppsidan: införande inom företagen, kundbehållning, expansion
- Risker: risker kopplade till rättstvister, regulatorisk risk, bolagsstyrning och nyckelpersoner
Marknaderna verkar vara mer benägna att uppmärksamma fördelarna med förtroende än nackdelarna med risker kopplade till bolagsstyrning, reglering och efterlevnad. När de fundamentala förutsättningarna är jämförbara kan företag som uppvisar bättre bolagsstyrning, säkerhetskontroller, transparens och beredskap inför regleringar ha en lägre nedåtrisk. Ur ett operativt perspektiv förväntar vi oss att marknaderna kommer att fokusera på fyra mätbara drivkrafter:
- Kvaliteten på företagets intäkter
- Stabilitet i styrningen
- Regelverkskompatibilitet
- Transparens när det gäller beräkningskostnader.
Sammanfattningsvis utgår vi från etablerade AI-ramverk för att strukturera diskussionen kring sex dimensioner av pålitlig AI som investerare kan följa upp:
Sex tecken som tyder på att en AI är pålitlig ur investerarsynpunkt
Marknaderna kanske underskattar riskerna med AI
De händelser som diskuterats ovan visar att förtroenderelaterade risker redan har blivit uppenbara för investerare. Frågan är om investerarna inte tar full hänsyn till dem eftersom sådana risker ännu inte syns i nyckeltal för intäkter, marginaler eller användningsgrad. Vissa investerare kanske redan beaktar aspekter kring ”Trustworthy AI” genom att titta på faktorer som företagens användning, kundlojalitet och effektivitet. Börsintroduktionsprocessen och framtida offentliggöranden kommer också att göra riskerna kopplade till styrning, reglering och efterlevnad mer transparenta.
Anthropic och OpenAI utgör ett tidigt exempel på denna utveckling, men samma frågor kommer sannolikt att bli allt mer relevanta inom hela AI-sektorn i takt med att fler företag söker sig till de offentliga marknaderna.
