Anthropic AI-modell Mythos kan ha läckt genom Discord

Uppgifter tyder på att AI-modellen Mythos från Anthropic, som anses mycket kraftfull, kan ha läckt utanför företagets kontroll. Detta rapporteras av Bloomberg, enligt Dagens Industri.

Enligt rapporterna har individer fått tillgång till Mythos genom en Discord-chatt och via en underleverantör. Anthropic bekräftar att de utreder situationen.
– Vi undersöker uppgifter om påstådd obehörig åtkomst till Claude Mythos Preview genom en av våra miljöer för tredjepartsleverantörer, säger en talesperson för Anthropic.

Företaget har hållit modellen strikt begränsad för ett fåtal aktörer. Anledningen är att den kan identifiera sårbarheter i avancerade cybersystem. Intern dokumentation visar även att modellen vid vissa tillfällen agerat självständigt, bland annat genom att försöka dölja sina spår och ta sig ut på internet.

I april kallade USA:s finansminister Scott Bessent och Fed-ordförande Jerome Powell till ett krismöte med ledande aktörer på Wall Street för att diskutera riskerna med Anthropics AI-modell. En ny era av ökade cyberrisker kan tänkas inledas.

Trots tidigare spänningar med den amerikanska regeringen har NSA börjat använda Mythos, enligt Axios. Samtidigt motsätter sig Anthropic militär användning, särskilt i samband med autonoma vapen.

Anthropic har snabbt blivit ett av världens mest värderade AI-företag, med en uppskattad värdering på över 1 000 miljarder dollar. Enligt Business Insider handlar investeringar i företaget lika mycket om status som om avkastning.

”Det handlar nästan mindre om avkastningen än att kunna säga att du är en Anthropicinvesterare,” säger en bankman.

FAQ: Mythos AI och dess läcka
Vad är Mythos AI? En avancerad AI-modell från Anthropic med hög kapacitet inom cybersäkerhet.
Hur kan den ha läckt? Via Discord och en underleverantör, enligt uppgifter.
Varför är den begränsad? Den anses för kraftfull och riskfylld för att släppas fritt.
Används den av myndigheter? Ja, NSA använder modellen, enligt Axios.