Amazons vd slog larm om Anthropics AI-modell

Enligt uppgifter handlade det om ett möjligt så kallat ”jailbreak”, alltså ett sätt att kringgå modellens säkerhetsspärrar. Nu kommer också uppgifter om att det var anställda på Amazon som först slog larm om bristerna.

Amazons vd Andy Jassy uppgav att de ska ha använt en rad uppmaningar för att få Anthropics Fable 5-modell att lämna information som kunde användas för att underlätta cyberattacker.

– Som en ledande molnleverantör som betjänar ett stort antal kunder inom både privat och offentlig sektor är det inte ovanligt att myndigheter söker våra råd när det gäller potentiella säkerhetsrisker. Vi delar inte detaljerna i sådana diskussioner, sade en talesperson för Amazon.

Vägrade vidta åtgärder

Kort därefter fick Anthropic en order från Vita huset att antingen åtgärda sårbarheterna eller ta ned de berörda modellerna, Fable 5 och Mythos 5. Beslutet ska ha godkänts av president Trump, enligt amerikanska tjänstemän.

Efter att Anthropics vd Dario Amodei vägrat att åtgärda sårbarheten eller dra tillbaka modellen införde myndigheterna exportkontroller mot bolaget, skrev Vita husets rådgivare David Sacks i ett inlägg på sociala medier på lördagen.

”Administrationens hopp är nu att Anthropic kommer att lösa säkerhetsproblemet, att exportkontrollerna kommer att hävas och att Fable återigen kommer att göras allmänt tillgängligt”, skrev Sacks.

Ordern var tänkt att begränsa åtkomsten för utländska medborgare med hänvisning till nationell säkerhet. Anthropic menar dock att effekterna i praktiken blev betydligt bredare och att företaget därför tvingades stänga av åtkomsten överallt, även i USA.