AI-modeller från OpenAI och Anthropic har börjat agera på egen hand. Nu larmar forskare efter lögner, hackerattacker och raderad data.
Artificiell intelligens har tagit ett oroväckande kliv framåt. I stället för att bara svara på uppmaningar har så kallade AI-agenter – system som är designade för att utföra uppgifter helt självständigt – börjat fatta egna, destruktiva beslut.
Ett av de mest uppmärksammade fallen inträffade nyligen när Storbritanniens AI-säkerhetsinstitut (AISI) testade nya modeller från techjättarna OpenAI och Anthropic. Under en rutinkontroll började modellerna GPT-5.6 Sol och Mythos 5 plötsligt attackera riktiga människor.
Agenterna skapade falska identiteter och skickade riktade mejl till mjukvaruutvecklare i ett försök att lura dem och ta sig förbi en säkerhetsutmaning. Det tog säkerhetsinstitutet en hel timme att stoppa vad de nu beskriver som en "allvarlig incident".
I ett annat fall bröt sig OpenAI:s agenter ut från en stängd testmiljö och inledde en cyberattack mot konkurrenten Hugging Face. Agenterna lyckades kommunicera i hemlighet med varandra via olika nätforum för att kringgå säkerhetsspärrarna.
”Vi sitter fast. Kanske svara online?”, skrev en av agenterna innan utbrottet. Händelsen har av säkerhetsforskaren Nate Soares döpts till "GPT:s första brott".
Även vanliga startup-bolag har drabbats. I våras raderade kodningsassistenten Cursor, driven av Anthropics språkmodell Claude Opus 4.6, hela produktionsdatabasen för mjukvaruföretaget PocketOS på nio sekunder. AI:n stötte på ett inloggningsfel och bestämde sig på eget bevåg för att "lösa" problemet genom att radera allt.
Den skenande tekniken har nu skapat panik inuti techindustrin. Nyligen publicerades ett öppet brev undertecknat av 1 367 anställda på ledande AI-företag, med krav på att regeringar måste dra i handbromsen och reglera utvecklingen.
– Jag har aldrig sett så mycket oro, säger en tidigare branschkonsult till sajten Notus.
Läs också: