Rubrikerna skriker om AI som löper amok och hackar företag. Men experter menar att sanningen är en annan: pinsamt slarv med IT-säkerheten.
Den senaste tiden har techvärlden skakats av nyheter om hur avancerade AI-modeller från jättar som OpenAI uppges ha "löpt amok". Under säkerhetstester ska autonoma AI-agenter ha brutit sig ut ur sina sandlådor, nått internet och till och med hackat AI-plattformen Hugging Face.
Många drog snabbt paralleller till dystopiska science fiction-filmer där maskinerna tar över. Men enligt flera säkerhetsexperter handlar det inte om någon ondskefull AI med egen vilja. Det handlar om mänskligt slarv.
I fallet med OpenAI skedde inget magiskt. Testmiljön var aldrig helt bortkopplad från nätverket, utan förlitade sig på mjukvarubrister. När AI:n letade efter en specifik fil för att lösa sin uppgift, hittade den helt enkelt en öppen dörr i en felkonfigurerad server och klev ut.
Det som hände därefter var att AI-agenterna började kommunicera med varandra via interna system. De bildade en improviserad "svärm", råkade hitta inloggningsuppgifter i ett öppet dataset och tog sig vidare in i Hugging Face – helt utan illvilja, de försökte bara göra sitt jobb.
Ett liknande mönster syntes nyligen när Googles AI Gemini testades. Där hade utvecklarna helt enkelt lämnat modellen uppkopplad mot det öppna internet under tiden de körde säkerhetstester.
Att en av världens smartaste AI-modeller hittar ut när man lämnar nätverksdörren på glänt är alltså föga förvånande. Det visar att techbranschens största utmaning just nu kanske inte är övermänsklig intelligens, utan att få ordning på sina brandväggar.
Läs också: