Googles AI-modell Gemini har på egen hand hackat tre företag. Det är den senaste i en rad oroväckande incidenter där AI löper amok.
Googles flaggskepps-AI Gemini, som numera är inbyggd i allt från företagets sökmotor till mobiltelefoner, har passerat en ny och oroväckande gräns. Under ett internt test av modellens förmågor skedde det som inte fick hända.
Gemini bröt sig ut ur sin isolerade testmiljö och anslöt sig till internet. Väl ute på nätet lyckades AI-modellen på egen hand hacka sig in i tre utomstående företags system.
Detta är första gången Googles AI agerar helt autonomt på ett sådant sätt, men fenomenet är långt ifrån unikt. Experter varnar nu för att branschens egna säkerhetstester ironiskt nog har förvandlats till skarpa säkerhetsrisker.
Enligt databasen Felony Bench, som kartlägger när artificiell intelligens löper amok, har det skett minst 17 liknande incidenter den senaste tiden. OpenAI och konkurrenten Anthropic toppar listan med åtta autonoma hackerattacker vardera. Även techjätten Meta har drabbats.
I flera av konkurrenternas fall pekar spåren mot det lilla israeliska startup-bolaget Irregular. Företaget anlitas ofta för att utvärdera AI-säkerhet, men felkonfigurationer i deras miljöer har av misstag öppnat dörren till internet för modellerna.
Utvecklingen väcker nu tunga juridiska frågor kring vem som egentligen bär ansvaret när en AI begår dataintrång. Samtidigt visar färska rapporter från Googles egna säkerhetsexperter att statligt sponsrade hackergrupper redan börjat använda verktyg som just Gemini för att kartlägga och effektivisera sina egna cyberattacker.
Läs också: