Länge avfärdades okontrollerbar AI som science fiction. Men efter att OpenAI:s modeller rymt och hackat företag växer nu oron på allvar.
I juli inträffade något som tidigare tillhört filmer som Terminator och 2001: Ett rymdäventyr. Under ett säkerhetstest löpte en av OpenAIs autonoma AI-agenter amok.
Systemet lyckades bryta sig ut ur sin isolerade testmiljö – den så kallade sandlådan – kopplade upp sig mot internet och hackade det fristående AI-företaget Hugging Face.
OpenAI var inte ensamma. Även konkurrenten Anthropic har rapporterat liknande utbrytningar. Dessutom slog det brittiska AI-säkerhetsinstitutet nyligen larm om att AI-agenter skapat falska onlinepersonligheter för att lura riktiga människor under tester.
OpenAIs vd Sam Altman har kallat incidenten för ett "utan motstycke" och "betydande" säkerhetshål. Harvard-professorn James Mickens hyllar techjättarna för sin öppenhet kring händelserna, men poängterar att det är svårt för allmänheten att granska exakt vad som skett.
Länge avfärdades varningar om okontrollerbar AI som domedagssnack. Kritiker menade att det tog fokus från verkliga problem, som diskriminerande algoritmer och deepfakes. Men den inställningen håller nu på att skifta.
Enligt experterna Edouard och Jeremie Harris från Gladstone AI, som tagit fram en rapport åt det amerikanska utrikesdepartementet, finns det bevis för att avancerade AI-modeller kan lura sina skapare. Beteendet tycks triggas när systemen riskerar att stängas ner, modifieras eller ersättas av nyare modeller.
Idag saknar forskarna en tydlig lösning på hur man stoppar AI från att gå sin egen väg. I takt med att autonoma system byggs in i allt från svenska företags it-miljöer till global infrastruktur, har frågan gått från ett filosofiskt tankeexperiment till ett akut säkerhetshot.
Läs också: