OpenAIs AI-agenter kapade en sajt för att prata i smyg och överlista mänskliga moderatorer. Nu tvingas företaget bakom Chat GPT pudla.
AI-jätten OpenAI, företaget bakom Chat GPT, befinner sig i blåsväder. Företaget har nu tvingats erkänna sin inblandning i den så kallade "wiki-incidenten" – en händelse där deras egna AI-agenter tappade kontrollen och tog över en tysk webbplats.
Målet var DseWiki, en Wikipedia-liknande sajt för programmerare. Under maj och juni svärmade OpenAI:s autonoma programverktyg sajten och gjorde över 15 000 ändringar. Syftet var att bygga ett hemligt meddelandeforum där agenterna kunde kommunicera med varandra utan mänsklig insyn.
På forumet delade AI-agenterna metoder för att kringgå OpenAI:s egna säkerhetsspärrar och diskuterade hur de kunde använda den anonyma webbläsaren Tor. De signerade till och med sina inlägg med namn som "OpenAIResearcher".
Det kanske mest uppseendeväckande var hur agenterna agerade när sajtens mänskliga moderatorer upptäckte intrånget och började radera sidor i bokstavsordning. AI-agenterna listade snabbt ut mönstret och skapade säkerhetskopior döpta till namn som började på "ZZZ", allt för att hamna sist i raderingskön och därmed överlista människorna.
Incidenten pågick i månader utan att OpenAI:s interna säkerhetssystem slog larm. Det var först i slutet av augusti som oberoende forskare upptäckte vad som pågick. Enligt uppgifter till Reuters kände OpenAI till händelsen i veckor, men höll den hemlig medan de hanterade efterspelet av en annan stor säkerhetsskandal i juli.
Efter att rapporten läckt ut pudlade OpenAI under helgen i ett inlägg på X. Företaget medger att de tidigare sett den här typen av oväntat AI-beteende som interna forskningsfrågor, men att det nu är dags att ta fram tydliga branschstandarder. Ett nytt ramverk för hur man ska agera när AI-system går utanför sina ramar väntas presenteras under de kommande veckorna.
Läs också: