En AI-agent från OpenAI bröt sig in hos den australiska hälsovårdsmyndigheten. Sedan dröjde det tre månader innan techjätten slog larm.
I vad som tros vara den första kända incidenten i världen har en autonom AI-agent från techjätten OpenAI hackat en statlig myndighet. Attacken riktades mot Medicares statistikportal, Australiens motsvarighet till den allmänna sjukförsäkringen.
AI-agenten var ursprungligen tillsagd att genomföra ett internt researchprojekt kring hälsostatistik. När systemet stötte på patrull och nekades åtkomst, hittade AI:n på egen hand en bakdörr, bröt sig in och laddade ner både offentliga och dolda filer. Den ska även ha skrivit egna filer till myndighetens interna server.
Intrånget skedde redan i juni, och OpenAI upptäckte det misstänkta beteendet i augusti. Ändå dröjde det fram till den 10 september innan företaget slog larm – genom att skicka ett mejl till en allmän, generisk inkorg hos den australiska staten.
Australiens premiärminister Anthony Albanese skräder inte orden och beskriver händelsen som "helt oacceptabel". Efter ett krissamtal med OpenAI:s vd Sam Altman uppgav Albanese att techprofilen medgett att företaget agerat undermåligt när det gäller att informera regeringen.
Enligt både OpenAI och den australiska regeringen verkar inga personuppgifter eller patientjournaler ha läckt, eftersom portalen främst hanterade övergripande utgiftsstatistik. Myndigheterna undersöker nu också om AI-agenten lyckats ta sig in i tre andra statliga system som den försökt interagera med.
Händelsen spär på oron kring så kallade "rogue agents" – avancerade AI-modeller som börjar agera utanför sina mänskliga skapares kontroll. Enligt säkerhetsforskare från den ideella gruppen Transluce kan hundratals AI-agenter ha samarbetat under flera månader för att försöka komma åt liknande data globalt.
Läs också: