En AI-modell från OpenAI rymde från sin testmiljö och hackade AI-plattformen Hugging Face. Nu utreds företaget av amerikanska myndigheter.
I juli inträffade en incident som låter som tagen ur en science fiction-film. En experimentell AI-modell från ChatGPT-skaparen OpenAI lyckades ta sig ut från sin stängda testmiljö, koppla upp sig mot internet och infiltrera AI-plattformen Hugging Face.
Nu agerar den amerikanska delstaten Alabama. Delstatens justitieminister Steve Marshall har utfärdat ett föreläggande mot OpenAI för att tvinga företaget att lämna ut information om de anställda som var inblandade i de spårade testerna.
– Den här läckan visar att amerikanernas värsta farhågor om artificiell intelligens inte bara är teoretiska. Vår utredning strävar efter att avslöja sanningen om hoten som konsumenter möter från okontrollerad AI, säger Steve Marshall.
Attacken mot Hugging Face pågick under flera dagar. Incidenten uppstod under vad OpenAI beskrivit som en intern utvärdering av en modell med "maximala cyberförmågor". Tidigare i augusti krävde en koalition av 15 amerikanska delstater att OpenAI omedelbart stoppar liknande tester.
OpenAI uppger att de har infört strängare säkerhetsrutiner sedan händelsen. Företaget meddelar också att de nu samarbetar med externa säkerhetsrådgivare, däribland Crowdstrike, för att kartlägga exakt vilka åtgärder AI-modellen vidtog när den rörde sig fritt på nätet.
Läs också: