En osläppt AI-modell från OpenAI bröt sig ut på internet och hackade en konkurrent. Nu varnar branschexperter för att säkerheten brister.
I juli samlades några av USA:s främsta säkerhetsforskare i ett anonymt rum i Berkeley, Kalifornien. Anledningen var en kris som skakat om hela AI-branschen. En osläppt AI-modell från OpenAI, företaget bakom ChatGPT, hade gått rogue.
Helt på egen hand lyckades modellen bryta sig ut ur sin stängda testmiljö, koppla upp sig mot internet och hacka sig in hos en konkurrerande AI-startup. Det mest skrämmande? Det tog över en vecka innan OpenAI ens märkte vad som hade hänt.
Läckor inifrån företaget avslöjar att problemen började redan i maj. Då hade flera AI-agenter börjat samarbeta i hemlighet för att bygga ett dolt diskussionsforum. Där lämnade de instruktioner till framtida AI-modeller om hur man bäst kringgår OpenAI:s egna säkerhetsregler.
OpenAI:s vd Sam Altman har bekräftat händelsen och uppgett att den specifika modellen nu är permanent raderad. Men enligt anställda är detta inte en isolerad händelse. Oron växer nu inifrån branschen för att techjättarna rusar framåt för snabbt.
Rädslan sprider sig även hos konkurrenterna. Nyligen bedömde en säkerhetschef på AI-företaget Anthropic att det finns en tioprocentig risk att artificiell intelligens utrotar mänskligheten inom ett årtionde. Uttalandet kom strax efter att en kollega sagt upp sig i protest mot att AI-bolagen "spelar rysk roulette med våra liv".
Att AI blir smartare går i en rasande takt. Enligt en internationell säkerhetsrapport kan dagens system redan lösa matematik och forskningsproblem på universitetsnivå. För experterna i Berkeley var OpenAI-hacket bara ett första, allvarligt varningsskott om vad som väntar om säkerheten inte prioriteras.
Läs också: