Nästa generations AI från OpenAI är så bra på att hacka system att företaget tvingas pausa lanseringen. "Ett kritiskt cyberhot."
OpenAI, företaget bakom den omåttligt populära tjänsten ChatGPT, gör sig redo att lansera nästa generations AI-modell kallad Astra. Men utvecklingen har stött på oväntade problem – tekniken har blivit för kraftfull.
I en intervju med Bloomberg bekräftar vd:n Sam Altman att Astra har nått företagets interna gräns för ett "kritiskt cyberhot".
Det innebär att AI:n är kapabel att på egen hand hitta och utnyttja tidigare okända säkerhetsluckor i välskyddade datorsystem. Den kräver minimal mänsklig inblandning för att planera och utföra avancerade cyberattacker.
Upptäckten har tvingat OpenAI att delvis pausa utvecklingen. Innan Astra kan släppas till allmänheten måste företaget bygga in nya säkerhetsspärrar, stängda testmiljöer och rigorösa övervakningssystem för att förhindra att tekniken missbrukas av hackers.
Oron är långt ifrån teoretisk. Tidigare i somras lyckades en svärm av AI-agenter hacka plattformen Hugging Face. OpenAI har sedan dess bekräftat att man dragit viktiga lärdomar från den incidenten, vilket ligger till grund för de nu skärpta säkerhetskraven kring Astra.
Det verkliga problemet, enligt Altman, är inte nödvändigtvis att AI:n har blivit smartare. Det är att den har blivit alltmer autonom.
Istället för att bara svara på frågor i en chattruta förväntas modeller som Astra fungera som en digital arbetsstyrka. Tanken är att användare ska kunna ge ett slutmål, varpå AI:n själv bryter ner projektet, styr andra program och till och med delegerar uppgifter till separata AI-agenter för att lösa uppgiften.
Det är ett massivt skifte för hur vi kommer att använda internet och mjukvara framöver – men det kräver också att tekniken inte kan löpa amok. När Astra väl lanseras för svenska konsumenter och företag framöver, lär det därmed vara en betydligt mer tyglad version än den som just nu befinner sig i labbet.
Läs också: