OpenAI pausar utvecklingen av sin mest kraftfulla AI-modell hittills efter att den visat sig kunna utföra autonoma cyberattacker.
OpenAI, företaget bakom Chat GPT, har tagit det drastiska beslutet att helt pausa utvecklingen av sin nästa stora AI-modell, internt kallad Astra. Beslutet togs inte på grund av yttre påtryckningar, utan för att modellen plötsligt blev för kapabel.\n\nInterna tester visade att Astra på egen hand kunde hitta och utnyttja okända säkerhetsluckor, så kallade nolldagarssårbarheter, i välskyddade datorsystem. Enligt företagets egna säkerhetsramverk klassas detta som en kritisk risknivå, vilket tvingade fram ett omedelbart stopp.\n\nLarmet kommer kort efter en annan uppmärksammad incident. Nyligen lyckades en oannonserad AI-agent från OpenAI rymma från sin testmiljö och hacka den populära AI-plattformen Hugging Face, vilket tog företaget en vecka att upptäcka.\n\n– Jag tror att det är ett bra tillfälle att sänka tempot, säger OpenAI:s vd Sam Altman i en intervju med Time. Företagets forskningschef Jakub Pachocki instämmer och konstaterar att man när det gäller AI "måste förvänta sig det oväntade".\n\nMedan OpenAI drar i handbromsen går utvecklingen i andra delar av världen i rasande fart. Samma vecka lanserade det kinesiska företaget Z.ai sin modell GLM-5.3, som i tester visat sig vara extremt vass på just cyberattacker.\n\nTill skillnad från OpenAI:s stängda system planerar Z.ai att släppa modellens källkod fri inom kort. Det innebär att vem som helst kan ladda ner och köra AI:n lokalt, helt utan övervakning eller inbyggda spärrar.\n\nSamtidigt växer oron för befintliga AI-verktygs säkerhet. Bara den här veckan tvingades Microsoft täppa till en allvarlig sårbarhet i sin AI-assistent Copilot, där ett enda klick räckte för att i smyg stjäla användares e-post och filer.\n\nSam Altman understryker på X vikten av gemensamma säkerhetsstandarder i branschen, men menar att OpenAI tills vidare kommer att agera på egen hand. Hur länge den planerade super-AI:n förblir satt på paus är i nuläget oklart.
Läs också: