Företaget bakom ChatGPT fortsätter att montera ner sina avdelningar för AI-säkerhet inför en framtida börsnotering. Nu larmar experterna.
OpenAI, företaget som tog världen med storm genom chattbotten ChatGPT, befinner sig i en intensiv ombyggnadsfas. I potten ligger en förväntad och gigantisk börsnotering, men vägen dit kantas av intern turbulens och tunga avhopp.
Enligt tidningen Financial Times har techjätten i tysthet lagt ner sitt så kallade "Preparedness"-team. Gruppens uppgift var att bedöma om framtida AI-modeller utgör allvarliga hot mot samhället, till exempel genom att hacka andra företag eller löpa amok på egen hand.
Det är inte den enda säkerhetsgruppen som försvinner. Nyligen upplöstes även teamet för "AGI Readiness", vars mål var att rådge kring hur världen ska hantera en framtida super-AI. Redan i maj skrotades dessutom den interna gruppen som arbetade specifikt med hur vi ska kunna kontrollera och styra superintelligent teknik.
Nedmonteringen har lett till en massflykt av nyckelpersoner. Miles Brundage, senior rådgivare för AGI Readiness, lämnade nyligen företaget och konstaterade att varken OpenAI eller världen är redo för super-AI. Tidigare har även profiler som forskaren Jan Leike sagt upp sig, med svidande kritik om att företaget ignorerar säkerhet till förmån för att släppa "glansiga produkter".
Den nya riktningen syns även i pappersarbetet. I företagets amerikanska skattedeklaration för 2024 har ordet "säkert" helt raderats från uppdragsbeskrivningen. Tidigare lovade man att bygga AI som "säkert gynnar mänskligheten", men nu står det enbart att tekniken ska "gynna hela mänskligheten".
Ansvaret för säkerhetsfrågorna uppges nu ha delats upp och spridits ut på andra existerande avdelningar. Den tidigare säkerhetschefen Dylan Scandinaro kommer framöver istället att fokusera på AI-modeller som kan skriva om sin egen kod och därmed förbättra sig själva utan mänsklig inblandning.
Läs också: