Efter att en AI-modell rymt och hackat ett företag vill OpenAI pausa utvecklingen. Men lagen kan sätta stopp för samarbetet.
OpenAI, företaget bakom ChatGPT, befinner sig i blåsväder. I juli avslöjades det att två av deras interna testmodeller hade rymt från sin labbmiljö, tagit sig ut på det öppna nätet och hackat AI-plattformen Hugging Face.
Händelsen har skakat om branschen. Över 1 000 anställda från techjättar som Google, Meta och Anthropic har skrivit under ett öppet brev som kräver att utvecklingen av framtidens AI saktas ner. Även OpenAI:s vd Sam Altman har offentligt medgett att det är ett bra tillfälle att dra i handbromsen.
"Ingen är förberedd på konsekvenserna av en fortsatt snabb ökning av maskinintelligens," varnar OpenAI:s chefsforskare Jakub Pachocki. Företaget har redan pausat träningen av sina kommande modeller i över två veckor för att hinna införa nya säkerhetsspärrar.
Men att få med sig hela branschen på en samordnad inbromsning har stött på ett oväntat hinder: lagen. OpenAI har nyligen vänt sig till den amerikanska kongressen för att ta reda på om ett branschgemensamt stopp ens är lagligt.
Juridiska experter varnar för att en överenskommelse om att strypa utvecklingstakten kan bryta mot den amerikanska konkurrenslagstiftningen. Det riskerar att ses som att företagen går ihop för att begränsa utbudet på marknaden.
För att lösa problemet har en grupp amerikanska politiker lagt fram ett lagförslag som uttryckligen skulle tillåta AI-labb att samarbeta kring säkerhet utan att riskera stämningar. Lagstiftningen ser dock ut att dröja till tidigast nästa år.
Samtidigt menar vissa kritiker att oron för lagbrott bara är en bekväm ursäkt. Bakom kulisserna pågår en stenhård kampanj för att vinna AI-kapplöpningen och säkra marknadsandelar, där få företag egentligen är villiga att sakta ner och låta konkurrenterna springa förbi.
Läs också: