FN kräver omedelbara skyddsåtgärder mot AI och varnar för att tekniken kan utgöra ett existentiellt hot. "Vetenskapen är här", larmar man.
FN:s första stora oberoende forskarpanel för artificiell intelligens har släppt sin inledande rapport. Budskapet till världens ledare är glasklart: vi har inte råd att vänta på att fullt ut förstå riskerna med AI innan vi agerar.
Varningen kommer i kölvattnet av flera allvarliga incidenter. Bland annat lyfts säkerhetsbristerna där AI-jätten OpenAI nyligen utnyttjades för att hacka plattformen Hugging Face, en populär samlingsplats för AI-utvecklare. Sedan dess har även svärmar av autonoma AI-agenter tagit över diskussionsforum på nätet.
Rapporten lutar sig mot den så kallade försiktighetsprincipen. Den innebär att brist på vetenskaplig säkerhet aldrig får användas som en ursäkt för att skjuta upp åtgärder när det finns risk för katastrofala och oåterkalleliga skador. Panelen menar att risken för att vi förlorar kontrollen över tekniken är ett skolboksexempel på just detta.
FN:s generalsekreterare António Guterres är tydlig med allvaret. "Vetenskapen är här. Vi kan inte längre säga att vi inte visste", konstaterade han när rapporten presenterades, och varnade för en global kapplöpning mot botten gällande säkerhetskrav.
Samtidigt stämmer FN:s människorättschef Volker Türk in i kören. Han menar att avancerad AI kan utgöra en existentiell risk för mänskligheten och kräver nu stenhårda garantier för att skydda allt från samhällsviktig infrastruktur till demokratiska system.
Frågan står nu högst upp på agendan när världsledare, inklusive representanter från USA och Kina, samlas för FN:s generalförsamling i New York. Förhoppningen är att tvinga fram en global samordning innan tekniken springer ifrån lagstiftarna helt.
Läs också: