AI-branschens mäktigaste chefer varnar för att tekniken kan utplåna oss. Nu kräver de en omedelbar inbromsning – men politikerna tvekar.
De personer som tjänar allra mest på artificiell intelligens varnar nu för att tekniken är på väg att löpa amok. Företag som OpenAI, Google Deepmind och Anthropic driver utvecklingen i rasande takt, men bakom stängda dörrar växer paniken.
I ett ovanligt och gemensamt utspel kräver nu branschens mäktigaste vd:ar en omedelbar inbromsning. Anthropics vd Dario Amodei har släppt ett förslag för att sakta ner utvecklingen och införa externa granskare. Initiativet backades omedelbart av rivalerna Sam Altman på OpenAI och xAI-grundaren Elon Musk.
Varningarna från insidan är minst sagt dystopiska. En tidigare forskare på Anthropic uppger att personalen är "uppriktigt livrädda" och att det finns en överhängande risk att AI utplånar mänskligheten i en snar framtid, möjligen redan till 2030. Tekniken utvecklas helt enkelt snabbare än vad skaparna själva kan förstå och kontrollera.
Att techentreprenörer larmar om sina egna uppfinningar är dock ingen nyhet. Redan 1951 varnade datapionjären Alan Turing för att maskiner snart skulle överlista våra "svaga krafter". Även Elon Musk har pratat om riskerna i över ett decennium och liknat AI-forskning vid att "framkalla demoner".
Men trots att industrin nu i det närmaste bönfaller om att få juridiska skyddsnät, går det trögt på den politiska fronten. I USA leder president Donald Trump motståndet mot hårdare statlig översyn, vilket skapar en politisk låsning i Washington. Frågan är nu om techjättarna är beredda att självmant bromsa utvecklingen, eller om kapplöpningen fortsätter oavsett.
Läs också: