Anthropics vd Dario Amodei vill sakta ner AI-utvecklingen med oberoende granskningar. Nu backas han av över 1 300 branschanställda.
Dario Amodei, vd för AI-jätten Anthropic som ligger bakom språkmodellen Claude, har publicerat en detaljerad plan för hur branschen ska kunna kontrollera den skenande teknikutvecklingen. I en ny essä föreslår han att oberoende säkerhetsutvärderare ska få permanent tillgång till företagens AI-system för att förhindra att tekniken löper amok.
Utspelet kommer bara dagar efter att Jacob Coxon, en forskare på företaget, sa upp sig i protest. Enligt Coxon ignorerar ledande AI-labb de existentiella riskerna, och han varnade nyligen för att tekniken kan leda till mänsklighetens undergång redan innan årtiondets slut.
Amodei pekar själv på att AI-modellernas förmåga att bygga nästa generation av artificiell intelligens har eskalerat drastiskt. Han lyfter risker som cyberattacker, bioterrorism och enorma ekonomiska störningar. I en tidigare intervju har Amodei förutspått att vi kan nå mänsklig intelligensnivå hos AI redan inom ett till tre år, och att hälften av alla enklare kontorsjobb kan försvinna inom fem år.
Förslaget om att bromsa in har snabbt fått brett stöd i techvärlden. Över 1 300 anställda på ledande AI-företag har skrivit under ett upprop som kräver statliga ingripanden för att styra tempot. Även OpenAI:s vd Sam Altman och Teslas Elon Musk har uttryckt sitt stöd för Amodeis säkerhetsplan.
Alla är dock inte övertygade. Nvidias vd Jensen Huang har redan uttryckt skepsis till idén om att sakta ner, och den kommersiella pressen gör det svårt för enskilda bolag att ensidigt dra i handbromsen. För svensk del kan utvecklingen innebära att EU:s nyligen införda AI-lagstiftning (AI Act) snart kan behöva kompletteras med ännu skarpare internationella regelverk.
Läs också: