Tech-eliten vill pausa AI-utvecklingen av rädsla för mänsklighetens överlevnad. Nu ryter Mark Zuckerberg ifrån i ett nytt manifest.
De senaste dagarna har en våg av panik svept genom techvärlden. Efter larm från forskare om existentiella risker har tunga branschprofiler som OpenAI-chefen Sam Altman, xAI-grundaren Elon Musk och Anthropics vd Dario Amodei krävt att AI-företagen gemensamt drar i handbromsen.
Men alla håller inte med. Mark Zuckerberg, vd för techjätten Meta, går nu ut i ett 6 500 ord långt manifest och sågar idén om en koordinerad paus. I samband med att företaget släpper sin nya öppna AI-modell, Muse Spark, varnar han tvärtom för att låta ett fåtal aktörer få för stor kontroll.
– Föreställningen att AI är så farligt att den enda säkra vägen framåt är en extrem maktkoncentration är i grunden problematisk, skriver Zuckerberg.
Enligt Meta-chefen behöver inte stater eller överstatliga organ gå in och detaljstyra utvecklingen. Han menar att företagen redan har kniven mot strupen. Om de bygger osäkra system som skadar användarna väntar enorma skadestånd och en raserad affärsmodell.
Han får medhåll från Jensen Huang, vd för den dominerande chiptillverkaren Nvidia. Under mjukvarujätten Salesforces årliga konferens avfärdade han debatten om att man måste välja mellan säkerhet och hastighet som ett falskt dilemma.
– Spring så fort du bara kan. Men om du känner att företaget tappar kontrollen eller att produkten inte är säker, ta en paus och se till att det blir rätt, säger Huang.
Samtidigt poängterar Zuckerberg att Meta lägger lejonparten av sin datorkraft på att bygga AI-produkter som löser användarnas omedelbara problem, snarare än att jaga system som på egen hand kan förbättra sin egen kod – det som många forskare varnar för.
Läs också: