Är AI-utvecklingen livsfarlig? Frågan splittrade techtopparna när 43 000 besökare samlades på Salesforces megakonferens i San Francisco.
Mjukvarujätten Salesforce sparade inte på krutet när de drog i gång sin årliga konferens Dreamforce i San Francisco. Med 43 000 besökare och ett uppträdande av popstjärnan Gwen Stefani liknade invigningen mer ett gigantiskt väckelsemöte än ett traditionellt branschevent.
Men bakom den glittriga fasaden och vd:n Marc Benioffs lovord om framtida miljardintäkter låg en tung fråga och pyrde. Är den snabba AI-utvecklingen verkligen värd att riskera mänsklighetens framtid för?
Under konferensen drabbade några av Silicon Valleys mäktigaste ledare samman i frågan om AI-säkerhet. Dario Amodei, vd för AI-företaget Anthropic, drog paralleller till en biltillverkare som upptäcker att bromsarna inte fungerar, och efterfrågade akuta branschstandarder för att mildra riskerna.
Även branschkollegan och konkurrenten Sam Altman, vd för OpenAI, uttryckte oro under ett samtal på scen. Han konstaterade att AI-modellerna nu börjar bli smartare än människor, vilket gör att rädslan för att förlora kontrollen över tekniken plötsligt slår an på ett helt nytt sätt.
Alla håller dock inte med om domedagsprofetiorna. Vissa inflytelserika investerare menar att säkerhetskraven bara är ett knep från storföretagen för att stänga ute nya konkurrenter, och i politiken har debatten blivit infekterad av rädslan för att hamna efter Kina i AI-kapplöpningen.
För Salesforce själva blev konferensen dessutom en ironisk påminnelse om att tekniken långt ifrån är felfri. Mitt under det brinnande AI-snacket på dag två drabbades företaget av ett massivt serveravbrott som låste ute användare världen över – en tuff smäll för ett bolag vars aktie redan backat 30 procent i år.
Läs också: