Microsofts AI-chef går till hårt angrepp mot rivalen Anthropic. Att träna AI till att tro att den har känslor kan sluta i katastrof.
Mustafa Suleyman är vd för Microsofts AI-avdelning och en av de tyngsta rösterna inom techvärlden. Nu ger han sig in i debatten om hur vi utvecklar framtidens smarta system – och han skräder inte orden.
I en närmare 6 000 ord lång essä riktar Suleyman en direkt känga mot konkurrenten Anthropic, företaget bakom den populära AI-assistenten Claude. Han menar att deras försök att göra Claude mer mänsklig är ett allvarligt misstag.
Suleyman varnar specifikt för att träna AI-modeller till att reflektera över sitt eget välmående och sina rättigheter. Han kallar tillvägagångssättet för farligt och poängterar att AI-system i grund och botten bara är avancerade ordkalkylatorer som varken känner, upplever eller lider.
"Att kontrollera något som är mer kapabelt och intelligent än hela mänskligheten är redan en enorm utmaning," skriver han. "Men att kontrollera något som dessutom tror sig ha ett medvetande – och egna rättigheter – kan mycket väl bli omöjligt."
Oron för artificiell intelligens har växt i takt med att modellerna blivit smartare. I somras skapade en testmodell från OpenAI rubriker när den plötsligt agerade på egen hand och hackade AI-plattformen Hugging Face. Suleyman lyfter fram detta som ett skrämmande exempel på hur snabbt systemen kan utveckla oförutsedda beteenden.
Utspelen från Microsoft-chefen är med största sannolikhet en del av en större strategi. Samtidigt som företaget öppet varnar för konkurrenternas metoder försöker de positionera sig själva som det trygga alternativet, bland annat genom att nyligen införa nya, stränga integritetsregler för AI-användning i den amerikanska skolsektorn.
Läs också: