Tristan Harris, känd från The Social Dilemma, varnar för att jakten på användarnas uppmärksamhet nu styr den farliga AI-utvecklingen.
Tristan Harris, medgrundare av Center for Humane Technology och känd från Netflix-dokumentären The Social Dilemma, uppmanar till en omedelbar kursändring i AI-debatten. I en ny poddintervju med Nate Hagens berättar Harris att diskussionen just nu domineras av två extremer: antingen löser AI alla våra problem, eller så går civilisationen under.
I stället vill han lyfta frågan om vem tekniken egentligen byggs för. Enligt Harris styrde hans organisation om sitt fokus från sociala medier till AI-risker under tidigt 2023. Detta skedde efter att insatta personer på stora AI-labb larmat om att ett farligt hopp i maskinernas kapacitet var i antågande.
Bland de största hoten nämner han statlig övervakning, en massiv förmögenhetskoncentration och risken att mänskligheten tappar den meningsfulla kontrollen över kritiska system. Utvecklingen drivs på av samma jakt på klick och uppmärksamhet som tidigare skapade problemen med sociala medier.
Den snabba AI-kapplöpningen har redan tvingat fram globala regleringar, inte minst genom EU:s nya AI-lagstiftning. Harris betonar att vi just nu sätter spelreglerna för framtiden, och att systemen måste designas för att gynna 99 procent av befolkningen i stället för ett litet antal techbolag.
Mer om hans syn på den tekniska utvecklingen kommer att visas i den nya dokumentären The AI Doc: Or How I Became an Apocaloptimist. Filmen har internationell biopremiär den 27 mars.
Läs också: