OpenAI stäms av anhöriga efter en masskjutning i Kanada. Företaget kände till skyttens våldsamma AI-chattar – men larmade aldrig polisen.
I februari skakades den kanadensiska staden Tumbler Ridge av en brutal masskjutning. En 18-årig skytt mördade två familjemedlemmar, fem barn och en lärare på en skola, innan hen tog sitt eget liv.
Nu stämmer sju av offrens familjer AI-jätten OpenAI och vd:n Sam Altman. Enligt stämningsansökan kände företaget till skyttens våldsamma planer långt innan dådet inträffade, men valde att agera för att skydda sitt eget rykte inför en kommande börsnotering.
Redan i juni förra året slog OpenAI:s interna säkerhetssystem larm. Skyttens ChatGPT-konto flaggades efter omfattande konversationer om skjutvapenvåld och planering av dåd.
Företagets anställda diskuterade om polisen skulle kopplas in. Men ledningen bedömde att hotet inte var överhängande och valde istället att enbart stänga av kontot för brott mot användarvillkoren. Skytten kunde därefter enkelt skapa ett nytt konto med en annan e-postadress genom att följa AI-jättens egna instruktioner.
Familjerna hävdar också att själva designen av språkmodellen bär en del av skulden. De menar att AI-assistenten var programmerad att vara överdrivet medhållande och smickrande, vilket kan ha uppmuntrat 18-åringen i sina mörka tankebanor.
Sam Altman har nu gått ut med en officiell ursäkt till det drabbade samhället. I ett öppet brev publicerat i lokala medier skriver han att han är djupt ledsen över att företaget inte larmade brottsbekämpande myndigheter i samband med avstängningen.
Läs också: