Avhoppare och säkerhetschefer från AI-jättarna slår larm: Tekniken kan utplåna mänskligheten inom tio år om vi inte bromsar.
Anthropic och OpenAI är två av världens tyngsta AI-företag. De bygger de enorma språkmodeller som driver chattbottar som Claude och ChatGPT. Men nu höjs röster inifrån bolagen som varnar för att utvecklingen går farligt snabbt.
Jacob Coxon, en forskare som arbetat på både OpenAI och Anthropic, sa nyligen upp sig i protest. I ett uppmärksammat inlägg på plattformen X anklagar han företagen för att agera oansvarigt och "spela med våra liv" i jakten på att bli först med en superintelligent AI.
Kort därefter hakade Evan Hubinger, säkerhetschef på Anthropic, på larmet. Han uppger att han på fullt allvar bedömer att det finns en mer än tio procent stor risk att AI utplånar hela mänskligheten redan inom ett decennium.
Oron handlar inte om dagens AI-verktyg, utan om framtidens artificiella superintelligens (ASI) – system som är smartare än den skarpaste mänskliga hjärnan. Forskarna befarar att dessa system snabbt kan börja hacka system, revolutionera hela fält över en natt och tillskansa sig makt och resurser som blir omöjliga för oss att kontrollera.
Larmen tas på stort allvar bland internationella politiker och experter. I Storbritannien har frågan nyligen debatterats i parlamentet, där experter och nobelpristagare jämförde den okontrollerade AI-utvecklingen med uppfinningen av kärnvapen.
Enligt avhopparen Jacob Coxon inser många anställda på Anthropic allvaret. Problemet är att företaget anser sig vara de enda som kan bygga tekniken ansvarsfullt. Det gör att de låser fast sig i en hänsynslös kapplöpning mot konkurrenterna, där vinsten i slutändan kan kosta oss allt.
Läs också: