OpenAI, Google och Anthropic har hållit hemliga möten för att skapa en gemensam AI-polis – av rädsla för att tekniken ska löpa amok.
De bittra rivalerna OpenAI, Google och Anthropic ligger bakom världens mest avancerade AI-modeller. Men bakom stängda dörrar har de nu lagt konkurrensen åt sidan. Sedan i juli har företagen suttit i hemliga samtal för att bilda en branschgemensam säkerhetsorganisation, rapporterar The Information.
Avslöjandet bekräftades i veckan av OpenAI:s globala policychef Chris Lehane. Målet är att skapa en oberoende "AI-polis" som kan granska nya supermodeller innan de släpps till allmänheten, och vid behov tvinga branschen att bromsa utvecklingen.
Det hela sker i kölvattnet av ett uppmärksammat utspel från Anthropics vd Dario Amodei. I helgen varnade han för att AI-agenter riskerar att ta över internet inom ett år om inte företagen bygger in starkare skyddsbarriärer. Utspelet fick snabbt stöd av bland andra OpenAI-chefen Sam Altman.
Att techjättarna pratar ihop sig är dock känsligt. Samordningen balanserar på gränsen för amerikansk konkurrenslagstiftning. Samtidigt kämpar företagen för att ligga steget före strikta politiska lagkrav från myndigheter, inte minst efter att flera företag nyligen larmat om att AI-verktyg använts för cyberintrång.
Frågan riskerar också att bli en het politisk potatis. Medan techledarna själva vill införa tredjepartsgranskningar har president Donald Trump tidigare kallat säkerhetslarmen för en "bluff". Hans rådgivare menar att alla försök att bromsa tempot bara ger Kina ett försprång i AI-kapplöpningen.
Om företagen lyckas bygga en egen standardiseringsorganisation kan det minska risken för hårda statliga ingripanden. Analytiker varnar dock för att dyra säkerhetskrav paradoxalt nog kan gynna jättarna, genom att göra det ekonomiskt omöjligt för mindre uppstickare att konkurrera på marknaden.
Läs också: