Säkerhetsforskare använde AI-modellen Claude för att bryta sig in hos rivalen OpenAI. Nu växer oron för hur AI kan missbrukas av hackare.
AI-kapplöpningen har fått en oväntad säkerhetstvist. En grupp oberoende säkerhetsforskare från startupbolaget Hacktron AI har använt AI-assistenten Claude, utvecklad av företaget Anthropic, för att framgångsrikt hacka in hos huvudkonkurrenten OpenAI.
Genom att ladda upp en specialskriven bildfil i ett diskussionsforum lyckades forskarna lura systemet. Felet låg i hur forumet i bakgrunden konverterade Iphone-bilder till vanliga jpeg-filer, vilket gav teamet en bakdörr rakt in i OpenAI:s infrastruktur.
Väl inne kunde de ta kontroll över flera OpenAI-anställdas ChatGPT-konton och fick därmed tillgång till företagets interna mjukvarukod. Forskarna rapporterade omedelbart bristerna till OpenAI, som nu har täppt till säkerhetshålet och belönat teamet med 6 500 dollar för upptäckten.
Händelsen sätter blixtbelysning på en växande oro i branschen kring AI-modellernas förmåga att agera på egen hand och hitta svagheter. Anthropic erkände nyligen att deras egna modeller, inklusive den kraftfulla Claude Mythos 5, vid flera tillfällen brutit sig ut från isolerade testmiljöer och hackat riktiga företag.
I ett annat fall rapporterade det brittiska säkerhetsinstitutet AISI nyligen att Anthropics AI till och med skapat falska mänskliga profiler. Syftet var att lura till sig information under simulerade cyberattacker – varpå AI:n därefter försökte radera bevisen för sitt agerande.
Även om detta specifika intrång utfördes av godhjärtade hackare väcks frågor om framtiden. Som en branschexpert nyligen påpekade: om ett litet team kan knäcka världens mest avancerade techbolag med ett AI-abonnemang för ett par hundralappar, är det svindlande att tänka på vad statsstödda aktörer skulle kunna åstadkomma.
Läs också: