En dold inställning i Metas nya AI-assistent lät forskare kapa programmet. Nu har techjätten tvingats akutpatcha Mac-appen.
I början av september lanserade Meta sin nya AI-assistent Muse, ett verktyg som kan läsa mejl, boka resor och surfa på nätet åt dig. Appen blev omedelbart en succé och slog enligt uppgift ChatGPT:s nedladdningsrekord under sina första tolv dagar.
Men framgången har kantats av problem. Säkerhetsforskaren Patrick Wardle upptäckte nyligen en allvarlig sårbarhet i Mac-versionen av programmet. Genom att ändra en oregistrerad inställning kunde han dirigera om assistentens rösttranskribering till en egen server.
Eftersom Muse redan har fått omfattande systembehörigheter av användaren kunde sårbarheten fungera som en kraftfull inbyggd bakdörr.
– Istället för att behöva skriva ett omfattande spionprogram för Mac kan vi helt enkelt utnyttja själva AI-assistenten, förklarade Wardle i samband med att han avslöjade bristen.
Han riktade skarp kritik mot techjätten och menade att de uppenbarligen inte prioriterat säkerheten från start. Meta, som vid lanseringen stoltserade med just hur säker appen var, agerade dock snabbt och rullade ut en akut uppdatering inom några timmar.
Enligt David Singleton på Meta Superintelligence Labs var den praktiska risken för vanliga användare relativt låg. Sårbarheten krävde nämligen att angriparen redan hade lyckats plantera skadlig kod på användarens dator för att kunna kapa AI-agenten.
Säkerhetsmissen adderas till en redan stökig månad för Metas AI-satsning. Amazon har nyligen blockerat Muse från att komma åt deras e-handelsplattform, och under sommaren framkom det även att en av Metas AI-modeller av misstag lyckats hacka ett utomstående företags system under ett säkerhetstest.
Läs också: