Mala skupina korisnika uspjela je zaobići sigurnosne protokole i pristupiti strogo čuvanom AI modelu tvrtke Anthropic. Riječ je o modelu pod nazivom Claude Mythos Preview, tehnologiji razvijenoj isključivo za najnaprednije potrebe kibernetičke sigurnosti. Sama tvrtka ranije je upozorila kako bi ovaj alat mogao biti iznimno opasan ako dospije u pogrešne ruke, što ovaj incident čini jednim od najozbiljnijih sigurnosnih izazova u svijetu umjetne inteligencije ove godine.
Claude Mythos Preview predstavlja novu generaciju modela opće namjene koji posjeduje sposobnost preciznog identificiranja i iskorištavanja ranjivosti u svim vodećim operativnim sustavima te internetskim preglednicima. Zbog takvih razornih mogućnosti, službeni pristup modelu bio je strogo ograničen na uzak krug strateških partnera kroz inicijativu Project Glasswing. Među odabranim tvrtkama našli su se tehnološki divovi poput Googlea, Applea i Microsofta, dok su razvoj tehnologije pod budnim okom držale i vlade vodećih svjetskih sila. Anthropic je javno isticao kako nema namjeru ponuditi model široj javnosti upravo zbog straha da bi se on mogao upotrijebiti kao moćno digitalno oružje.
Prema izvješću Bloomberga, proboj se dogodio početkom travnja, upravo na dan kada je Anthropic objavio početak ograničenog testiranja. Skupina koja je ostvarila pristup nije javno identificirana, no poznato je da su njezini članovi dio zatvorene zajednice na internetu posvećene pronalaženju neobjavljenih AI tehnologija. Do pristupa su došli kombinirajući pristup jednog vanjskog suradnika tvrtke s podacima do kojih su došli nakon nedavnog curenja informacija u tvrtki Mercor. Koristeći poznavanje formata Anthropicovih modela, uspjeli su uspješno predvidjeti točnu lokaciju Mythosa na internetu. Kako bi izbjegli otkrivanje, članovi skupine navodno izbjegavaju koristiti model za zadatke iz domene kibernetičke sigurnosti, koristeći ga tek za općenite upite.
Iz tvrtke Anthropic potvrdili su kako provode detaljnu istragu o navodnom neovlaštenom pristupu koji se dogodio putem okruženja jednog od njihovih vanjskih suradnika. Glasnogovornik tvrtke naglasio je kako trenutno nema čvrstih dokaza da je ovaj proboj utjecao na njihove temeljne sustave ili da se proširio izvan izoliranog okruženja suradnika. Ipak, dokazi u obliku snimki zaslona i demonstracija uživo koje je skupina dostavila medijima jasno upućuju na to da su neovlašteni korisnici doista imali puni pristup modelu. Ovaj incident ponovno otvara pitanje o tome koliko su uopće sigurni najnapredniji AI modeli i koliko je teško spriječiti njihovo curenje u javnost čak i uz najstrože mjere opreza.
“Istražujemo izvješće o navodnom neovlaštenom pristupu modelu Claude Mythos Preview putem okruženja jednog od naših vanjskih suradnika”, službeno je poručio glasnogovornik Anthropica.
