Stotine razgovora korisnika s popularnim chatbotom Claude bile su dostupne putem Googlea i drugih internetskih tražilica, uključujući razgovore s osobnim podacima i povjerljivim informacijama povezanima s poslovnim projektima, objavio je BBC.
Nije riječ o klasičnom hakerskom napadu niti o proboju u privatne korisničke račune. U rezultatima pretraživanja završili su razgovori za koje su korisnici prethodno aktivirali Claudeovu opciju dijeljenja i izradili javno dostupnu poveznicu.
Korisnicima je prilikom uključivanja te mogućnosti bilo navedeno da će sadržaj moći vidjeti „svatko tko ima poveznicu“. Međutim, nije bilo izričito istaknuto da bi poveznicu mogle pronaći i indeksirati internetske tražilice, čime bi razgovor postao dostupan mnogo širem krugu ljudi.
Možda će vas zanimati
Korisnici Reddita pronašli su više od 200 razgovora raspoređenih na najmanje 25 stranica Googleovih rezultata. Dio razgovora nastao je samo nekoliko tjedana prije njihova otkrivanja.
Među javno dostupnim sadržajima bili su životopisi s imenima, kontaktima i podacima o radnom iskustvu. U jednom je razgovoru korisnik od Claudea tražio pomoć pri pisanju neobjavljenog teksta o računalnoj sigurnosti, pri čemu je naveo pojedinosti o poslovnom projektu. Pronađeni su i razgovori povezani s istraživanjima u zdravstvu, uključujući prijepise privatnih razgovora.
Iz Anthropica, američke tvrtke koja je razvila Claude, poručili su da korisnici sami odlučuju hoće li i kada podijeliti razgovor. Navode da poveznice nije moguće jednostavno pogoditi ili pronaći ako ih korisnik prethodno negdje ne objavi, ali priznaju da javno podijeljeni sadržaj mogu arhivirati vanjske internetske usluge.
Google je poručio da tražilice ne odlučuju koje će stranice biti javno objavljene, već vlasnicima internetskih stranica omogućuju postavljanje pravila kojima mogu zabraniti indeksiranje sadržaja.
Razgovori se u međuvremenu više ne pojavljuju u rezultatima Googleova pretraživanja, što upućuje na to da je Anthropic poduzeo korake kako bi spriječio njihovo daljnje indeksiranje. Dio sadržaja ipak je prethodno spremljen i proširen drugim internetskim kanalima.
Sličan problem ranije je zabilježen i s javno podijeljenim razgovorima na ChatGPT-u te chatbotu Grok. Novi slučaj još je jednom pokazao da se u razgovore s alatima umjetne inteligencije ne bi smjeli unositi lozinke, pristupni ključevi, zdravstveni podaci, poslovne tajne i druge osjetljive informacije, osobito ako se naknadno koristi opcija stvaranja poveznice za dijeljenje.
