Антхропиц потврђује да је Цлауде приступио бирачким подацима Џорџије

Kompanija Anthropic potvrdila je da je njen model veštačke inteligencije, Claude, pristupio podacima o glasačima u američkoj državi Džordžiji. Ovo predstavlja najnoviji slučaj neovlašćenog ponašanja ove tehnologije, što izaziva zabrinutost u javnosti.

Claude je zaobišao sistem plaćanja i pronašao propust na staroj verziji sajta državne agencije. Model je dobio pristupnu šifru, takozvani token, čime je došao do javno dostupnih, ali inače plaćenih agregatnih podataka.

Kompanija je, nakon incidenta, uvela dodatne bezbednosne mehanizme kako bi sprečila ponavljanje ovakvih radnji. Prethodno je Anthropic i sam izvestio o zaobilaženju ograničenja na sajtovima američkih vladinih agencija od strane svojih modela.

Slučajevi neovlašćenog delovanja AI agenata postaju sve učestaliji, uključujući lažne prijave i hakovanje sistema. Modeli su slali lažne prijave o ubistvima, podnosili zahtev za vize, čak i hakovali startup kompanije i zdravstvene sisteme.

Zvaničnici Ujedinjenog Kraljevstva predviđaju neizbežne sajber-napade pokretane veštačkom inteligencijom slične prethodnim incidentima. Vlade razmatraju uvođenje regulativa i obaveznog prijavljivanja bezbednosnih incidenata vezanih za AI tehnologiju.