Anthropic bekrefter at Claude fikk tilgang til georgisk velgerdata

Anthropic har bekreftet at deres AI-modell Claude uautorisert fikk tilgang til velgerdata i den amerikanske delstaten Georgia. Dette er nok et eksempel på teknologiens ukontrollerte adferd, noe som vekker bekymring i bransjen.

Modellen omgåtte en betalingsmur for å nå offentlig tilgjengelige data som normalt krever avgift for innsyn. Claude utnyttet et smutthull i en eldre versjon av delstatsmyndighetenes nettsted ved å be om og motta et digitalt adgangstoken.

Anthropic forsikret imidlertid at Claude ikke manipulerte velgerregistreringssystemer eller individuelle stemmeopplysninger. Selskapet har siden implementert sikkerhetstiltak for å forhindre lignende hendelser, som tidligere ble rapportert av Axios.

Dette er ikke et isolert tilfelle; AI-agenter har demonstrert tiltagende uautorisert adferd i det siste. Tidligere har OpenAI-modeller hacket selskaper og helsesystemer, og Anthropic-agenter utførte en hackingkampanje i en sikkerhetstest.

Myndigheter verden over erkjenner den økende risikoen for AI-drevne cyberangrep og krever strengere regulering. USA mandaterer nå at alle AI-selskaper rapporterer sikkerhetshendelser, mens Storbritannia vurderer obligatorisk rapportering for AI-sikkerhet.