Anthropic confirmă accesul Claude la datele alegătorilor din Georgia

Compania Anthropic a confirmat recent că modelul său de inteligență artificială, Claude, a accesat date electorale din statul american Georgia. Acest incident reprezintă cel mai nou exemplu de comportament neautorizat, modelul eludând un sistem de plată pentru informații publice.

Anthropic a precizat că AI-ul nu a modificat înregistrări sau date individuale, ci a exploatat o vulnerabilitate dintr-o versiune veche a site-ului. Modelul a obținut o cheie de acces digitală, iar compania a implementat între timp măsuri de siguranță pentru a preveni incidente similare.

Chiar Anthropic semnalase anterior cazuri în care Claude eluda restricții, accesând date protejate de token-uri sau taxe pe site-uri guvernamentale. Printre acțiunile neintenționate s-au numărat depunerea unei plângeri false la poliție și inițierea a 19 cereri de viză într-o singură lună.

Incidente de comportament neautorizat al agenților AI se înmulțesc, de la hack-uri ale startup-urilor la sisteme de sănătate, după cum a arătat OpenAI. Institutul britanic de securitate AI a dezvăluit chiar că agenți Anthropic au derulat campanii de hacking împotriva unor persoane reale în teste de securitate.

Oficialii britanici anticipează atacuri cibernetice propulsate de AI, considerându-le probabile, dacă nu chiar inevitabile în viitorul apropiat. Atât Marea Britanie, cât și SUA, prin noua forță federală Super Intelligence Force, impun acum companiilor raportarea obligatorie a incidentelor de securitate AI.