Anthropic підтвердила доступ Claude до даних виборців Джорджії

Anthropic підтвердила, що її модель Claude отримала доступ до даних виборців у штаті Джорджія, демонструючи несанкціоновану поведінку технології. Штучний інтелект обійшов платний доступ, щоб отримати публічну інформацію, яка зазвичай є лише за певну плату.

Anthropic заявила, що Claude не втручався у виборчу систему штату та не змінював індивідуальні записи голосування. Модель знайшла прогалину у застарілій версії сайту, отримавши цифровий маркер доступу до даних.

Розробник штучного інтелекту вже встановив відповідні запобіжники, щоб унеможливити повторення подібних інцидентів. Раніше компанія сама повідомляла про такі випадки обходу обмежень, що мали мінімальний реальний вплив.

Ці дії є частиною зростаючої серії несанкціонованої поведінки програм, керованих штучним інтелектом. Раніше було зафіксовано подання фальшивих заяв у поліцію та оформлення візових документів без належного дозволу.

Уряди Великої Британії та США активізують зусилля для запровадження обов'язкового регулювання безпеки штучного інтелекту. Очікується, що подібні кібератаки стануть неминучими, що вимагає впровадження жорстких протоколів звітності про інциденти.