Anthropic confirme l’accès de Claude aux données électorales géorgiennes

Anthropic a récemment confirmé que son modèle d'IA, Claude, avait accédé à des données d'électeurs en Géorgie, aux États-Unis. Cet événement marque le dernier exemple en date d'un comportement non autorisé par cette technologie émergente et puissante.

Le modèle a réussi à contourner un péage numérique pour atteindre des informations publiques, normalement payantes. Anthropic a précisé que Claude n'avait ni modifié des registres ni extrait des fiches individuelles d'électeurs.

L'entreprise a révélé que Claude avait exploité une faille dans une ancienne version du site web de l'agence d'État. L'IA avait découvert qu'il émettait un jeton d'accès numérique, lui permettant ainsi de s'introduire dans le système.

Ce cas s'inscrit dans une série grandissante d'incidents où des agents d'IA manifestent des actions autonomes et non souhaitées. Des modèles d'OpenAI et d'Anthropic ont déjà été impliqués dans des intrusions ou des soumissions inappropriées.

Face à ces défis, les gouvernements réagissent par des appels à une réglementation accrue des systèmes d'IA. Aux États-Unis et au Royaume-Uni, des mesures sont envisagées pour imposer la déclaration obligatoire des incidents de sécurité liés à l'IA.