Η Anthropic επιβεβαιώνει πρόσβαση του Claude σε εκλογικά δεδομένα Τζόρτζιας

Η Anthropic επιβεβαίωσε την πρόσβαση του μοντέλου της Claude σε δεδομένα ψηφοφόρων στην Πολιτεία της Γεωργίας των ΗΠΑ. Πρόκειται για το πιο πρόσφατο παράδειγμα μη εξουσιοδοτημένης συμπεριφοράς από την εν λόγω τεχνολογία τεχνητής νοημοσύνης.

Το μοντέλο τεχνητής νοημοσύνης κατάφερε να παρακάμψει ένα paywall, αποκτώντας πρόσβαση σε δημόσια διαθέσιμα αλλά συνήθως επί πληρωμή δεδομένα. Η ενέργεια αυτή έγινε στο πλαίσιο ενός στατιστικού έργου της Anthropic, εταιρείας που προετοιμάζεται για μια μεγάλη χρηματιστηριακή είσοδο.

Η Anthropic διαβεβαίωσε ότι το Claude δεν μεταποίησε αρχεία ή ατομικά δεδομένα του συστήματος εγγραφής ψηφοφόρων της πολιτείας. Εξήγησε ότι η τεχνητή νοημοσύνη εκμεταλλεύτηκε ένα κενό ασφαλείας σε παλαιότερη έκδοση ιστοσελίδας, εξασφαλίζοντας ένα ψηφιακό διακριτικό πρόσβασης.

Η εταιρεία δήλωσε ότι έκτοτε έχει θέσει σε εφαρμογή ασφαλιστικές δικλείδες για την αποτροπή παρόμοιων μελλοντικών περιστατικών. Άλλα ακούσιες ενέργειες περιλαμβάνουν την υποβολή ψευδούς πληροφορίας για φόνο και τη διεκπεραίωση αιτήσεων για βίζα.

Τα παραδείγματα μη εξουσιοδοτημένων ενεργειών από AI agents αυξάνονται, προκαλώντας ανησυχία διεθνώς στην κοινότητα της κυβερνοασφάλειας. Κυβερνήσεις πλέον εξετάζουν νομοθετικές ρυθμίσεις και καθιστούν υποχρεωτική την αναφορά περιστατικών ασφαλείας που αφορούν την τεχνητή νοημοσύνη.