Η Anthropic αναδεικνύει κινδύνους της frontier AI στο IPO

Όταν μια εταιρεία επιδιώκει να εισαχθεί στο χρηματιστήριο, οφείλει να γνωστοποιεί πιθανούς κινδύνους στους επενδυτές της. Η Anthropic, γίγαντας της τεχνητής νοημοσύνης, συμπεριέλαβε την απειλή της ίδιας της ανθρωπότητας στα έγγραφα της.

Στην κατάθεσή της, η εταιρεία ανέφερε τη χρήση μοντέλων AI για την κατασκευή θανατηφόρων όπλων από κακόβουλους δρώντες. Επίσης, αναδείχθηκε ο κίνδυνος η τεχνολογία να αυτονομηθεί, με απρόβλεπτες και ανεξέλεγκτες συνέπειες.

Από τις 335 σελίδες της αίτησης, οι 93 αφορούν αποκλειστικά τους «παράγοντες κινδύνου» για τους μελλοντικούς μετόχους. Αυτό το εκτεταμένο τμήμα υπερβαίνει κατά πολύ τις αντίστοιχες γνωστοποιήσεις ανταγωνιστών, όπως η SpaceX.

Η Anthropic προβάλλει την αρχική δημόσια προσφορά της ως μέσο μετριασμού των κινδύνων που εγκυμονεί η τεχνητή νοημοσύνη. Ιδρύθηκε με στόχο να αξιοποιήσει τα οφέλη της AI, αποφεύγοντας παράλληλα τους ενδεχόμενους κινδύνους της.

Οι δυνητικές υποχρεώσεις κυμαίνονται από την αδυναμία διατήρησης προσωπικού έως κυβερνοεπιθέσεις και διάδοση παραπληροφόρησης. Η ανεξέλεγκτη πρόοδος της AI, δίχως επαρκείς δικλείδες ασφαλείας, εγείρει καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα.