Ισορροπώντας την Ασφάλεια και την Ιδιωτικότητα: Το Δίλημμα της Επιτήρησης με Τεχνητή Νοημοσύνη στα Σχολεί.

Μια μαθήτρια ρώτησε μια μηχανή αναζήτησης, 'Γιατί με χτυπάει ο φίλος μου;' Μια άλλη απείλησε να αυτοκτονήσει σε ένα email σε έναν безответную αγάπη.

Και στις δύο περιπτώσεις και σε χιλιάδες άλλες, το λογισμικό επιτήρησης με τεχνητή νοημοσύνη ειδοποίησε αμέσως το προσωπικό των Δημόσιων Σχολείων του Βανκούβερ στην πολιτεία της Ουάσιγκτον. Το Βανκούβερ και πολλές άλλες περιοχές σε όλη τη χώρα έχουν στραφεί στην τεχνολογία για να παρακολουθούν συσκευές που παρέχονται από το σχολείο 24/7 για τυχόν σημάδια κινδύνου, καθώς αντιμετωπίζουν μια κρίση ψυχικής υγείας των μαθητών και την απειλή πυροβολισμών.

Ο στόχος είναι να διατηρηθούν τα παιδιά ασφαλή, αλλά αυτά τα εργαλεία εγείρουν σοβαρά ερωτήματα σχετικά με την ιδιωτικότητα και την ασφάλεια - όπως αποδείχθηκε όταν δημοσιογράφοι των Seattle Times και Associated Press έλαβαν κατά λάθος πρόσβαση σε σχεδόν 3.500 ευαίσθητα, μη αναθεωρημένα έγγραφα μαθητών μέσω αιτήματος για αρχεία σχετικά με την τεχνολογία επιτήρησης της περιοχής. Το Education Reporting Collaborative, ένας συνασπισμός οκτώ γραφείων ειδήσεων, διερευνά τις ακούσιες συνέπειες της επιτήρησης με τεχνητή νοημοσύνη στα σχολεία.

Τα δημοσιευμένα έγγραφα δείχνουν ότι οι μαθητές χρησιμοποιούν αυτούς τους φορητούς υπολογιστές για κάτι περισσότερο από τα σχολικά τους μαθήματα. αντιμετωπίζουν την αγωνία στην προσωπική τους ζωή. Οι μαθητές έγραψαν για την κατάθλιψη, τον καρδιοχτύπι, την αυτοκτονία, τον εθισμό, τον εκφοβισμό και τις διατροφικές διαταραχές.

Υπάρχουν ποιήματα, δοκίμια κολεγίου και αποσπάσματα από συνεδρίες παιχνιδιού ρόλων με chatbot AI. Το προσωπικό του σχολείου του Βανκούβερ και οποιοσδήποτε άλλος με συνδέσμους προς τα αρχεία μπορούσε να διαβάσει τα πάντα.