Okulda Yapay Zeka Gözetimi: Güvenlik ve Gizlilik Arasındaki Denge.

Bir öğrenci arama motoruna 'Sevgilim bana neden vuruyor?' diye sordu. Başka bir öğrenci ise karşılıksız aşkına e-posta göndererek intihar tehdidinde bulundu.

Bu ve binlerce vakada, yapay zeka destekli gözetim yazılımı, Washington eyaletindeki Vancouver Devlet Okulları personelini hemen uyardı. Vancouver ve ülke genelindeki diğer birçok okul bölgesi, öğrenci ruh sağlığı krizi ve okul saldırıları tehdidiyle boğuşurken, okul tarafından verilen cihazları 7/24 izlemek için teknolojiye yöneldi.

Amaç, çocukları güvende tutmaktır, ancak bu araçlar, Seattle Times ve Associated Press muhabirlerinin bölgenin gözetim teknolojisi hakkında bir kayıt talebi yoluyla yanlışlıkla yaklaşık 3.500 hassas, düzenlenmemiş öğrenci belgesine erişim sağladığında kanıtlandığı gibi, gizlilik ve güvenlik hakkında ciddi sorular ortaya çıkarmaktadır. Sekiz haber odasının oluşturduğu bir koalisyon olan Eğitim Raporlama İşbirliği, okullarda yapay zeka destekli gözetimin istenmeyen sonuçlarını araştırıyor.

Yayınlanan belgeler, öğrencilerin bu dizüstü bilgisayarları yalnızca okul ödevleri için kullanmadığını gösteriyor; kişisel yaşamlarındaki endişelerle başa çıkıyorlar. Öğrenciler depresyon, kalp kırıklığı, intihar, bağımlılık, zorbalık ve yeme bozuklukları hakkında yazdı.

Vancouver okul personeli ve dosyalara bağlantısı olan herkes her şeyi okuyabilirdi. Güvenlik duvarları veya şifreler belgeleri korumuyordu ve siber güvenlik uzmanlarının büyük bir güvenlik riski konusunda uyardığı öğrenci isimleri çıkarılmamıştı.