التوازن بين الأمان والخصوصية: معضلة مراقبة الذكاء الاصطناعي في المدارس.

طالب سأل محرك بحث، \"لماذا يضربني صديقي؟\" وهدد طالب آخر بالانتحار في رسالة بريد إلكتروني لحب من طرف واحد.

في كل حالة وآلاف الحالات الأخرى، نبه برنامج المراقبة الذي يعمل بالذكاء الاصطناعي موظفي مدارس فانكوفر العامة في ولاية واشنطن على الفور. لقد تحولت فانكوفر والعديد من المناطق الأخرى في جميع أنحاء البلاد إلى التكنولوجيا لمراقبة الأجهزة التي تصدرها المدرسة على مدار الساعة طوال أيام الأسبوع بحثًا عن أي علامات خطر.

الهدف هو الحفاظ على سلامة الأطفال، لكن هذه الأدوات تثير أسئلة جدية حول الخصوصية والأمان - كما ثبت عندما تلقى مراسلون من \"سياتل تايمز\" و\"أسوشيتد برس\" عن غير قصد حق الوصول إلى ما يقرب من 3500 وثيقة طلابية حساسة وغير محررة من خلال طلب سجلات حول تقنية المراقبة بالمنطقة. يقوم تعاون التقارير التعليمية، وهو ائتلاف يضم ثماني غرف أخبار، بالتحقيق في العواقب غير المقصودة للمراقبة التي تعمل بالذكاء الاصطناعي في المدارس.

تُظهر المستندات التي تم إصدارها أن الطلاب يستخدمون أجهزة الكمبيوتر المحمولة هذه لأكثر من مجرد أداء واجباتهم المدرسية؛ إنهم يتعاملون مع القلق في حياتهم الشخصية. كتب الطلاب عن الاكتئاب، والحب من طرف واحد، والانتحار، والإدمان، والتنمر، واضطرابات الأكل.

يمكن لموظفي مدرسة فانكوفر وأي شخص آخر لديه روابط إلى الملفات قراءة كل شيء. لم تحمِ جدران الحماية أو كلمات المرور المستندات، ولم يتم حجب أسماء الطلاب، وهو ما حذر خبراء الأمن السيبراني من أنه خطر أمني هائل.