איזון בין בטיחות לפרטיות: הדילמה של מעקב בינה מלאכותית בבתי ספר.

תלמידים רבים משתמשים במחשבים של בית הספר כדי לכתוב על רגשות ובעיות אישיות. תוכנות ריגול חדשות, המופעלות על ידי בינה מלאכותית, עוקבות אחר כל מה שהם כותבים.

מטרת התוכנות הללו היא לזהות תלמידים שנמצאים בסיכון ולמנוע מקרים של אלימות או פגיעה עצמית. עם זאת, תוכנות אלו מעלות שאלות קשות בנוגע לפרטיות התלמידים.

תוכנה בשם גאגל, המשמשת כ-1,500 בתי ספר בארצות הברית, סורקת את כל הפעילות המקוונת של התלמידים. היא מזהה מילות מפתח הקשורות לנושאים כמו בריונות, התאבדות ואלימות.

אם התוכנה מזהה תוכן מדאיג, היא שולחת התראה לצוות בית הספר. במקרים מסוימים, ההתראה נשלחת גם להורים או למשטרה.

מבקרי התוכנה טוענים כי היא פולשנית מדי ופוגעת בפרטיות התלמידים. הם גם טוענים כי התוכנה עלולה להוביל להפללה של תלמידים על סמך דברים שכתבו ברשת.