Balansering av sikkerhet og personvern: Dilemmaet med AI-overvåkning i skoler.

Mange skoler bruker nå dataprogrammer for å passe på hva elever skriver på datamaskiner. Disse programmene skal hjelpe til med å finne elever som sliter eller kan være farlige.

Aviser fant ut at et slikt program, kalt Gaggle, hadde samlet mye privat informasjon om elevene. Dette skjedde ved et uhell, men viser at programmene kan være et problem for personvern.

Gaggle ser etter ord om ting som selvmord, vold og mobbing. Programmet gir beskjed til skolen hvis det finner noe som virker alvorlig.

Noen ganger fungerer Gaggle bra og hjelper elever som trenger det. Andre ganger blir programmet lurt av uskyldige ting, som en historie en elev har skrevet.

Mange synes det er viktig å passe på elevenes sikkerhet, men noen er bekymret for personvern. De lurer på om det er riktig at skolen skal kunne se alt elevene skriver på datamaskinen.