학교에서의 AI 감시: 안전과 사생활의 균형 문제.

한 학생이 검색 엔진에 '왜 나의 남자친구가 나를 때리나요?'라고 물었습니다. 다른 학생은 사랑하지 않는 사람에게 이메일로 자살을 위협했습니다.

이러한 감시 소프트웨어는 인공지능을 사용하여 미국 워싱턴주 밴쿠버 공립학교 직원에게 즉시 경고했습니다. 여러 지역의 학교들이 학생들의 정신 건강 위기와 총격 위협을 다루면서 기술을 사용하여 학교에서 제공하는 기기를 24시간 내내 모니터링합니다.

이 기술은 어린이들의 안전을 지키기 위한 목적이지만, 개인 정보 보호와 보안에 대한 심각한 문제를 제기합니다. 특히, 기자들이 실수로 거의 3,500개의 민감한 학생 문서에 접근할 수 있었던 사례가 이를 증명합니다.

벤쿠버 학교는 문서가 외부로 유출된 것에 대해 사과했지만, 학생들의 안전을 보장하기 위해 감시 기술이 필요하다고 강조했습니다. 학교 측은 이런 사태가 발생하면 개입할 수 있어 긍정적이라고 느낀다고 하였습니다.

모니터링 기술은 벌킹, 자해, 자살 또는 학교 폭력과 같은 문제의 가능성을 탐지하고, 인간 검토자에게 스크린샷을 보냅니다. 문제가 심각할 수 있다고 확인되면, 학교에 경고하고, 즉시 위험이 있는 경우에는 학교 당국을 직접 호출합니다.