Equilibrando Segurança e Privacidade: O Dilema da Vigilância por IA nas Escolas.

Um aluno perguntou a um mecanismo de busca, 'Por que meu namorado me bate?' Em cada caso e em muitos outros, um software de vigilância com inteligência artificial alertou imediatamente o pessoal das Escolas Públicas de Vancouver em Washington. As escolas de Vancouver e outras várias no país estão usando a tecnologia para monitorar dispositivos fornecidos pela escola 24 horas por dia, em busca de sinais de perigo.

Os documentos liberados mostram que os alunos usam esses laptops para mais do que apenas trabalhos escolares; eles estão lidando com angústias em suas vidas pessoais. Estudantes escreveram sobre depressão, desgosto amoroso, suicídio, vício, bullying e transtornos alimentares. Há poemas, ensaios universitários e excertos de sessões de role-play com chatbots de IA.

Essas ferramentas de monitoramento frequentemente ajudaram os conselheiros a chegar aos alunos que poderiam ter lutado em silêncio. No entanto, o caso de Vancouver é um forte lembrete das consequências não intencionais da tecnologia de vigilância nas escolas americanas. Em alguns casos, a tecnologia expôs crianças LGBTQ+ e erodiu a confiança entre alunos e funcionários da escola, ao mesmo tempo que não conseguiu manter as escolas completamente seguras.

Vancouver escolas pediu desculpas por liberar os documentos. Ainda assim, o distrito enfatiza que o Gaggle é necessário para proteger o bem-estar dos estudantes. Dacia Foster, uma mãe no distrito, elogiou os esforços para manter os alunos seguros, mas se preocupa com as violações de privacidade.

Foster disse que ficaria chateada se as informações privadas de sua filha fossem comprometidas. 'Ao mesmo tempo', disse ela, 'eu gostaria de evitar um tiroteio na escola ou um suicídio.' Gaggle usa um algoritmo de aprendizado de máquina para verificar o que os alunos pesquisam ou escrevem online via um laptop ou tablet fornecido pela escola 24 horas por dia.