13-letni uczeń w DeLand na Florydzie został aresztowany po użyciu urządzenia wydanego przez szkołę, aby zapytać Chatgpt o zaszkodzenie kolegę z klasy. Zapytanie zostało natychmiast wykryte przez szkolny system monitorowania, który zaalarmował bezpieczeństwo i lokalne organy ścigania. Incydent odbył się w Southwestern Middle School. Kiedy uczeń wszedł do wiadomości do Chatgpt Openai, system monitorowania zasilany AI o nazwie Gaggle oznaczył treść i powiadomił funkcjonariuszy policji szkolnej. Oficerowie z biura szeryfa hrabstwa Volusia aresztowali studenta, który twierdził, że „po prostu trolluje” swojego przyjaciela. Władze traktowały jednak zapytanie jako poważne zagrożenie. Materiały do mediów społecznościowych pokazały, że nastolatek jest transportowany w ograniczeniach i zarezerwowany do więzienia hrabstwa. „Kolejny„ żart ”, który stworzył nagły wypadek w kampusie”, stwierdziło biuro szeryfa, ostrzegając rodziców przed omówieniem odpowiedzialnego wykorzystania technologii i odpowiednich zachowań online ze swoimi dziećmi.
Rola technologii monitorowania
System Gaggle stosowany przez szkołę ma na celu wykrywanie i blokowanie nieodpowiednich treści na urządzeniach szkolnych. Identyfikuje potencjalnie szkodliwe zachowanie, czy to skierowane na siebie, czy inne, aby umożliwić szybką interwencję władz szkolnych. Jednak takie technologie monitorowania są kontrowersyjne. Gaggle spotkał się z krytyką za generowanie dużej liczby fałszywych alarmów i wspieranie środowiska podobnego do nadzoru w szkołach. Krytycy twierdzą, że systemy te mogą naruszyć prywatność uczniów w imię zwiększania bezpieczeństwa. Ten incydent podkreśla złożone wyzwania związane z przecięciem sztucznej inteligencji, wykorzystania technologii i bezpieczeństwa studentów we współczesnych warunkach edukacyjnych.
