- Un elev de 13 ani din Deland, Florida, a fost arestat după ce a întrebat ChatGPT cum să-și omoare colegul
- Mesajul a fost detectat de Gaggle, un sistem AI de monitorizare a dispozitivelor școlare
- Băiatul a spus că era „doar o glumă”, dar autoritățile au tratat mesajul ca o amenințare reală
- Poliția a subliniat că, în contextul violențelor din școli, nu există „glume inofensive”
- Cazul redeschide discuția despre etica supravegherii și educația digitală a minorilor
Ceea ce trebuia să fie o glumă între colegi s-a transformat într-o lecție brutală despre limitele umorului online.
Un elev de 13 ani de la Southwestern Middle School, din Deland, Florida, a fost arestat după ce a scris pe un laptop al școlii:
„How to kill my friend in the middle of class.”
În câteva secunde, mesajul a declanșat o alertă automată prin sistemul de monitorizare Gaggle, folosit de școală pentru a detecta comportamente periculoase.
Un ofițer de poliție aflat în campus a primit imediat notificarea și a mers direct în sala de clasă.
Băiatul a spus că era „doar un trollaj” și că nu a intenționat să rănească pe nimeni. Poliția, însă, nu a fost deloc amuzată.
Cum un algoritm a sunat alarma
Gaggle, un software de supraveghere bazat pe inteligență artificială, este instalat pe toate dispozitivele din multe școli americane.
El scanează e-mailuri, documente și interogări online, căutând semne de violență, autovătămare sau amenințări.
Când sistemul a detectat cuvântul „kill”, alerta a fost trimisă automat poliției școlare. În câteva minute, elevul era izolat și interogat.
Biroul Șerifului din Volusia County a confirmat arestarea, precizând într-un comunicat:
„O altă ‘glumă’ care a creat o urgență pe campus. Părinților, vorbiți cu copiii voștri — astfel de lucruri nu se iau în glumă.”
O „glumă” într-o țară traumatizată de violență
Autoritățile au tratat incidentul cu seriozitate dintr-un motiv evident: America are un istoric tragic de atacuri armate în școli.
De la Parkland (2018) până la Uvalde (2022), sute de elevi și profesori și-au pierdut viața.
Așa că atunci când un copil scrie „cum să omor pe cineva în clasă”, chiar și ca glumă, nimeni nu-și mai permite să râdă.
Elevul a fost dus la secție, filmat în cătușe — iar imaginile au circulat rapid online, stârnind dezbateri despre cât de departe merge supravegherea digitală.
Când tehnologia „vede” tot, dar nu înțelege nimic
Incidentul readuce în prim-plan o întrebare incomodă: unde tragem linia între siguranță și supraveghere?
Sistemul Gaggle este lăudat pentru că a prevenit tentative de violență sau suicid, dar și criticat pentru intruziune excesivă.
Organizațiile pentru drepturile digitale îl acuză că transformă școlile într-un mic stat polițienesc digital, unde fiecare tastă e monitorizată.
Iar ChatGPT — deși nu a oferit instrucțiuni violente — a devenit, fără să vrea, parte dintr-un lanț de reacții automate care a dus un copil în fața legii.
„AI-ul nu știe să distingă sarcasmul de o amenințare”, explică dr. Laura Snyder, cercetătoare în etica tehnologică la MIT.
„Și dacă sistemele care monitorizează nu știu nici ele, rezultatul e o furtună de suspiciune automată.”
Lecția amară pentru elevi și părinți
După incident, șeriful din Volusia County a transmis un mesaj clar:
„Copiii trebuie să înțeleagă că tot ce scriu online e înregistrat și poate fi folosit împotriva lor.”
Pentru băiat, o glumă proastă a devenit o experiență reală cu sistemul judiciar.
Pentru restul elevilor, este o lecție despre responsabilitate digitală — și despre cum AI-ul nu are simțul umorului.