Naoružana policija u okrugu Baltimore (Maryland) privela je učenika srednje škole nakon što je AI sigurnosni sustav pogrešno detektirao vrećicu čipsa kao vatreno oružje, prenosi CNN.
Incident, koji se dogodio u Kenwood High School, izazvao je burne reakcije javnosti i otvorio pitanje pouzdanosti umjetne inteligencije u školskim sigurnosnim sustavima.
Sedamnaestogodišnji Taki Allen izjavio je da ga je policija natjerala da klekne, stavila mu lisice i uperila oružje, dok je zapravo u rukama držao vrećicu Doritosa.
„Natjerali su me da kleknem i stavim ruke iza leđa. Pretražili su me i shvatili da nemam ništa — samo vrećicu čipsa“, rekao je Allen za lokalni WBAL.
“Pomislio sam da ću umrijeti” – učenik opisao zastrašujući trenutak
Allen je izjavio da je u trenutku intervencije pomislio da bi mogao poginuti jer su mu policajci uparili oružje i okružili ga s osam policijskih automobila.
„Rekli su da položaj mojih ruku i vrećice izgleda kao pištolj“, ispričao je.
Prema navodima tužiteljstva, sustav umjetne inteligencije aktivirao je alarm i poslao upozorenje školskim službenicima, no lažna uzbuna nije pravovremeno otkazana, što je dovelo do dolaska policije.
Škola i policija priznali propust
Ravnateljica škole Kate Smith potvrdila je da je sigurnosni odjel okruga Baltimore pregledao snimke i poništio AI upozorenje, ali da informacija nije na vrijeme stigla do policije.
„Razumijemo koliko je ovaj događaj bio traumatičan za učenika i ostale svjedoke. Sigurnost naše školske zajednice ostaje glavni prioritet“, navela je Smith u priopćenju roditeljima.
Policija okruga Baltimore u izjavi je potvrdila da su reagirali na dojavu o „sumnjivoj osobi s oružjem“, ali da je učenik nakon pretrage proglašen nenaoružanim.
Tvrtka Omnilert: “Sustav je radio kako je predviđeno”
Tvrtka Omnilert, koja upravlja AI sustavom za detekciju oružja u školama, izrazila je žaljenje zbog incidenta, ali je istaknula da je algoritam “funkcionirao prema predviđenom protokolu” – generirao upozorenje i čekao ljudsku provjeru.
„Žao nam je zbog neugodnosti i zabrinutosti koje je ovaj događaj izazvao. Naš sustav je osmišljen kako bi prioritet dao sigurnosti i brzoj ljudskoj procjeni“, poručili su iz Omnilerta.
Reakcije javnosti: “Nitko ne bi smio završiti u lisicama zbog čipsa”
Incident je izazvao ogorčenje lokalne zajednice i političara.
Vijećnica Izzy Patoka poručila je da je „nedopustivo da dijete bude napadnuto zbog vrećice Doritosa“ te pozvala na reviziju protokola i korištenja AI tehnologije u školama.
Slično je reagirao i vijećnik Julian Jones, koji je upozorio da se moraju postaviti strože zaštitne mjere kako bi se spriječile slične greške u budućnosti.
Allenov djed, Lamont Davis, rekao je da traži odgovornost svih uključenih:
„Nešto se mora promijeniti. Ljudi moraju biti odgovorni za ovakve pogreške.“
Uvođenje AI sustava u školama izaziva sve više kontroverzi
AI sustav za detekciju oružja implementiran je u javne škole okruga Baltimore 2023. godine, kao dio programa povećanja sigurnosti zbog učestalih incidenata s oružjem u SAD-u.
Sustav analizira snimke sigurnosnih kamera i automatski upozorava osoblje ako otkrije potencijalno oružje.
Ipak, slučaj Kenwood High School pokazuje da lažne uzbune mogu dovesti do opasnih i traumatičnih situacija, posebno kada je riječ o maloljetnicima.
Nadzornica školskog sustava Myriam Rogers izjavila je da će se provesti revizija svih sigurnosnih protokola kako bi se spriječilo ponavljanje ovakvih incidenata:
„Nikada ne želimo dovesti učenika u situaciju u kojoj se osjeća ugroženo ili zastrašeno. Ovo je bio zaista nesretan događaj.“
