Firma zajmująca się bezpieczeństwem, która sprzedaje skanery broni oparte na sztucznej inteligencji do szkół, staje w obliczu nowych pytań dotyczących swojej technologii po ataku nożem na ucznia, który system o wartości 3,7 miliona dolarów nie wykrył.

W ubiegłym roku, w Halloween, uczeń Ehni Ler Htoo przechodził przez korytarz swojej szkoły w Utica, w stanie Nowy Jork, gdy inny uczeń podeszł do niego od tyłu i zaatakowa go nożem. Mówiąc wyłącznie dla BBC, prawnik ofiary powiedział, że 18-latek odniósł liczne rany kłute w głowie, szyi, twarzy, ramieniu, plecach i dłoni.

Nóż użyty w ataku został wniesiony do szkoły Proctor High School pomimo zainstalowanego tam wielomilionowego systemu wykrywania broni firmy Evolv Technology.

Evolv Technology to firma zajmująca się bezpieczeństwem, która chce zastąpić tradycyjne wykrywacze metalu skanerami broni opartymi na sztucznej inteligencji.

Zamiast wykrywać jedynie metal, Evolv twierdzi, że jego skaner „łączy potężną technologię sensorów z udokumentowaną sztuczną inteligencją”, aby wykrywać broń.

Kiedy system wykrywa ukrytą broń, taką jak noże, bomby czy pistolety, wywołuje alert.

Firma publicznie twierdzi, że jej system jest bardzo dokładny, a wcześniej chwaliła się, że jej skanery mogą pomóc w tworzeniu „stref wolnych od broni”.

Szef firmy, Peter George, twierdził również, że ich systemy „posiadają podpisy dla wszystkich dostępnych broni”.

Wcześniejsze komunikaty prasowe wymieniały broń, którą system może wykryć, w tym broń palną, ładunki wybuchowe i noże.

Jednak śledztwo BBC z ubiegłego roku wykazało, że testy wykazały, że system nie może wiarygodnie wykryć dużych noży – skaner Evolv pomijał 42% dużych noży podczas 24 testów.

System jest stosowany na wielkich stadionach w całych Stanach Zjednoczonych oraz na arenie Manchesteru w Wielkiej Brytanii. Testerzy twierdzą, że Evolv powinien informować potencjalnych klientów.

Mimo to firma rozszerza swoją działalność na szkoły i twierdzi, że jest obecna w setkach placówek edukacyjnych w całych Stanach Zjednoczonych.

Atak nożem W marcu 2022 roku Zarząd Szkół w Utica zakupił system skanowania broni Evolv dla 13 szkół, który został zainstalowany podczas wakacji letnich.

31 października kamery monitoringu zarejestrowały napastnika, który wszedł do szkoły Proctor High School i przeszedł przez skanery broni firmy Evolv, jak twierdzi osoba związana ze szkołą, która widziała nagranie z monitoringu.

„Kiedy obejrzeliśmy straszne nagranie, wszyscy zadaliśmy to samo pytanie. Jak uczeń mógł wnosić nóż do szkoły?” – powiedział Brian Nolan, superintendent szkół w Utica.

Użyty w ataku nóż miał ponad 22,8 cm długości.

Atak wywołał wewnętrzne śledztwo w okręgu szkolnym Utica.

„W toku śledztwa ustalono, że System Wykrywania Broni Evolv… nie był zaprojektowany do wykrywania noży” – powiedział pan Nolan.

Skanery zostały usunięte ze szkoły Proctor High School i zastąpione przez 10 wykrywaczy metalu. Jednak skanery wciąż są używane w pozostałych 12 szkołach okręgu. Pan Nolan mówi, że okręg nie może sobie pozwolić na pozbycie się systemu Evolv ze swoich pozostałych szkół.

Od tego ataku pan Nolan twierdzi, że w innych szkołach okręgu, gdzie nadal są używane systemy Evolv, znaleziono trzy inne noże u uczniów. Jeden nóż miał 17,8 cm długości. Kolejny był zakrzywiony z otworami na palce. Trzeci to scyzoryk. Pan Nolan mówi, że wszystkie noże zostały znalezione, ponieważ uczniowie donieśli o nich personelowi, a nie dlatego, że skaner broni je wykrył.

„Dzieci [które miały noże] wszystkie powiedziały, że przeszły przez system wykrywania broni bez problemu. Zapytaliśmy je o to… naprawdę, naprawdę nie wykrywa noży” – powiedział.

Strona internetowa Evolv Po ataku nożem zmieniono treść na stronie Evolv.

Do października ubiegłego roku na stronie głównej Evolv dumnie reklamowano „Strefy Wolne od Broni”. Później zmieniono te słowa na „Strefy Bezpieczne”. Obecna wersja brzmi teraz „Strefy Bezpieczniejsze”.

Evolv twierdzi, że jego system wykorzystuje najnowocześniejszą technologię sztucznej inteligencji do wykrywania broni. Jednak krytycy twierdzą, że nie ma wystarczających informacji na temat sposobu działania systemu i jego skuteczności w wykrywaniu różnych rodzajów broni.

BBC przekazało Evolv szczegółowe pytania dotyczące incydentu w Utica, w tym pytania o to, co firma komunikowała szkołom na temat możliwości i ograniczeń swojego systemu, czy informowała szkoły, że niezależne testy wykazały, iż systemy nie są w stanie wiarygodnie wykrywać dużych noży, oraz czy uważa, że ich systemy są odpowiednie do stosowania w szkołach. Evolv nie odpowiedział na pytania.

Conor Healy z firmy IPVM, specjalizującej się w analizie sprzętu bezpieczeństwa, oskarżył Evolv o przesadzanie z skutecznością systemu. Healy podkreślił, że urzędnicy szkolni, pozbawieni wiedzy na temat wykrywania broni, często polegają na śmiałych twierdzeniach marketingowych, aby potem odkryć ukryte wady technologii po inwestycji milionów dolarów. Krytykował Evolv i inne firmy, które czerpią korzyści z niewiedzy tych urzędników w zakresie produktów zabezpieczających młodych ludzi.

Chociaż Evolv odmówił komentarza, skierował BBC do bloga swojego CEO, Petera George’a, w którym ten bronił ograniczonej informacji na temat działania technologii. George argumentował, że promocja bezpieczeństwa związanego z wykrywaniem broni wymaga delikatnej równowagi między edukowaniem interesariuszy na temat nowej technologii a niedostarczaniem potencjalnym złoczyńcom informacji, które mogliby wykorzystać do celów szkodliwych.

BBC skontaktowało się z siedmioma innymi okręgami szkolnymi, które korzystają ze skanerów broni firmy Evolv. Pięć z nich nie odpowiedziało, a dwie odmówiły komentarza w tej sprawie.