Sicherheitsfirma mit KI-Waffen-Scannern unter Beobachtung, nachdem ein Schüler mit unentdecktem Messer angegriffen wurde
Ein Sicherheitsunternehmen, das sich auf den Verkauf von KI-Waffen-Scannern an Bildungseinrichtungen spezialisiert hat, sieht sich erneut mit Fragen zur Wirksamkeit seiner Technologie konfrontiert, nachdem ein Schüler mit einem Messer angegriffen wurde, das von seinem 3,7 Millionen US-Dollar teuren System nicht erkannt wurde.
Letzten Halloween wurde Ehni Ler Htoo, ein Schüler aus Utica, New York, beim Gehen durch die Flure seiner Schule von einem anderen Schüler von hinten angegriffen und mit einem Messer niedergestochen. Der Anwalt des Opfers enthüllte in einem exklusiven Interview mit der BBC, dass der 18-Jährige mehrere Stichwunden an verschiedenen Körperteilen erlitten hat.
Das bei dem Angriff verwendete Messer konnte das mehrere Millionen Dollar teure Waffenerkennungssystem von Evolv Technology umgehen. Evolv ist ein Sicherheitsunternehmen, das konventionelle Metalldetektoren durch KI-Scanner ersetzen möchte. Die Scanner von Evolv nutzen fortschrittliche Sensortechnologie und künstliche Intelligenz, um versteckte Waffen wie Messer, Schusswaffen und Sprengkörper zu erkennen und einen Alarm auszulösen, wenn eine Bedrohung erkannt wird.
Das Unternehmen behauptet eine hohe Genauigkeit und hat zuvor damit geprahlt, mit ihrer Technologie „waffenfreie Zonen“ zu schaffen. Der CEO von Evolv, Peter George, hat erklärt, dass ihre Systeme umfassende Signaturen für alle existierenden Waffen enthalten. In früheren Pressemitteilungen wurden die Arten von Waffen aufgelistet, die das System erkennen kann, darunter Schusswaffen, Sprengkörper und Messer.
Allerdings ergab eine letztes Jahr von der BBC durchgeführte Untersuchung, dass das System Probleme bei der Erkennung großer Messer hatte. Bei 24 Durchläufen konnte der Scanner von Evolv 42% der großen Messer nicht erkennen, was Bedenken hinsichtlich der Wirksamkeit aufwarf. Die Testergebnisse deuteten darauf hin, dass potenzielle Kunden, darunter Schulen, über diese Einschränkung informiert werden sollten. Trotz dieser Erkenntnisse hat Evolv seine Präsenz in Schulen ausgebaut und behauptet nun, Installationen in Hunderten von Bildungseinrichtungen in den Vereinigten Staaten zu haben.
Der Messerangriff: Im März 2022 erwarb der Schulbezirk von Utica das Waffenscansystem von Evolv für 13 Schulen, das während der Sommerferien installiert wurde. Am 31. Oktober wurde angeblich auf CCTV-Aufnahmen der Angreifer beim Betreten der Proctor High School und beim Durchqueren der Evolv-Waffen-Scanner festgehalten. Brian Nolan, der Superintendent der Schulen von Utica, stellte sich die Frage, wie es dem Schüler gelungen sein konnte, ein Messer in die Schule zu bringen, als er das verstörende Videomaterial des Vorfalls sah.
Das bei dem Messerangriff verwendete Messer war über 9 Zoll (22,8 cm) lang. Die anschließende interne Untersuchung des Schulbezirks Utica ergab, dass das Evolv Weapon Detection System nicht für die Erkennung von Messern ausgelegt war, so Herr Nolan. Die Scanner wurden aus der Proctor High School entfernt und durch 10 Metalldetektoren ersetzt, aber die Scanner werden weiterhin in den verbleibenden 12 Schulen des Bezirks aufgrund von Haushaltsbeschränkungen eingesetzt.
Seit dem Angriff wurden in anderen Schulen im Bezirk, in denen die Evolv-Systeme weiterhin in Betrieb sind, drei weitere Messer bei Schülern entdeckt. Die Messer wurden gemeldet und nicht durch den Waffenscanner erkannt. Herr Nolan gab an, dass die betroffenen Schüler angaben, problemlos durch das Waffenerkennungssystem gekommen zu sein, was die Unfähigkeit zur Erkennung von Messern weiter bestätigt.
Evolvs Website: Nach dem Messerangriff hat Evolv den Text auf seiner Website geändert. Zuvor prahlte die Homepage mit „waffenfreien Zonen“, aber später wurde es zu „sicheren Zonen“ geändert. Die aktuelle Version lautet nun „sicherere Zonen“.
Evolv behauptet, dass sein System modernste KI-Technologie zur Waffenerkennung nutzt. Kritiker argumentieren jedoch, dass es unzureichende Informationen darüber gibt, wie das System funktioniert und wie effektiv es verschiedene Arten von Waffen erkennen kann.
Die BBC hat Evolv mit detaillierten Anfragen zu dem Vorfall in Utica kontaktiert, einschließlich Fragen dazu, was das Unternehmen den Schulen über die Fähigkeiten und Einschränkungen des Systems mitgeteilt hat. Evolv hat jedoch nicht auf die Anfragen geantwortet.
Conor Healy von IPVM, einer Firma, die sich auf die Analyse von Sicherheitsausrüstung spezialisiert hat, warf Evolv vor, die Wirksamkeit des Systems zu übertreiben. Healy betonte, dass Schulleitungen, die keine Expertise in der Waffenerkennung haben, oft auf kühne Marketingaussagen angewiesen sind und erst nach Investitionen in Millionenhöhe versteckte Mängel in der Technologie entdecken. Er kritisierte Evolv und andere Unternehmen dafür, die Unwissenheit dieser Verantwortlichen auszunutzen, wenn es um Sicherheitsprodukte geht, die junge Menschen schützen sollen.
Obwohl Evolv auf einen Kommentar verzichtete, verwies es die BBC auf einen Blogbeitrag seines CEO, Peter George, in dem er die begrenzte Offenlegung des Unternehmens über die Funktionsweise der Technologie verteidigt. George argumentierte, dass die Vermarktung der Sicherheit bei der Waffenerkennung ein sensibles Gleichgewicht zwischen der Aufklärung der Interessengruppen über neue Technologien und der Verhinderung möglicher Missbräuche erfordert.
Die BBC hat sieben weitere Schulbezirke kontaktiert, die Evolvs Waffenscanner einsetzen. Fünf haben nicht geantwortet, während zwei eine Stellungnahme zu dem Thema abgelehnt haben.
