Wird New Yorks KI-Waffendetektor sich weiterentwickeln und Probleme lösen oder neue schaffen?

Die Stadt New York kündigte vor kurzem an, dass sie in den U-Bahnen der Stadt mit der Einführung von KI-Waffendetektoren namens Evolv beginnen werde, um Passagiere zu kontrollieren.

„Ich sage ihnen, dass sie sich weiterentwickeln und es herausbringen müssen, weil ich denke, dass es eine gute Technologie ist“, sagte Bürgermeister Eric Adams bei seiner wöchentlichen Pressekonferenz am Dienstag. „Ich bin wirklich begeistert davon, allein die Möglichkeit, dass wir jemanden identifizieren können, der eine Waffe trägt, bevor er in das System eindringt.“

Doch die Einwohner der Stadt sagen, sie fühlen sich immer noch nicht sicher.

Wie in einem NBC- Bericht beschrieben, sind die etwa 1,80 Meter hohen Scanner mit dem Logo der Stadtpolizei und einer mehrfarbigen Lichtanzeige versehen. Wird eine Waffe erkannt, wird eine Warnung an ein Tablet gesendet, das von zwei NYPD-Beamten überwacht wird. Das System ist eigentlich nicht dafür gedacht, alltägliche Gegenstände wie Telefone und Laptops zu warnen – die iPad-Hülle eines Reporters löste es am Freitag jedoch aus.

Auch Bürgerrechtsaktivisten protestierten gegen die Scanner. Die New York Civil Liberties Union und die Legal Aid Society kündigten an, sie würden die Stadt verklagen, sollte die Technologie in großem Umfang eingeführt werden.

Die NYCLU ist der Ansicht, dass U-Bahn-Passagiere aufgrund dieser Technologie verfassungswidrigen Durchsuchungen durch die Polizei ausgesetzt sein könnten.

Bisher wurde das System lediglich an einigen Standorten installiert.

Doch da es in ganz New York City 472 U-Bahn-Stationen gibt – mehr als jedes andere System weltweit –, ist die Sicherheit in den U-Bahnen durch das Fehlen von Evolv AI-Detektoren in jeder Station nicht wirklich gewährleistet.

Obwohl es Aufsehen erregende Vorfälle gab, wie etwa eine Schießerei in einem Zug in Brooklyn im Jahr 2022 , bei der zehn Menschen verletzt wurden, ist die Kriminalität in der New Yorker U-Bahn in den letzten Jahren zurückgegangen .

Das bedeutet, dass Gewaltverbrechen in diesem System insgesamt selten sind und das New Yorker U-Bahn-System im Allgemeinen so sicher ist wie jeder andere öffentliche Ort.

Laut Polizeiangaben ist die Kriminalität in der U-Bahn seit dem 21. Juli im Vergleich zum gleichen Zeitraum im Jahr 2023 um 8 % zurückgegangen. Im vergangenen Jahr gab es laut Polizei fünf Tötungsdelikte in der U-Bahn, im Jahr 2022 waren es 10.

KI-Waffendetektoren sind nützlich, da sie potenzielle Bedrohungen schneller und genauer identifizieren können als menschliches Personal. Im Gegensatz zu menschlichen Wachleuten leiden KI-Systeme nicht unter Müdigkeit, Ablenkung oder Voreingenommenheit und gewährleisten so eine gleichbleibende Leistung und Wachsamkeit.

Auf der anderen Seite können dieselben Detektoren harmlose Objekte fälschlicherweise als Waffen identifizieren (falsch-positive Ergebnisse) oder tatsächliche Bedrohungen nicht erkennen (falsch-negative Ergebnisse). Dies kann zu Sicherheitslücken oder unnötiger Panik führen.

Kritiker halten Evolv aus rechtlicher Sicht für problematisch.

Evolv kann auch andere Mängel aufweisen, beispielsweise die Anfälligkeit für Hackerangriffe und andere Cyberangriffe, die die Wirksamkeit des Systems beeinträchtigen könnten.

Zudem dürften die Ersteinrichtung und der Einsatz der Detektoren kostspielig sein und erhebliche Investitionen in Technologie und Infrastruktur erfordern – die natürlich alle aus dem Stadthaushalt bezahlt werden, der, ob es der Stadt nun gefällt oder nicht, von den Steuerzahlern getragen wird.

Wie die NYCLU anmerkt, wirft der Einsatz von KI in Sicherheitskontexten ethische und rechtliche Fragen hinsichtlich der Verantwortlichkeit auf, insbesondere in Fällen, in denen das System Fehler macht oder an Vorfällen beteiligt ist, die Schaden verursachen.

Es ist klar, dass die Akzeptanz von KI-Waffendetektoren in der Bevölkerung gemischt sein wird, da es einigen Menschen Unbehagen bereitet, sich bei Sicherheitsentscheidungen auf Maschinen zu verlassen.

Hoffentlich bleibt die Kriminalitätsrate niedrig und das Sicherheitsniveau hoch – mit oder ohne Evolv.