Axon tritt dem EU-KI-Pakt bei: Förderung verantwortungsvoller KI im Bereich der öffentlichen Sicherheit

KI verändert die Art und Weise, wie wir dienen und schützen. Deshalb ist es wichtiger denn je, zielgerichtet und verantwortungsbewusst zu entwickeln. Bei Axon betrachten wir dies nicht nur als technische, sondern auch als ethische Herausforderung – und deshalb sind wir stolz darauf, bekannt zu geben, dass Axon dem KI-Pakt der Europäischen Union beigetreten ist und sich damit bereits frühzeitig mit globalen Akteuren auf eine Ausrichtung an der EU-KI-Verordnung verpflichtet.

Der KI-Pakt ist eine freiwillige Initiative, die Unternehmen dazu aufruft, wesentliche Elemente der KI-Verordnung umzusetzen. Für Axon ist dies eine natürliche Fortsetzung unserer Arbeit, die wir bereits in unsere Produktentwicklungs- und Governance-Praktiken integriert haben. Von der Wahrung menschlicher Entscheidungsgewalt in kritischen Momenten über die gründliche Prüfung unserer KI-gestützten Produkte zur Reduzierung inhärenter Verzerrungen in den Modellen bis hin zur Einholung externer Rückmeldungen durch unseren Ethics & Equity Advisory Council (EEAC) – wir haben die Werte des Pakts bereits in unserem Framework für verantwortungsvolle Innovation verankert und in die Praxis umgesetzt.

Ein Beispiel ist Draft One – unser KI-gestütztes Tool zur Berichtserstellung soll den Verwaltungsaufwand für Einsatzkräfte reduzieren und die Rückkehrzeit nach einem Einsatz verkürzen. In frühen Feldtests erwies sich Draft One als leistungsstarke Effizienzlösung, die die Berichtszeit in einigen Fällen um 40 % oder mehr verkürzte. Doch Effizienz allein reicht nicht aus. Durch die Zusammenarbeit mit unserem EEAC und direktes Kundenfeedback haben wir die wichtigsten Aspekte identifiziert: Erreichen mit Draft One generierte Berichte die gleiche Qualität und Fairness wie Berichte, die manuell erstellt wurden? Welche eingebauten Sicherheitsfunktionen oder Standardeinstellungen tragen dazu bei, dass Einsatzkräfte für den endgültigen Inhalt verantwortlich gemacht werden können?

Diese Überlegungen führten zur Einführung verbindlicher Sicherheitsmaßnahmen, die vorschreiben, dass jeder Bericht durch eine Einsatzkraft manuell geprüft und freigegeben wird, um die Integrität und Verantwortlichkeit der Inhalte zu gewährleisten. Darüber hinaus haben unsere Untersuchungen gezeigt, dass Draft One qualitativ hochwertige Berichte erstellt. Analysen in Hinblick auf rassistische Voreingenommenheit ergaben keine statistisch signifikanten Unterschiede bei Fehlern, Auslassungen oder belastenden Formulierungen zwischen ethnischen Gruppen.

Mit der Unterzeichnung des KI-Pakts bekräftigt Axon sein Engagement, diese Arbeit fortzuführen. Wir werden eine angemessene menschliche Aufsicht gewährleisten, die Transparenz unserer KI-Systeme über alle Schnittstellen hinweg weiter verbessern und jährlich über unsere Fortschritte bei der Einhaltung der KI-Verordnung berichten. Unser internes KI-Governance-Framework, geleitet von Datenschutz- und Ethik-Fachleuten, stellt sicher, dass diese Praktiken nicht situativ, sondern konsistent, überprüfbar und im Einklang mit europäischen Standards umgesetzt werden.

Unser übergeordnetes Ziel ist es, eine Zukunft mitzugestalten, in der KI zu mehr Sicherheit beiträgt, ohne die Verantwortlichkeit zu beeinträchtigen. Ob durch Echtzeitübersetzunge auf Body-Cams, KI-gestützte Transkription von Videobeweisen oder ein Tool zur Richtlinienzusammenfassung, das Einsatzkräften sofortige Antworten auf behördliche Vorschriften liefert – die KI-Lösungen von Axon sollen das menschliche Urteilsvermögen unterstützen, nicht ersetzen.

Der KI-Pakt bietet uns die Möglichkeit, weiterhin zielgerichtet und integer eine Führungsrolle einzunehmen, während KI die betriebliche Effizienz und die Reaktionsfähigkeit in Echtzeit für die öffentliche Sicherheit verändert. Im Zuge der Weiterentwicklung dieses Bereichs werden wir weiterhin dazulernen, aufmerksam zuhören und gemeinsam mit Fachleuten für öffentliche Sicherheit, politischen Entscheidungsträgern und Gemeinden an Lösungen arbeiten.