Axon rejoint le Pacte de UE sur IA : Promouvoir une IA responsable dans le domaine de la sécurité publique

Alors que l’IA transforme notre manière de servir et de protéger, il est plus que jamais essentiel de concevoir avec intention et responsabilité. Chez Axon, nous considérons cela non seulement comme un défi technique, mais aussi comme un enjeu éthique, c’est pourquoi nous sommes fiers d’annoncer qu’Axon a officiellement adhéré au Pacte de l’Union européenne sur l’IA, rejoignant ainsi les leaders mondiaux qui prennet dès à présent des mesures pour s’aligner sur la réglementation européenne sur l’IA au moyen de mesures précoces.

Le Pacte sur l’IA est une initiative qui invite les entreprises volontaires à mettre en œuvre les éléments clés de la Loi sur l’IA. Pour Axon, il s’agit d’un prolongement naturel du travail que nous avons déjà intégré dans nos processus de développement produit et de gouvernance. Qu’il s’agisse conserver la décision humaine au cœur des moments critiques, de tester rigoureusement nos produits basés sur l’IA pour réduire les biais inhérents aux modèles ou encore de solliciter des retours externes de la part de notre Conseil consultatif sur l’éthique et l’équité (EEAC), nous avons déjà adopté et mis en œuvre les valeurs du Pacte au travers de notre cadre pour l’innovation responsable.

C’est le cas, par exemple, de Draft One, notre outil de rédaction de rapports assisté par l’IA, conçu pour réduire les lourdeurs administratives des agents et accélérer leur retour sur le terrain. Lors des premiers tests sur le terrain, Draft One s’est avéré être une solution efficace, réduisant le temps de rédaction des rapports de 40 % ou plus dans certains cas. Mais l’efficacité seule ne suffit pas. Grâce à notre engagement avec notre CCEE et aux commentaires directs des clients, nous avons identifié différents éléments clés à prendre en compte : Comment un rapport généré par Draft One peut-il être comparé, en termes de qualité et d’équité, à un rapport rédigé manuellement ? Et quelles garanties intégrées ou quels réglages par défaut peuvent favoriser la supervision des agents et la responsabilité quant au contenu final ?

Ces considérations ont abouti à des mesures de protection essentielles, qui exigent que chaque rapport soit rédigé, relu et approuvé par un agent humain, garantissant ainsi la précision et la responsabilité des informations. De plus, nos études ont montré que Draft One génère des rapports de grande qualité, et les analyses des préjugés raciaux n’ont pas révélé de différences statistiques significatives en termes d’erreurs, d’omissions ou de langage incriminant entre les groupes raciaux.

La signature du Pacte sur l’IA est une nouvelle façon pour Axon de s’engager à poursuivre ce travail. Nous veillerons à ce qu’une supervision humaine appropriée soit en place, nous améliorerons la transparence de l’IA sur toutes nos interfaces et nous publierons chaque année un rapport sur nos avancées vers la conformité avec la Loi sur l’IA. Notre cadre interne de gouvernance de l’IA, piloté par des experts en confidentialité et en éthique, garantit que ces pratiques ne sont pas improvisées, mais cohérentes, auditables et conformes aux normes européennes.

Plus largement, notre objectif est de contribuer à façonner un avenir où l’IA améliore la sécurité sans compromettre la responsabilité. Que ce soit par le biais de la traduction en temps réel sur les caméras-piétons, la transcription assistée par l’IA des preuves vidéo, ou un outil de synthèse des politiques qui offre aux agents des réponses quasi instantanées aux questions relatives aux politiques de l’organisme, les solutions d’IA d’Axon sont conçues pour assister (et non remplacer) le jugement humain.

Le Pacte sur l’IA nous donne l’occasion de continuer à diriger avec détermination et intégrité, alors que l’IA transforme l’efficacité opérationnelle et la réponse en temps réel pour la sécurité publique. Alors que ce domaine évolue, nous continuerons à apprendre, à écouter et à construire en partenariat avec les professionnels de la sécurité publique, les décideurs politiques et les communautés.