Axon se une al Pacto por la IA de la Unión Europea: Promoviendo una IA responsable en la seguridad pública

La IA está redefiniendo la forma en que servimos y protegemos, y por eso es más importante que nunca obrar con propósito y responsabilidad. En Axon, consideramos esta cuestión no solo como un desafío técnico, sino también ético, por lo que nos enorgullece anunciar que Axon ha firmado oficialmente el Pacto por la IA de la Unión Europea, uniéndose así a los líderes mundiales para adoptar las primeras medidas que permitan alinearse con la Ley de IA de la Unión Europea.

El Pacto por la IA es una iniciativa voluntaria que pide a las empresas que apliquen elementos clave de la Ley de IA. Para Axon, se trata de una continuación natural del trabajo que ya hemos integrado en nuestras prácticas de desarrollo de productos y gobernanza: desde mantener la toma de decisiones en manos de las personas en momentos críticos hasta probar rigurosamente nuestros productos compatibles con la IA para reducir el sesgo inherente en los modelos y buscar comentarios externos de nuestro Consejo Asesor de Ética y Equidad (EEAC), ya hemos adoptado y puesto en práctica los valores del Pacto con nuestro marco de referencia de innovación responsable.

Un ejemplo es Draft One, nuestra herramienta de redacción de informes asistida por IA, diseñada para reducir las cargas administrativas de los agentes y devolver el tiempo a las labores policiales sobre el terreno. En las primeras pruebas de campo, Draft One ha demostrado ser una solución potente y eficaz, ya que pudo reducir el tiempo de generación de informes un 40 %, o incluso más en algunos casos. Pero la eficiencia por sí sola no es suficiente. A través del compromiso con nuestro EEAC y los comentarios directos de los clientes, hemos identificado consideraciones importantes: ¿Cómo se compara un informe generado por Draft One con un informe elaborado manualmente en cuanto a calidad y equidad? Y, ¿qué medidas de seguridad integradas o configuraciones predeterminadas pueden fomentar la supervisión y la responsabilidad de los agentes para el contenido final?

Estas consideraciones han dado lugar a medidas de seguridad críticas que requieren que cada informe sea editado, revisado y aprobado por un agente humano, lo que garantiza la precisión y la responsabilidad de la información. Además, nuestros estudios han demostrado que Draft One genera informes de alta calidad, y en los análisis de sesgo racial no se han encontrado diferencias estadísticamente significativas en cuanto a errores, omisiones o lenguaje incriminatorio entre grupos raciales.

La firma del Pacto por la IA es otra forma que pone de manifiesto cómo Axon se ha comprometido a continuar con este trabajo. Nos aseguraremos de que se implemente una supervisión humana adecuada, mejoraremos la transparencia de la IA en todas las interfaces e informaremos anualmente sobre nuestro progreso hacia el cumplimiento de la Ley de IA. Nuestro marco de referencia interno de gobernanza de la IA, dirigido por expertos en privacidad y ética, garantiza que estas prácticas no sean improvisadas, sino que sean coherentes, puedan auditarse y estén alineadas con los estándares europeos.

En términos más generales, nuestro objetivo consiste en contribuir a dar forma a un futuro en el que la IA mejore la seguridad sin comprometer la responsabilidad. Ya sea a través de la traducción de un idioma a otro en tiempo real en cámaras corporales, de la transcripción asistida por I A de evidencias en vídeo, o de una herramienta de resumen de políticas que proporciona a los agentes respuestas casi instantáneas a las preguntas sobre las políticas del organismo, las soluciones de IA de Axon están diseñadas para complementar el juicio humano, no para sustituirlo.

El Pacto por la IA nos brinda la oportunidad de seguir liderando con propósito e integridad a medida que la IA transforma la eficiencia operativa y la respuesta en tiempo real para la seguridad pública. Conforme este espacio evolucione, seguiremos aprendiendo, escuchando y construyendo en colaboración con profesionales de la seguridad pública, legisladores y comunidades.