La controverse autour de l'utilisation de l'intelligence artificielle dans les rapports de police aux États-Unis.

Selon Axon, cet outil est capable de réduire de manière drastique le temps nécessaire à l'élaboration de rapports, permettant ainsi aux agents de se concentrer sur des tâches plus importantes. Draft One cherche également à améliorer la précision des rapports, minimisant la possibilité d'erreurs humaines ou l'omission de détails clés, ce qui est crucial dans un contexte où l'exactitude peut avoir des conséquences significatives.

Malgré l'enthousiasme généré par Draft One, des préoccupations ont émergé parmi les universitaires, les procureurs et les militants. La possibilité que l'IA puisse commettre des erreurs ou intégrer des biais dans les rapports a été l'un des principaux points de débat. Ces rapports sont des documents fondamentaux dans le système de justice pénale, influençant des décisions critiques sur les arrestations, les poursuites et les condamnations. La capacité de l'IA à gérer de manière fiable la complexité et les implications de la rédaction de rapports est vue avec scepticisme par certains experts, qui mettent en garde contre le risque d'automatiser un processus aussi délicat.

L'utilisation de Draft One varie considérablement entre les départements de police qui ont adopté l'outil. À Oklahoma City, par exemple, le département a limité son utilisation à la rédaction de rapports d'incidents mineurs ne donnant pas lieu à des arrestations, suivant la recommandation des procureurs locaux qui ont suggéré une approche prudente. En revanche, à Lafayette, Indiana, les agents ont la liberté d'utiliser Draft One pour tout type de cas, quelle que soit sa gravité, et son utilisation a été largement acceptée par les agents. Ce contraste reflète les différentes stratégies et niveaux de confiance que les départements de police ont dans la technologie de l'IA pour gérer des tâches critiques.

À mesure que l'utilisation de Draft One et d'autres outils d'IA se popularise dans la police, un débat public sur ses avantages et risques serait souhaitable. La possibilité que l'IA commette des erreurs —connues sous le nom de "hallucinations", lorsque des données fausses mais plausibles sont générées— représente un danger potentiel pour la précision des rapports policiers, qui sont des documents de base dans la longue chaîne des processus judiciaires.

Andrew Ferguson, professeur de droit à l'American University, a exprimé à l'AP sa préoccupation que la facilité et la rapidité de la technologie puissent amener les agents à être moins prudents dans la rédaction des rapports, compromettant la justice et la fiabilité du système légal. Ce type de préoccupations souligne l'importance d'établir des garde-fous et des réglementations appropriées.