Artificial intelligence and precautionary guardianship. Special reference to pre-trial detention
DOI:
https://doi.org/10.22197/rbdpp.v7i3.618Keywords:
pre-trial detention, artificial intelligence, risk assessment, procedural safeguards.Abstract
This research focuses on the study of the use of AI in pretrial detention decision making. Specifically, it analyzes the way in which judges usually assess the requirements of pre-trial detention and questions whether AI systems can replicate such assessment processes, improving the efficiency of decision making. To this end, we analyze the biases that judges incur when deciding on pre-trial detention, assessing the purposes and dangers that justify it, and how AI tools could replicate and, when possible, improve such decisions. Finally, the paper reflects on the risks that the introduction of AI systems could pose to procedural rights and guarantees, trying to establish the precise precautions or safeguards that should flank the advance of AI in criminal justice to achieve an incorporation of science in justice that is respectful of the fundamental rights of the defendant. In short, this paper hinges on two key questions to be answered: 1st) Can the use of AI serve to improve the efficiency of the decision-making process regarding the adoption of pre-trial detention? 2nd) What risks does the use of AI in this context pose to the rights and guarantees of the defendant and what precautions should be taken to prevent such risks?Downloads
References
BALCELLS, Marc. Luces y sombras del uso de la inteligencia artificial en el sistema de justicia penal. En: CERRILLO I MARTÍNEZ, Agustí; PEGUERA POCH, Miquel (coords.). Retos jurídicos de la inteligencia artificial, Cizur Menor (Navarra): Aranzadi, 2020, pp. 145-159.
BANACH-GUTIERREZ, Joanna Beata. Globalized Criminal Justice in the European Union Context. How Theory Meets Practice. New Journal of European Criminal Law, v. 4, n. 1-2, 2013. https://doi.org/10.1177/203228441300400110
BORGES BÁZQUEZ, Raquel. El sesgo de la máquina en la toma de decisiones en el proceso penal. Ius et scientia, v. 6, n. 2, pp. 54-71, 2020. https://doi.org/10.12795/ietscientia.2020.i02.05
BORRÀS ANDRÉS, Núria. La verdad y la ficción de la inteligencia artificial en el proceso penal. En: CONDE FUENTES, Jesús; SERRANO HOYO, Gregorio (dirs.). La justicia digital en España y la Unión Europea: Situación actual y perspectivas de futuro. Barcelona: Atelier, 2019, pp. 31-39.
BUENO DE MATA, Federico. Macrodatos, inteligencia artificial y proceso: luces y sombras. Revista General de Derecho Procesal, n. 51, 2020.
CHAPMAN, Loren James. Illusory correlation in observational report. Journal of Verbal Learning & Verbal Behavior, v. 6, n. 1, pp. 151–155, 1967. https://doi.org/10.1016/S0022-5371(67)80066-5
DE HOYOS SANCHO, Montserrat. El Libro Blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como ´sector del riesgo´, Revista Española de Derecho Europeo, n. 76, pp. 9-44, 2020.
DIETRICH, William; MENDOZA, Christina; BRENNAN, Tim COMPAS Risk Scales: Demonstrating accuracy equity and predictive parity. Northpointe Inc. Research Department, 2016. Disponible en: https://go.volarisgroup.com/rs/430-MBX-989/images/ProPublica_Commentary_Final_070616.pdf. Último acceso: 03/09/2021.
DRESSEL, J; FARID, H. The accuracy, fairness and limits of predicting recidivism. Science advances, n. 4, 2018. https://doi.org/10.1126/sciadv.aao5580
ESTÉVEZ MENDOZA, Lucana. Algoritmos policiales basados en IA derechos fundamentales a la luz de Hart y Valcri. En JIMÉNEZ CONDE, Fernando; BELLIDO PENADÉS, Rafael (coords.). Justicia: garantías vs. Eficacia. Valencia: Tirant Lo Blanch, 2019, pp. 665-674.
GARCÍA ESPAÑA, Elisa. Extranjeros sospechosos, condenados y ex condenados: Un mosaico de exclusión. Revista Electrónica de Ciencia Penal y Criminología, n. 19-15, 2017. Disponible en: http://criminet.ugr.es/recpc/19/recpc19-15.pdf. Último acceso: 03/09/2021.
GASCÓN INCHAUSTI, Fernando. Desafíos para el proceso penal en la era digital: externalización, sumisión pericial e inteligencia artificial. En CONDE FUENTES, Jesús; SERRANO HOYO, Gregorio (dirs.). La justicia digital en España y la Unión Europea: Situación actual y perspectivas de futuro. Barcelona: Atelier, 2019, pp. 191-206.
GIALUZ, Mitja. Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei risk assessment tools tra Stati Uniti ed Europa. Diritto Penale Contemporaneo, 2019, pp. 19-20. Disponible en: https://archiviodpc.dirittopenaleuomo.org/upload/6903-gialuz2019b.pdf. Último acceso: 03/09/2021.
GIMENO SENDRA, Vicente. Manual de derecho procesal penal. 2ª ed. Madrid: Ediciones Jurídicas Castillo de Luna, 2018.
GÓMEZ ORBANEJA, Eduardo. Comentarios a la Ley de Enjuiciamiento Criminal, Tomo I, Barcelona: Bosch, 1947.
GORDON, Faith. Book Review on EUBANKS, Virginia. Automating inequality: How high-tech tools profile, police, and punish the poor, Law, Technology and Humans, St Martin’s Press, New York, v. 1, pp. 162-164, 2018. https://doi.org/10.5204/lthj.v1i0.1386
GUERRA PÉREZ, Cristina. La decisión judicial de prisión preventiva, Valencia: Tirant Lo Blanch, 2010.
HERNÁDEZ GIMÉNEZ, María. Inteligencia artificial y Derecho Penal. Actualidad Jurídica Iberoamericana, n. 10 bis, pp. 792-843, junio 2019.
JENNINGS, Dennis L.; AMABILE, Teresa M.; ROSS, Lee. Informal covariation assessment: Data-based versus theory-based judgment. En: KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 211-230. https://doi.org/10.1017/CBO9780511809477.016
KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press, 1982.
https://doi.org/10.1017/CBO9780511809477
KAHNEMAN, Daniel; TVERSKY, Amos, “Judgments of and by representativeness”. En: KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 84-98. https://doi.org/10.1017/CBO9780511809477.007
KAHNEMAN, Daniel; TVERSKY, Amos. Availability: A heuristic for judging frequency and probability. En KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 163-178. https://doi.org/10.1017/CBO9780511809477.012
KEHL, Danielle; GUO, Priscilla; KESSLER, Samuel. Algorithms in the Criminal Justice System: assessing the use of risk assessment in sentencing, Responsive Communities Initiative, Berkman Klein Center for Internet & Society, Harvard Law School. Disponible en: https://dash.harvard.edu/handle/1/33746041. Último acceso: 03/09/2021.
KLEINBERG, Jon; LAKKARAJU, Himabindu; LESKOVEC, Jure; LUDWIG, Jens; MULLAINATHAN, Sendhil. Human Decisions and Machine Predictions. The Quarterly Journal of Economics, v. 133, n. 1, pp. 237–293, 2018. https://doi.org/10.3386/w23180
LJUNGQUIST, Thomas. Mutual Recognition of Non-Custodial Pre-Trial Supervision Measures in the European Union. Revue internationale de droit pénal, v. 77, n. 1-2, 2006. https://doi.org/10.3917/ridp.771.0169
MARTÍN DIZ, Fernando. Aplicaciones de inteligencia artificial en procesos penales por delitos relacionados con la corrupción. En: RODRÍGUEZ-GARCÍA, Nicolás; CARIIZO GONZÁLEZ-CASTELL, Adán; RODRÍGUEZ-LÓPEZ, Fernando (eds.). Corrupción: compliance, represión y recuperación de activos, Valencia: Tirant Lo Blanch, pp. 533-568.
MARTÍNEZ GARAY Lucía. Peligrosidad, Algoritmos y Due Process: el Caso State V Loomis. Revista de Derecho Penal y Criminología, 3.ª Época, n. 20, pp. 485-502, julio de 2018. https://doi.org/10.5944/rdpc.20.2018.26484
MIRÓ LLINARES, Fernando. Inteligencia artificial y Justicia Penal: Más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, n. 20, pp. 87-130, 2018. https://doi.org/10.5944/rdpc.20.2018.26446
MIRÓ LLINARES, Fernando. “El modelo policial que viene: mitos y realidades del impacto de la inteligencia artificial y la ciencia de datos en la prevención policial del crimen”. En MARTÍNEZ ESPASA, José (coord.). Libro blanco de la prevención y seguridad local valenciana: Conclusiones y propuestas del Congreso Valenciano de Seguridad Local: la prevención del siglo XXI, celebrado en Benidorm del 16 al 18 de noviembre de 2018, Valencia: Agència Valenciana de Seguretat i Resposta a les Emergències : Agència Valenciana de Seguretat i Resposta a les Emergències, Instituto Valenciano de Seguridad Pública y Emergencias, 2019, pp. 98-113. Disponible en: https://dialnet.unirioja.es/servlet/libro?codigo=739767. Último acceso: 03/09/2021.
MUÑOZ RODRÍGUEZ, Ana Belén. El impacto de la inteligencia artificial en el proceso penal. Anuario de la Facultad de Derecho. Universidad de Extremadura, n. 36, pp. 695-728, 2020. Último acceso: 03/09/2021. https://doi.org/10.17398/2695-7728.36.695
NIEVA FENOLL, Jordi. Inteligencia artificial y proceso judicial. Madrid: Marcial Pons, 2018.
O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown, 2016.
PÉREZ ESTRADA, Miren Josune. El uso de algoritmos en el proceso penal y el derecho a un proceso con todas las garantías. En: BARONA VILAR, Silvia (ed.) Claves de la justicia penal: feminización, inteligencia artificial, supranacionalidad y seguridad. Valencia: Tirant lo Blanch, 2019, pp. 235-154.
RAFARACI, Tomasso. The Application of the Principle of Mutual Recognition to Decisions on Supervision Measures as an Alternative to Provisional Detention. En: RUGGERI, Stefano (ed.). Liberty and Security in Europe, Osnabruck: Universitätsverlag, 2013.
RAMOS MÉNDEZ, Francisco. Enjuiciamiento criminal. Décima lectura constitucional. Barcelona: Atelier, 2011.
RECIO JUÁREZ, Matías. Nuevos Instrumentos para el Cumplimiento Transnacional de las Medidas Cautelares Alternativas a la Prisión Provisional en la Unión Europea. Revista Direito e Inovaçao, v. 2, n. 2, pp. 198-213, 2014.
ROMEO CASABONA, Carlos María. Inteligencia artificial, derechos fundamentales y proceso penal. Comunicaciones en propiedad industrial y derecho de la competencia, n. 89, pp. 253-271, enero-abril de 2020.
SIGNORATO, Silvia. Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo. Rivista di diritto processuale, v. 75, n. 2, pp. 605-616, 2020.
SIMON CASTELLANO, Pere. Justicia cautelar e inteligencia artificial. La alternativa a los atávicos heurísticos judiciales Barcelona: Bosch, 2021.
SOLAR CAYÓN, José Ignacio. Inteligencia artificial en la justicia penal: los sistemas algorítmicos de evaluación de riesgos. En: SOLAR CAYÓN, José Ignacio (ed.). Dimensiones éticas y jurídicas de la inteligencia artificial en el marco del Estado de Derecho, Alcalá de Henares: Universidad de Alcalá de Henares, 2020, pp. 125-172.
VÁZQUEZ SOTELO, José Luis. Presunción de inocencia del imputado e íntima convicción del tribunal. Estudio sobre la utilización del imputado como fuente de prueba en el proceso penal español. Barcelona: Bosch, 1985.
VEALE, Michael; EDWARDS, Lilian. Clarity, surprises, and further questions in the Article 29. Working Party draft guidance on automated decision-making and profiling. Computer Law & Security Review, n. 34, pp. 398–404, 2018. https://doi.org/10.1016/j.clsr.2017.12.002
ZAVRŠNIK, Aleš. Algorithmic justice: Algorithms and big data in criminal justice setting. European Journal of criminology, pp. 1-20, pp. 13-14, septiembre de 2019. https://doi.org/10.1177/1477370819876762
Downloads
Published
Issue
Section
License
As of 2022, articles published in the RDPP are licensed under Creative Commons Atribuição 4.0 Internacional. rticles published until 2021 adopted the Creative Commons Atribuição-NãoComercial 4.0 Internacional.
How to Cite
