Inteligencia artificial y tutela cautelar. Especial referencia a la prisión provisional

Ana María Neira Pena

doi:10.22197/rbdpp.v7i3.618

Autores

Ana María Neira Pena Universidade da Coruña http://orcid.org/0000-0002-6562-8208

DOI:

https://doi.org/10.22197/rbdpp.v7i3.618

Palavras-chave:

prisión provisional, inteligencia artificial, valoración de riesgos, garantías procesales.

Resumo

Esta investigación se centra en el estudio del uso de la IA en la toma de decisiones cautelares. Concretamente se examina la forma en que habitualmente los jueces valoran los presupuestos de la prisión provisional y se cuestiona si los sistemas de IA pueden replicar tales procesos valorativos, mejorando su eficacia. A tal fin, se analizan los sesgos en que incurren los jueces a la hora de decidir sobre la prisión provisional, evaluando sus diferentes presupuestos de adopción, y el modo en que las herramientas de IA podrían replicar y, en su caso, mejorar tales decisiones. Por último, se reflexiona sobre los riesgos que la introducción de sistemas de IA podría suponer para los derechos y garantías procesales, tratando de establecer las cautelas o salvaguardas precisas que debieran de flanquear el avance de la IA en la justicia penal para lograr una incorporación de la ciencia en la justicia que resulte respetuosa con los derechos fundamentales del justiciable. En definitiva, este trabajo pivota sobre dos cuestionamientos clave a los que se trata de dar respuesta: 1º) ¿El uso de la IA puede servir para mejorar la eficacia del proceso de toma decisión en cuanto a la adopción de la prisión provisional?; 2º) ¿Qué riesgos plantea el uso de la IA en este contexto para los derechos y garantías del justiciable y qué cautelas deben de adoptarse para prevenir tales riesgos?

Downloads

Os dados de download ainda não estão disponíveis.

Biografia do Autor

Ana María Neira Pena, Universidade da Coruña

Profesora contratada doctora en el área de Derecho Procesal de la Universidade da Coruña (España). Doctora en Derecho por la Universidade da Coruña.

Referências

BALCELLS, Marc. Luces y sombras del uso de la inteligencia artificial en el sistema de justicia penal. En: CERRILLO I MARTÍNEZ, Agustí; PEGUERA POCH, Miquel (coords.). Retos jurídicos de la inteligencia artificial, Cizur Menor (Navarra): Aranzadi, 2020, pp. 145-159.

BANACH-GUTIERREZ, Joanna Beata. Globalized Criminal Justice in the European Union Context. How Theory Meets Practice. New Journal of European Criminal Law, v. 4, n. 1-2, 2013. https://doi.org/10.1177/203228441300400110

BORGES BÁZQUEZ, Raquel. El sesgo de la máquina en la toma de decisiones en el proceso penal. Ius et scientia, v. 6, n. 2, pp. 54-71, 2020. https://doi.org/10.12795/ietscientia.2020.i02.05

BORRÀS ANDRÉS, Núria. La verdad y la ficción de la inteligencia artificial en el proceso penal. En: CONDE FUENTES, Jesús; SERRANO HOYO, Gregorio (dirs.). La justicia digital en España y la Unión Europea: Situación actual y perspectivas de futuro. Barcelona: Atelier, 2019, pp. 31-39.

BUENO DE MATA, Federico. Macrodatos, inteligencia artificial y proceso: luces y sombras. Revista General de Derecho Procesal, n. 51, 2020.

CHAPMAN, Loren James. Illusory correlation in observational report. Journal of Verbal Learning & Verbal Behavior, v. 6, n. 1, pp. 151–155, 1967. https://doi.org/10.1016/S0022-5371(67)80066-5

DE HOYOS SANCHO, Montserrat. El Libro Blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como ´sector del riesgo´, Revista Española de Derecho Europeo, n. 76, pp. 9-44, 2020.

DIETRICH, William; MENDOZA, Christina; BRENNAN, Tim COMPAS Risk Scales: Demonstrating accuracy equity and predictive parity. Northpointe Inc. Research Department, 2016. Disponible en: https://go.volarisgroup.com/rs/430-MBX-989/images/ProPublica_Commentary_Final_070616.pdf. Último acceso: 03/09/2021.

DRESSEL, J; FARID, H. The accuracy, fairness and limits of predicting recidivism. Science advances, n. 4, 2018. https://doi.org/10.1126/sciadv.aao5580

ESTÉVEZ MENDOZA, Lucana. Algoritmos policiales basados en IA derechos fundamentales a la luz de Hart y Valcri. En JIMÉNEZ CONDE, Fernando; BELLIDO PENADÉS, Rafael (coords.). Justicia: garantías vs. Eficacia. Valencia: Tirant Lo Blanch, 2019, pp. 665-674.

GARCÍA ESPAÑA, Elisa. Extranjeros sospechosos, condenados y ex condenados: Un mosaico de exclusión. Revista Electrónica de Ciencia Penal y Criminología, n. 19-15, 2017. Disponible en: http://criminet.ugr.es/recpc/19/recpc19-15.pdf. Último acceso: 03/09/2021.

GASCÓN INCHAUSTI, Fernando. Desafíos para el proceso penal en la era digital: externalización, sumisión pericial e inteligencia artificial. En CONDE FUENTES, Jesús; SERRANO HOYO, Gregorio (dirs.). La justicia digital en España y la Unión Europea: Situación actual y perspectivas de futuro. Barcelona: Atelier, 2019, pp. 191-206.

GIALUZ, Mitja. Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei risk assessment tools tra Stati Uniti ed Europa. Diritto Penale Contemporaneo, 2019, pp. 19-20. Disponible en: https://archiviodpc.dirittopenaleuomo.org/upload/6903-gialuz2019b.pdf. Último acceso: 03/09/2021.

GIMENO SENDRA, Vicente. Manual de derecho procesal penal. 2ª ed. Madrid: Ediciones Jurídicas Castillo de Luna, 2018.

GÓMEZ ORBANEJA, Eduardo. Comentarios a la Ley de Enjuiciamiento Criminal, Tomo I, Barcelona: Bosch, 1947.

GORDON, Faith. Book Review on EUBANKS, Virginia. Automating inequality: How high-tech tools profile, police, and punish the poor, Law, Technology and Humans, St Martin’s Press, New York, v. 1, pp. 162-164, 2018. https://doi.org/10.5204/lthj.v1i0.1386

GUERRA PÉREZ, Cristina. La decisión judicial de prisión preventiva, Valencia: Tirant Lo Blanch, 2010.

HERNÁDEZ GIMÉNEZ, María. Inteligencia artificial y Derecho Penal. Actualidad Jurídica Iberoamericana, n. 10 bis, pp. 792-843, junio 2019.

JENNINGS, Dennis L.; AMABILE, Teresa M.; ROSS, Lee. Informal covariation assessment: Data-based versus theory-based judgment. En: KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 211-230. https://doi.org/10.1017/CBO9780511809477.016

KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press, 1982.

https://doi.org/10.1017/CBO9780511809477

KAHNEMAN, Daniel; TVERSKY, Amos, “Judgments of and by representativeness”. En: KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 84-98. https://doi.org/10.1017/CBO9780511809477.007

KAHNEMAN, Daniel; TVERSKY, Amos. Availability: A heuristic for judging frequency and probability. En KAHNEMAN, Daniel; SLOVIC, Paul; TVERSKY, Amos. Judgment under Uncertainty: Heuristics and Biases, Cambridge: Cambridge University Press, 1982, pp. 163-178. https://doi.org/10.1017/CBO9780511809477.012

KEHL, Danielle; GUO, Priscilla; KESSLER, Samuel. Algorithms in the Criminal Justice System: assessing the use of risk assessment in sentencing, Responsive Communities Initiative, Berkman Klein Center for Internet & Society, Harvard Law School. Disponible en: https://dash.harvard.edu/handle/1/33746041. Último acceso: 03/09/2021.

KLEINBERG, Jon; LAKKARAJU, Himabindu; LESKOVEC, Jure; LUDWIG, Jens; MULLAINATHAN, Sendhil. Human Decisions and Machine Predictions. The Quarterly Journal of Economics, v. 133, n. 1, pp. 237–293, 2018. https://doi.org/10.3386/w23180

LJUNGQUIST, Thomas. Mutual Recognition of Non-Custodial Pre-Trial Supervision Measures in the European Union. Revue internationale de droit pénal, v. 77, n. 1-2, 2006. https://doi.org/10.3917/ridp.771.0169

MARTÍN DIZ, Fernando. Aplicaciones de inteligencia artificial en procesos penales por delitos relacionados con la corrupción. En: RODRÍGUEZ-GARCÍA, Nicolás; CARIIZO GONZÁLEZ-CASTELL, Adán; RODRÍGUEZ-LÓPEZ, Fernando (eds.). Corrupción: compliance, represión y recuperación de activos, Valencia: Tirant Lo Blanch, pp. 533-568.

MARTÍNEZ GARAY Lucía. Peligrosidad, Algoritmos y Due Process: el Caso State V Loomis. Revista de Derecho Penal y Criminología, 3.ª Época, n. 20, pp. 485-502, julio de 2018. https://doi.org/10.5944/rdpc.20.2018.26484

MIRÓ LLINARES, Fernando. Inteligencia artificial y Justicia Penal: Más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, n. 20, pp. 87-130, 2018. https://doi.org/10.5944/rdpc.20.2018.26446

MIRÓ LLINARES, Fernando. “El modelo policial que viene: mitos y realidades del impacto de la inteligencia artificial y la ciencia de datos en la prevención policial del crimen”. En MARTÍNEZ ESPASA, José (coord.). Libro blanco de la prevención y seguridad local valenciana: Conclusiones y propuestas del Congreso Valenciano de Seguridad Local: la prevención del siglo XXI, celebrado en Benidorm del 16 al 18 de noviembre de 2018, Valencia: Agència Valenciana de Seguretat i Resposta a les Emergències : Agència Valenciana de Seguretat i Resposta a les Emergències, Instituto Valenciano de Seguridad Pública y Emergencias, 2019, pp. 98-113. Disponible en: https://dialnet.unirioja.es/servlet/libro?codigo=739767. Último acceso: 03/09/2021.

MUÑOZ RODRÍGUEZ, Ana Belén. El impacto de la inteligencia artificial en el proceso penal. Anuario de la Facultad de Derecho. Universidad de Extremadura, n. 36, pp. 695-728, 2020. Último acceso: 03/09/2021. https://doi.org/10.17398/2695-7728.36.695

NIEVA FENOLL, Jordi. Inteligencia artificial y proceso judicial. Madrid: Marcial Pons, 2018.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown, 2016.

PÉREZ ESTRADA, Miren Josune. El uso de algoritmos en el proceso penal y el derecho a un proceso con todas las garantías. En: BARONA VILAR, Silvia (ed.) Claves de la justicia penal: feminización, inteligencia artificial, supranacionalidad y seguridad. Valencia: Tirant lo Blanch, 2019, pp. 235-154.

RAFARACI, Tomasso. The Application of the Principle of Mutual Recognition to Decisions on Supervision Measures as an Alternative to Provisional Detention. En: RUGGERI, Stefano (ed.). Liberty and Security in Europe, Osnabruck: Universitätsverlag, 2013.

RAMOS MÉNDEZ, Francisco. Enjuiciamiento criminal. Décima lectura constitucional. Barcelona: Atelier, 2011.

RECIO JUÁREZ, Matías. Nuevos Instrumentos para el Cumplimiento Transnacional de las Medidas Cautelares Alternativas a la Prisión Provisional en la Unión Europea. Revista Direito e Inovaçao, v. 2, n. 2, pp. 198-213, 2014.

ROMEO CASABONA, Carlos María. Inteligencia artificial, derechos fundamentales y proceso penal. Comunicaciones en propiedad industrial y derecho de la competencia, n. 89, pp. 253-271, enero-abril de 2020.

SIGNORATO, Silvia. Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo. Rivista di diritto processuale, v. 75, n. 2, pp. 605-616, 2020.

SIMON CASTELLANO, Pere. Justicia cautelar e inteligencia artificial. La alternativa a los atávicos heurísticos judiciales Barcelona: Bosch, 2021.

SOLAR CAYÓN, José Ignacio. Inteligencia artificial en la justicia penal: los sistemas algorítmicos de evaluación de riesgos. En: SOLAR CAYÓN, José Ignacio (ed.). Dimensiones éticas y jurídicas de la inteligencia artificial en el marco del Estado de Derecho, Alcalá de Henares: Universidad de Alcalá de Henares, 2020, pp. 125-172.

VÁZQUEZ SOTELO, José Luis. Presunción de inocencia del imputado e íntima convicción del tribunal. Estudio sobre la utilización del imputado como fuente de prueba en el proceso penal español. Barcelona: Bosch, 1985.

VEALE, Michael; EDWARDS, Lilian. Clarity, surprises, and further questions in the Article 29. Working Party draft guidance on automated decision-making and profiling. Computer Law & Security Review, n. 34, pp. 398–404, 2018. https://doi.org/10.1016/j.clsr.2017.12.002

ZAVRŠNIK, Aleš. Algorithmic justice: Algorithms and big data in criminal justice setting. European Journal of criminology, pp. 1-20, pp. 13-14, septiembre de 2019. https://doi.org/10.1177/1477370819876762