Erros judiciários em tempos de digital surveillance
os algoritmos de reconhecimento facial em questão
DOI:
https://doi.org/10.22197/rbdpp.v8i2.720Palavras-chave:
Reconhecimento fotográfico, Reconhecimento pessoal, Falsos reconhecimentos, Falsas memóriasResumo
Os tradicionais problemas do reconhecimento pessoal, mormente quando realizado em álbuns fotográficos, foram repaginados e receberam verniz científico-tecnológico com a introdução de algoritmos de reconhecimento facial. A pandemia de coronavírus serviu de justificativa para a multiplicação dessas tecnologias, a pretexto do combate ao vírus. Assim foi que, em muitos lugares, como a Inglaterra e os EUA, esses algoritmos passaram a ser utilizados na persecução penal, não raro sob o argumento de redução da subjetividade dos depoimentos. Nesse contexto, o objetivo deste artigo é indagar como o reconhecimento facial pode produzir novos erros judiciários. Os objetivos específicos são abordar o uso de câmeras de monitoramento com reconhecimento facial para vigilância digital, analisar alguns aspectos do incremento das medidas securitárias durante a pandemia, investigar os erros judiciários em reconhecimentos de pessoas e explicar como os erros judiciários podem ocorrer durante o uso dessas câmeras. A hipótese da qual se parte é que essa tecnologia, por um lado, não pode cumprir condições mínimas de avaliação de confiabilidade probatória, e, por outro, ao ser aplicada a imagens, não passa de uma atualização, em muitos casos bastante malfeita, dos problemáticos reconhecimentos fotográficos. Utilizou-se o método hipotético-dedutivo e a técnica de pesquisa bibliográfica.
Downloads
Referências
AGAMBEN, Giorgio. A propósito de Tiqqun. In: TIQQUN. Contribuição para a guerra em curso. São Paulo: n-1 edições, 2019.
AGAMBEN, Giorgio. Chiarimenti. Quodlibet, 17 mar. 2020. Disponível em: <https://www.quodlibet.it/giorgio-agamben-chiarimenti>. Acesso em: 06 jun. 2020.
AGAMBEN, Giorgio. Estado de exceção. Trad. Iraci D. Poleti. São Paulo: Boitempo, 2004.
ASHWORTH, Andrew. Four threats to the presumption of innocence. The international jornal of evidence & proof, v. 10, p. 241-279, 2006. https://doi.org/10.1350/ijep.10.4.241
AMARAL, Augusto Jobim do. A governamentalidade em tempos securitários. In: SILVEIRA, Clovis Eduardo Malinverni; GRAZIANO SOBRINHO, Sergio Francisco Carlos. (Org.). Direito, risco e sustentabilidade: abordagens interdisciplinares. Caxias do Sul: EDUCS, 2017.
AMARAL, Augusto Jobim do. O dispositivo inquisitivo: entre a ostentação penal e a estética política do processo penal. 2014. 499 f. Tese (Doutorado em Ciências Criminais). Pontifícia Universidade Católica do Rio Grande do Sul, Porto Alegre, 2014.
AMARAL, Augusto Jobim do; DIAS, Felipe da Veiga. Surveillance e as “novas” tecnologias de controle biopolítico. Veritas, Porto Alegre, v. 64, n. 1, e-33427, 2019. https://doi.org/10.15448/1984-6746.2019.1.33427
BALSAMINI, Dean. NYC facial-recognition software company sued over privacy, civil liberties issues. New York Post, 16 maio 2020. Disponível em: <https://nypost.com/2020/05/16/clearview-ai-sued-over-privacy-civil-liberties-issues>. Acesso em: 13 maio 2022.
BENJAMIN, Walter. Sobre o conceito da história. In: BENJAMIN, Walter. Magia e técnica, arte e política. Obras escolhidas. 3. ed. Trad. Sergio Paulo Rouanet. São Paulo: Brasiliense, 1987.
BIG Brother Watch. Big Brother Watch briefing on facial recognition surveillance. Londres: Big Brother Watch, 2020.
BRASIL. Ministério da Indústria, Comércio e Serviços. Indústria 4.0. Disponível em: <http://www.industria40.gov.br>. Acesso em: 06 jun. 2020.
BRASIL. Ministério da Justiça e Segurança Pública. Ministério entrega aos estados primeiras ferramentas de Big Data e Inteligência Artificial para combater a criminalidade. Disponível em: <https://www.justica.gov.br/news/collective-nitf-content-1566331890.72>. Acesso em: 13 maio 2022.
BRASIL. Superior Tribunal de Justiça. Sexta turma. Habeas corpus 598.886. Rel. Min. Rogério Schietti Cruz, j. em 27 out. 2020. Disponível em: <https://processo.stj.jus.br/processo/revista/documento/mediado/?componente=ITA&sequencial=1996943&num_registro=202001796823&data=20201218&formato=PDF>. Acesso em: 13 maio 2022.
BRASIL. Superior Tribunal de Justiça. Quinta turma. Habeas corpus 652.284. Rel. Min. Reynaldo Soares da Fonseca, j. em 27 abr. 2021. Disponível em: <https://processo.stj.jus.br/processo/revista/documento/mediado/?componente=ITA&sequencial=2048532&num_registro=202100769343&data=20210503&formato=PDF>. Acesso em: 13 maio 2022.
BYLER, Darren. Cómo la COVID-19 popularizó las tecnologías de vigilancia china. Trad. Ana Milutinovic. MIT Technology Review, 18 out. 2021. Disponível em: <https://www.technologyreview.es/s/13722/como-la-covid-19-popularizo-las-tecnologias-de-vigilancia-china>. Acesso em: 13 maio 2022.
CANI, Luiz Eduardo; MORAIS DA ROSA, Alexandre. Guia para a mitigação dos erros judiciários no processo penal. Florianópolis: EMais, 2022.
CARNELUTTI, Francesco. As misérias do processo penal. Trad. José Antonio Cardinalli. São Paulo: Conan, 1995.
CARNEY, Matthew. Leave no dark corner. China is building a digital dictatorship to exert control over its 1.4 billion citizens. For some, “social credit” will bring privileges – for others, punishment. ABC News, Sidney, 17 set. 2018. Disponível em: <https://mobile.abc.net.au/news/2018-09-18/china-social-credit-a-model-citizen-in-a-digital-dictatorship/10200278>. Acesso em: 13 maio 2022.
CHAMAYOU, Grégoire. Teoria do drone. Trad. Célia Euvaldo. São Paulo: Cosac Naify, 2015.
CLIFTON, Judith; GLASMEIER, Amy; GRAY, Mia. When machines think for us: consequences for work and place. Social Europe, 14 maio 2020. https://doi.org/10.1093/cjres/rsaa004
COHEN, Stanley. Convicting the innocent. Death row and America’s broken system of justice. Nova Iorque: Skyhorse, 2016.
COUTINHO, Jacinto Nelson de Miranda. A lide e o conteúdo do processo penal. Curitiba: Juruá, 1998.
DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. In: DELEUZE, Gilles. Conversações (1972-1990). Trad. Peter Pál Pelbart. São Paulo: Editora 34, 2013.
DRISHTI. The big picture: facial recognition - uses & concerns. Disponível em: <https://www.drishtiias.com/loksabha-rajyasabha-discussions/the-big-picture-facial-recognition-uses-concerns>. Acesso em: 13 maio 2022.
ESTADOS Unidos da América. Supreme Court. Neil v. Biggers (1972). Disponível em: <https://caselaw.findlaw.com/us-supreme-court/409/188.html>. Acesso em: 13 maio 2022.
FOUCAULT, Michel. História da sexualidade 1: a vontade de saber. Trad. Maria Thereza da Costa Albuquerque e José Augusto Guilhon de Albuquerque. 9. ed. São Paulo: Paz e Terra, 2019.
FOUCAULT, Michel. Nascimento da biopolítica. Curso dado no Collège de France (1978-1979). Trad. Eduardo Brandão. São Paulo: Martins Fontes, 2008.
GARRETT, Brandon L. Autopsy of a crime lab: exposing the flaws in forensics. Oakland: California University Press, 2021.
GARRETT, Brandon L. Convicting the innocent. Where criminal prosecutions go wrong. Cambridge: Harvard University Press, 2011. https://doi.org/10.4159/harvard.9780674060982
GIVELBER, Daniel. The adversary system and historical accuracy. Can we do better?. In: HUMPHREY, John A.; WESTERVELT, Saundra D. (Ed.). Wrongly convicted: perspectives on failed justice. Nova Jérsei: Rutgers University Press, 2001.
GODSEY, Mark. Blind injustice. A former prosecutor exposes the psychology and politics of wrongful convictions. Oakland: California University Press, 2017. https://doi.org/10.1525/9780520962958
HAN, Byung-Chul. O coronavírus de hoje e o mundo de amanhã, segundo o filósofo Byung-Chul Han. El País Brasil, 22 mar. 2020. Disponível em: <https://brasil.elpais.com/ideas/2020-03-22/o-coronavirus-de-hoje-e-o-mundo-de-amanha-segundo-o-filosofo-byung-chul-han.html>. Acesso em: 13 maio 2022.
HARCOURT, Bernard E. Against prediction: profiling, policing, and punishing in an actuarial age. Chicago: University of Chicago Press, 2006. https://doi.org/10.1086/588243
HENRY, Jessica S. Smoke but no fire. Convicting the innocent of crimes that never happened. Oakland: University of California Press, 2020.
INNOCENCE Project. Eyewitness identification reform. Disponível em: <https://www.innocenceproject.org/eyewitness-identification-reform>. Acesso em: 13 maio 2022.
JEE, Charlote. London police’s face recognition system gets it wrong 81% of the time. MIT Technology Review, 04 jul. 2019. Disponível em: <https://www.technologyreview.com/2019/07/04/134296/london-polices-face-recognition-system-gets-it-wrong-81-of-the-time>. Acesso em: 13 maio 2022.
KLINGBEIL, Lars; MEYER, Henning. Robots won’t make us redundant. Social Europe, 14 maio 2020. Disponível em: <https://www.socialeurope.eu/robots-wont-make-us-redundant>. Acesso em: 13 maio 2022.
KNIGHT, Will. IMB's withdrawal won't mean the end of facial recognition. Wired, 10 jun. 2020. Disponível em: <https://www.wired.com/story/ibm-withdrawal-wont-mean-end-facial-recognition>. Acesso em: 13 maio 2022.
KO, Kyoungmin; et al. SqueezeFace: Integrative Face Recognition Methods with LiDAR Sensors. Journal of Sensors, v. 2021, 4312245, pp. 1-8, 2021, p. 1-2. https://doi.org/10.1155/2021/4312245
LÁZARO, Natália. Prefeitos recomendam lockdown nacional contra a covid-19. Uol, Brasília, 12 mar. 2021. Disponível em: <https://noticias.uol.com.br/saude/ultimas-noticias/redacao/2021/03/12/fnp-prefeitos-lockdown-nacional-covid-19-governo-federal-criticas.htm>. Acesso em: 13 maio 2022.
LEE, Dave. San Francisco is first US city to ban facial recognition. BBC, 15 maio 2019. Disponível em: <https://www.bbc.com/news/technology-48276660>. Acesso em: 13 maio 2022.
LIAO, Shannon. Chinese facial recognition system mistakes a face on a bus for a jaywalker. The Verge, 22 nov. 2019. Disponível em: <https://www.theverge.com/2018/11/22/18107885/china-facial-recognition-mistaken-jaywalker>. Acesso em: 13 maio 2022.
LOMBROSO, Cesare. L'uomo delinquente in rapporto all'antropologia, alla giurisprudenza ed alla psichiatria. 5. ed. Turim: Fratelli Bocca, 1897.
LUCHINI, Claudio; PEA, Antonio; SCARPA, Aldo. Artificial intelligence in oncology: current applications and future perspectives. British Journal of Cancer, v. 126, pp. 4-9, 2022. https://doi.org/10.1038/s41416-021-01633-1
LYU, Shing. Practical rust projects. Building game, physical computing, and machine learning applications. Nova Iorque: Apress, 2020. https://doi.org/10.1007/978-1-4842-5599-5
MAGALHÃES, Marina Trindade. O reconhecimento pessoal e a psicologia judiciária: falibilidade do testemunho como reforço do etiquetamento e violação ao in dubio pro reo. Revista Brasileira de Direito Processual Penal, Porto Alegre, v. 6, n. 3, pp. 1699-1731, 2020. https://doi.org/10.22197/rbdpp.v6i3.339
MATIDA, Janaína; CECCONELLO, William Weber. Reconhecimento fotográfico e presunção de inocência. Revista Brasileira de Direito Processual Penal, Porto Alegre, v. 7, n. 1, pp. 409-440, 2021. https://doi.org/10.22197/rbdpp.v7i1.506
MENDES, Lucas. TCU suspende licitação de sistema espião pelo Ministério da Justiça. Poder 360, 10 nov. 2021. Disponível em: <https://www.poder360.com.br/governo/tcu-suspende-licitacao-de-sistema-espiao-pelo-ministerio-da-justica>. Acesso em 15 maio 2021.
MENDES, Paulo de Sousa. Causalidade complexa e prova penal. Coimbra: Almedina, 2018.
MORAIS DA ROSA, Alexandre. A questão digital: o impacto da inteligência artificial no Direito. Revista de Direito da Faculdade Guanambi, v. 6, n. 2, e259, 2019. https://doi.org/https://doi.org/10.29293/rdfg.v6i02.259
MOROZOV, Evgeny. Solucionismo, nova aposta das elites globais. Outras Palavras, 23 abr. 2020. Disponível em: <https://outraspalavras.net/tecnologiaemdisputa/solucionismo-nova-aposta-das-elites-globais>. Acesso em: 13 maio 2022.
NEUFELD, Carmem Beatriz; BRUST, Priscila Goergen; STEIN, Lilian Milnitsky. Compreendendo o fenômeno das falsas memórias. In: STEIN, Lilian Milnitsky et al. Falsas memórias: fundamentos científicos e suas aplicações clínicas e jurídicas. Porto Alegre: Artmed, 2010.
O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Nova Iorque: Broadway Books, 2016.
REDAÇÃO. Empresa de reconhecimento facial Clearview AI será investigada no Canadá. Veja, 26 fev. 2020. Disponível em: <https://veja.abril.com.br/tecnologia/empresa-de-reconhecimento-facial-clearview-ai-sera-investigada-no-canada>. Acesso em: 13 maio 2022.
REDAÇÃO. Surveillance capitalism meets the coronavirus shock doctrine. The Intercept, 20 maio 2020. Disponível em: <https://theintercept.com/2020/05/20/coronavirus-surveillance-naomi-klein-shoshana-zuboff>. Acesso em: 06 jun. 2020.
ROCHA, Camilo. O trabalho humano escondido atrás da inteligência artificial. Nexo, 18 jun. 2019. Disponível em: <https://www.nexojornal.com.br/expresso/2019/06/18/O-trabalho-humano-escondido-atr%C3%A1s-da-intelig%C3%AAncia-artificial>. Acesso em: 13 maio 2022.
SALVÀ, Peppe. “Deus não morreu. Ele tornou-se Dinheiro”. Entrevista com Giorgio Agamben. Trad. Selvino José Assmann. Blog da Boitempo, São Paulo, 31 ago. 2012. Disponível em: <https://blogdaboitempo.com.br/2012/08/31/deus-nao-morreu-ele-tornou-se-dinheiro-entrevista-com-giorgio-agamben>. Acesso em: 13 maio 2022.
SANTOS, Alexandre. Câmeras de reconhecimento facial acham criminoso no Carnaval de Salvador. Uol, Salvador, 05 mar. 2019. Disponível em: <https://noticias.uol.com.br/cotidiano/ultimas-noticias/2019/03/05/cameras-de-reconhecimento-facial-acham-criminoso-no-carnaval-de-salvador.htm>. Acesso em: 08 jun. 2022.
SCHECK, Barry; NEUFELD, Peter. DNA and innocence scholarship. In: HUMPHREY, John A.; WESTERVELT, Saundra D. (Ed.). Wrongly convicted: perspectives on failed justice. Nova Jérsei: Rutgers University Press, 2001.
SMITH, Mackenzie. Police searched for suspects in unapproved trial of facial recognition tech. RNZ, 15 maio 2020. Disponível em: <https://www.rnz.co.nz/news/national/416697/police-searched-for-suspects-in-unapproved-trial-of-facial-recognition-tech-clearview-ai>. Acesso em: 13 maio 2022.
VARON, Joana. Bem na sua cara: a ilusão do reconhecimento facial para segurança pública. Coding Rights, 04 maio 2019. Disponível em: <https://medium.com/codingrights/bem-na-sua-cara-a-ilus%C3%A3o-do-reconhecimento-facial-para-seguran%C3%A7a-p%C3%BAblica-47c708b34820>. Acesso em: 13 maio 2022.
ZAFFARONI, Eugenio Raúl. La estructura inquisitorial. In: ZAFFARONI, Eugenio Raúl. La cuestión criminal. Buenos Aires: Planeta, 2012.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2022 Luiz Eduardo Cani, João Alcantara Nunes

Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os direitos autorais dos artigos publicados são do autor, com direitos do periódico sobre a primeira publicação, impressa e/ou digital.
Os autores somente poderão utilizar os mesmos resultados em outras publicações indicando claramente este periódico como o meio da publicação original. Se não houver tal indicação, considerar-se-á situação de auto-plágio.
- Portanto, a reprodução, total ou parcial, dos artigos aqui publicados fica sujeita à expressa menção da procedência de sua publicação neste periódico, citando-se o volume e o número dessa publicação, além do link DOI para referência cruzada. Para efeitos legais, deve ser consignada a fonte de publicação original.
Por se tratar de periódico de acesso aberto, permite-se o uso gratuito dos artigos em aplicações educacionais e científicas desde que citada a fonte, conforme a licença da Creative Commons.
A partir de 2022, os artigos publicados na RDPP estão licenciados com uma Licença Creative Commons Atribuição 4.0 Internacional. Os artigos puliicados até 2021 adotaram a Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.
---------------
Arquivamento e distribuição
Permite-se sem restrições o arquivamento do PDF final publicado, em qualquer servidor de acesso aberto, indexador, repositório ou site pessoal, como Academia.edu e ResearchGate.