Limites Éticos para o Uso da Inteligência Artificial no Sistema de Justiça Brasileiro, de Acordo com a Lei 13.709 de 2018 (LGPD) e Resoluções 331 e 332 do Conselho Nacional de Justiça

Andréa Arruda Vaz; Eduardo Biacchi Gomes; Sandra Mara de Oliveira Dias

doi:10.19135/revista.consinter.00013.04

Authors

Andréa Arruda Vaz Doutoranda em Direitos Fundamentais e Democracia pelo UniBrasil. Mestre em Direito Pelo UniBrasil. https://orcid.org/0000-0001-9177-2740
Eduardo Biacchi Gomes Pós-Doutor em Estudos Culturais junto à Universidade Federal do Rio de Janeiro, com estudos realizados na Universidade de Barcelona. Doutorado em Direito pela Universidade Federal do Paraná (2003). Mestrado em Direito pela Universidade Federal do Paraná (2000). https://orcid.org/0000-0003-4044-8160
Sandra Mara de Oliveira Dias Doutoranda em Direitos Fundamentais e Democracia pelo Centro Universitário Autônomo do Brasil (UniBrasil), Mestre em Direitos Fundamentais e Democracia pela mesma Universidade, Juíza do Trabalho titular da 3ª Vara do Trabalho de São José dos Pinhais. https://orcid.org/0000-0002-2933-0068

DOI:

https://doi.org/10.19135/revista.consinter.00013.04

Keywords:

Artificial Intelligence, Ethics limits, judiciary power., Resoluções n. 331 e 332 do CNJ, Lei 13.709 de 2020

Abstract

This research analyzes how artificial intelligence has been applied by the Judiciary in Brazil. What ethical limits should be established and observed in the implementation of Artificial Intelligence before the Resolutions of the CNJ, n. 331 that established the National Database of the Judiciary – DataJud, n. 332 that provides for ethics, transparency and Governance in the production and use of Artificial Intelligence in the Judiciary and Law 13,709 of 2018 that regulates data protection in Brazil. It is concluded that based on the Ethics on the use of Artificial Intelligence in Judicial Systems (CEPEJ), based on Articles 5, XXXVII and LIII, Article 93, IX of the CF/88, Article 20 of 13,709/2018 (LGPD) and Resolutions 331 and 332/2020 of the CNJ point to the need for human supervision in judicial decisions that use artificial intelligence in observance of the right of explanation and review. There are ethical limits to be observed in the production and use of Artificial Intelligence to avoid the bias and opacity of data that may contaminate judicial decisions from absolute nullity. Deductive method and bibliographic technique are used for the production of this article.

Downloads

Download data is not yet available.

References

ACQUAVIVA, Marcus Cláudio, Notas Introdutórias à Ética jurídica, São Paulo, Desafio Cultural, 2002.

ALEXY, Robert, Teoria da Argumentação jurídica, a teoria do discurso racional como teoria da fundamentação jurídica, 2. ed., Tradução de Zilda Hutchinson Schild Silva, São Paulo, Landy, 2005.

ALEXY, Robert, Teoria dos Direitos Fundamentais, Tradução de Virgílio Afonso da Silva, 5. ed. Alemã, São Paulo, SP, Malheiros, 2015.

LEXY, Robert, Teoria dos Direitos Fundamentais, Tradução Virgílio Afonso da Silva, 2. ed. São Paulo, Malheiros, 2017.

ARRUDA ALVIM WAMBIER, Teresa, A influência do contraditório na convicção do juiz, fundamentação de sentença e de acórdão, RePro, São Paulo, a. 34, v. 168.

ALVES, Isabella Fonseca, ALMEIDA, Priscila Brandão, Direito 4.0, uma análise sobre inteligência artificial, processo e tendências de mercado, In: ALVES, Isabella Fonseca (Org.). Inteligência Artificial e Processo, São Paulo, D’Plácido, 2020.

Asilomar AI Principles, Future of Life Institute. Disponível em: <https://futureoflife.org/ai-principles/?cn-reloaded=1>. Acesso em: 12 out. 2020.

ÁVILA, Humberto, Segurança jurídica, entre permanência, mudança e realização no direito tributário, São Paulo, Malheiros, 2011.

BRASIL, Projeto Gemini, CNJ, TRT5 realiza projeto-piloto que utiliza inteligência artificial. Disponível em: <https://www.cnj.jus.br/trt5-realiza-projeto-piloto-que-utiliza-inteligencia-artificial>. Acesso em: 11 abr. 2020.

BRASIL, TRT do Paraná, falha foi causada por Storage da Huawei, Sistema de Justiça Paranaense ficou uma semana fora do ar. Disponível em: <https://www.baguete.com.br/noticias/09/12/2019/trt-do-pr-falha-foi-causada-por-storage-huawei>. Acesso em: 11 out. 2020.

TRT-MG, Desembargador José Eduardo Resende Júnior expõe princípios do direito processual eletrônico, Disponível em: https://portal.trt3.jus.br/internet/conheca-o-trt/comunicacao/noticias-juridicas/des-jose-eduardo-expoeprincipios-do-direito-processual-eletronico>. Acesso em: 04 maio 2020.

BRASIL, Resolução 331 do CNJ, Instituir a Base Nacional de Dados do Poder Judiciário. Disponível em: <https://juslaboris.tst.jus.br/bitstream/handle/20.500.12178/176371/2020res0331_cnj.pdf?sequence=1&isAllowed=y>. Acesso 02 set. 2020.

BRASIL, Resolução 332, do CNJ, de 21 de agosto de 2020, dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências, Disponível em: <https://www.anoreg.org.br/site/2020/08/26/resolucao-no-332-do-cnj-dispoe-sobre-o-uso-de-inteligencia-artificial-no-poder-judiciario/>. Acesso em: 02 set. 2020.

BRASIL, Projeto de Lei 5051 de 2019, Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/138790>. Acesso em: 06 out. 2020.

BRASIL, Projeto de Lei 240 de 2020, Cria a Lei da Inteligência Artificial, e dá outras providências. Disponível em: <https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra;jsessinid=633C9CC21DBC914A4D5B788023DA7A43.proposicoesWebExterno1?codteor=1857143&filename=PL+240/2020>. Acesso em: 06 out. 2020.

BRASIL. TST. O sistema Bem-te-vi, Inteligência Artificial traz melhorias inovadoras na tramitação de processos no TST. Disponível em: <http://www.tst.jus.br/noticias/-/asset_publisher/89Dk/content/inteligencia-artificial-traz-melhorias-inovadoras-para-tramitacao-de-processos-no-tst>. Acesso em: 11 abr. 2020.

CAMBI, Eduardo, ALVES, Elidia Aparecida de Andrade, ALVES, Fernando de Brito, Interfaces artificiais e interpretação judicial, o problema do uso da inteligência artificial e da metodologia fuzzy na aplicação do direito, Revistas dos Tribunais online, v. 1010, p. 245-273, dez. 2019. Disponível em: <https://www.indexlaw.org/index.php/rdb/article/view/3966>. Acesso em: 22 mar. 2020.

CASTRO, Luiz Fernando Martins, Uso da Inteligência Artificial no meio jurídico, mitos e realidade, Panorma Setorial da Internet, n. 1, a. 12, maio 2020.

Carta Europeia de Ética sobre o uso de IA em sistemas judiciais e seu ambiente. Disponível em: <https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0>. Acesso em: 28 ago. 2020.

CHUAI, Marilena, Convite à Filosofia, 13. ed., São Paulo, Àtica, 2009.

COÊLHO, Marcus Vinicius Furtado, O uso da inteligência artificial no meio jurídico. Disponível em: <https://www.editorajc.com.br/o-uso-da-inteligencia-artificial-no-meio-juridico/>. Acesso em: 07 set. 2020.

DWORKIN, Ronald, Taking Rights Seriously, Cambridge, USA, Harvard University Press, 1977.

ESTRADA. Manuel Martín Pino, O comércio de dados pessoais dos trabalhadores pelas empresas de tecnologia e pelos governos através da invasão da privacidade e da intimidade, Revistas dos Tribunais online, Revista de Direito do Trabalho, v. 172, p. 35-54, nov./dez. 2016.

EUR, regulamento Geral sobre a Proteção de Dados 2016/679 do Parlamento Europeu e do Conselho, “– Decisões individuais automatizadas, incluindo definição de perfis”, artigo 22, Disponível em: <https://www.privacy-regulation.eu/pt/22.htm>. Acesso em: 03 out. 2020.

FENOLL, Jordi Nieva, Inteligência artificial y processo judicial, Madrid, Marcial Pons, 2018.

FILHO ALMEIDA, José Carlos de Araújo Almeida, Processo Eletrônico e Teoria Geral do Processo Eletrônico, A Informatização Judicial no Brasil, 5. ed. rev. e atual. Rio de Janeiro, Forense, 2015.

FRAZÃO, Ana, MULLHOLLAND, Caitlin, Coordenadoras, apresentação, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

FUX, Luiz; BODART, Bruno, Notas sobre o princípio da motivação e a uniformização da jurisprudência no novo Código de Processo Civil à luz da análise econômica do Direito, RePro, São Paulo, a. 42, v. 269, p. 423, jul. 2017.

GREENFIELD, Adam Everyware, The dawing age of ubiquitous computing, AIGA, New Riders, 2006.

GUTIERREZ, Andrei, É possível confiar em um sistema de Inteligencia Artificial? Práticas em torno da melhoria da sua confiança, segurança e evidencias de accontability, Coordenadoras, FRAZÃO, Ana, MULLHOLLAND, Caitlin, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

HART, Hebert Lionel Adolphus, O conceito de direito, São Paulo, Martins Fontes, 2012.

HASSELMAN, Gustavo, Os limites da Inteligência Artificial no Direito. Disponível em: . Acesso em: 03 mar. 2020.

KNIJNIK, Danilo, Os standards do convencimento judicial, paradigmas para o seu possível controle, Revista Forense, v. 353, p. 47-48, jan./fev. 2001.

LIMA, Renata Alburqueque, MAGALHÃES, Átila de Alencar Araripe, MARTINS, Osmar Alefe Farias, A Influência da Inteligência Artificial no Direito do Trabalho, Uma Análise a luz da Globalização, Doutrina – Revista Magister de Direito do Trabalho, n. 92, nov./dez. 2019.

LIMA, Renata Albuquerque, BRITO, Anya Lima Penha de, Uma análise crítica à luz da hermenêutica dos sistemas jurídicos inteligentes, Universidade FUMEC, Meritum, Belo Horizonte, v. 14, n. 2, p. 690-07, jul./dez. 2019.

Livro Branco sobre Inteligência Artificial, Uma abordagem europeia virada para a excelência e a confiança, Disponível em: <https://www.lexpoint.pt/conteudos/1220/94531/outros-documentos/comissao-europeia-livro-branco-sobre-inteligencia-artificial-de-19022020>. Acesso em: 06 jul. 2020.

MARTÍN, Nuria Bellso, Algumas reflexões sobre a informática jurídica decisional, In: BAEZ, Narciso Leandro Xavier et al., Os impactos das novas tecnologias nos direitos fundamentais, Joaçaba, Unoesc, 2015, p. 123.

MEDEIROS, Nathália Roberta Fett Viana de, Uso da Inteligência Artificial no processo de tomada de decisões jurisdicionais, uma análise sob a perspectiva da teoria normativa a comparticipação, Belo Horizonte, 2019 (dissertação de mestrado).

MCXARTHY, John, What is a artificial intelligence. Disponível em: <http://www-formal.stanford.edu/jmc/whatisai/whatisai.html>. Acesso em: 18 set. 2020.

MULHOLLAND, Caitlin, Responsabilidade Civil e Processos Decisórios Autonomos em sistemas de inteligência artificial (IA), Autonomia, Imputabilidade e Responsabilidade, FRAZÃO, Ana. MULLHOLLAND, Caitlin, (Coords.), apresentação, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

NERY JUNIOR, Nelson, Princípios do processo civil na Constituição Federal, 9. ed.rev., ampl. e atual. com as novas súmulas do STF (simples e vinculante) e com análise sobre a relativização da coisa julgada, São Paulo, Editora Revista dos Tribunais, 2009.

NILSON, Nils. J. Artificial Intelligence: a new synthesis, San Francisco: Morgan Kayfmann, 1998.

OCDE, There should be transparency and responsible disclosure around AI systems to ensure that people understand when they are engaging with them and can challenge outcomes. Disponível em: <http://www.oecd.org/science/forty-two-countries-adopt-new-oecd-principles-on-artificialintelligence.htm?utm_medium=email&utm_source=topic+optin&utm_campaign=awareness&utm_content=20190527+ai+nl&mkt_tok=eyJpIjoiT1dNMk1XTmxNR0psTWpneCIsInQiOiJRNEE1Zlg4TmpcL1IxUzdkS3JIOVFSSTl5cDNNZmsrZE9PcXJjQUdUNUJLRnF0Znpaa3FFaTU2NXpveHAzR0RqS0doWndtU3JiMCs0dG5DMTRUc251R1UzKzBkS2VWWWtBZm9jOTl0RkdVWmhYMXdyVnhFUXVUaWFabG9Ua2IzSWQifQ%3D%3D>. Acesso em: 28 ago. 2020.

PEREIRA, Alexandre Libório Dias, Ius ex machina? Da informática jurídica ao computador-juiz, Revista RJLB, Coimbra, a. 3, n. 1, p. 46-126, 2017. Disponível em: <http://www.cidp.pt/revistas/rjlb/2017/1/2017_01_0043_0126.pdf>. Acesso em: 15 fev. 2020.

ROQUE, Andre Vasconcelos; SANTOS, Lucas Braz Rodrigues dos, Inteligência artificial na tomada de decisões judiciais: três premissas básicas. Disponível em: <https://www.migalhas.com.br/coluna/tendencias-do-processo-civil/315821/inteligencia-artificial-na-tomada-de-decisoes-judiciais-tres-premissas-basicas>. Acesso em: 03 ago. 2020. DOI: https://doi.org/10.12957/redp.2021.53537

ROSA, Alexandre Morais da, Inteligência artificial e Direito, ensinando um robô a julgar. Disponível em: <https://www.conjur.com.br/2020-set-04/limite-penal-inteligencia-artificial-direito-ensinando-robo-julgar>. Acesso em: 04 set. 2020.

SALINAS, Fernando Zubiri de, ¿Qué es la sana crítica? La valoración judicial del dictamen experto, Jueces para la democracia, n. 50, p. 56, 2004.

SILVA, Geocarlos Augusto Cavalcante da, Fundamentação como forma democrática de controle das decisões judiciais, Doutrinas Essenciais, Novo Processo Civil, v. 5, 2018, Revista de Processo, v. 276, 2018, p. 21-43, fev. 2018.

SILVA, Andressa Amaral Eller da, A Ética e o Direito, Disponível em: <http://site.fenord.edu.br/revistaaguia/revista2016/textos/artigo02.pdf>. Acesso em: 11 out. 2020.

SLADIR, Jorg, UZELAC, Alan, Assessment of evidence, In, Dimensions of Evidence in Europe Civil Procedure, The Netherlands, Wolters Kluwer, 2015.

TARUFFO, Michele, La semplice verità Il giudice e la costruzione dei fatti, Roma-Bari, Laterza, 2009.

TURING, Alan Mathison, Computing Machinery and Intelligence, Mind, v. 49, 1950. DOI: https://doi.org/10.1093/mind/LIX.236.433

VIANA, Antônio Aurélio de Souza, Juiz-robô e a decisão algorítmica, a inteligência artificial na aplicação dos precedentes, In: ALVES, Isabella Fonseca (Org.), Inteligência Artificial e Processo, São Paulo: D’Plácido, 2020.

WANDELLI, Leonardo Vieira, A efetividade do processo sob o impacto das políticas de gestão judiciária e do novo CPC, Repercussões no Novo CPC, Coordenador Geral DIDIER JR, Fredier, Salvador, Juspodivm, 2015.