Ethical Limits to the Application of Artificial Intelligence in the Procedural Law
Keywords:
Direito Processual; Ética; Inteligência Artificial; Limites., Procedural Law; Ethics; Artificial Intelligence; Limits.Abstract
Artificial Intelligence (AI) is an automated system that learns and acts similarly to humans. To be used in the Legal System, it must follow the same ethical and moral principles incorporated into society. This article presents the most important ethical and moral limits that must be incorporated in elaborating an artificial intelligence system in the judicial system, specifically in the Brazilian procedural law environment.
Based on the structured literature review, a connection is made between the theme of artificial intelligence, ethics, and procedural law, highlighting and connecting the main controversies around the subject. The article brings contributions for legal practitioners and system developers. The developers of AI need to become aware of the ethical limits and implications during the development to follow the existing legal rules. Legislators need to be aware of the results of these technologies to draft better laws that will protect the citizen against the violation of any fundamental principles and human rights.
References
ASSUNÇÃO, L. MACHINE LEARNING, BIG DATA E INTELIGÊNCIA ARTIFICIAL: QUAL O BENEFÍCIO PARA EMPRESAS E APLICAÇÕES NO DIREITO? AB2L, 2017. Disponivel em: <https://ab2l.org.br/machine-learning-big-data-e-inteligencia-artificial-qual-o-beneficio-para-empresas-e-aplicacoes-no-direito/>. Acesso em: 5 nov. 2021.
ATHENIENSE, A. R. As premissas para alavancar os projetos de inteligência artificial na justiça brasileira. In: FERNANDES, R. V. D. C.; CARVALHO, A. G. P. D. Tecnologia jurídica & direito digital: II congresso internacional de direito, governo e tecnologia. Belo Horizonte: Forum, 2018.
BANDEIRA, R. Justiça em Números 2021: Judiciário manteve serviços com inovação durante a pandemia. Conselho Nacional de Justiça, 2021. Disponivel em: <https://www.cnj.jus.br/justica-em-numeros-2021-judiciario-manteve-servicos-com-inovacao-durante-a-pandemia/ >. Acesso em: 25 out. 2021.
COUNCIL OF EUROPE. European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. EUROPEAN COMMISSION FOR THE EFFICIENCY OF JUSTICE. Strasbourg. 2018.
DE ANDRADE MARTINS, J. E. F. Dilemas Éticos E Jurídicos do Uso da Inteligência Artificial na Prática Jurídica. Centro de Investigação de Direito Privado. Ano 7 (2021), nº 4, 919-952. Disponível em <https://www.cidp.pt/revistas/rjlb/2021/4/2021_04_0919_0952.pdf>. Acesso em: 12 dez. 2021.
DE SANCTIS, F. M. Inteligência artificial e direito. 1. ed. São Paulo: Almedina, 2020.
DOMINGOS, P. O Algoritmo Mestre: Como a Busca Pelo Algoritmo de Machine Learning Definitivo Recriará Nosso Mundo. 1. ed. São Paulo: Novatec Editora, 2017.
ETZIONI, A.; ETZIONI, O. Incorporating Ethics into Artificial Intelligence. The Journal of Ethics, n. 21, 2017.
FERRARI, I.; BECKER, D. DIREITO À EXPLICACÃO E DECISÕES AUTOMATIZADAS: REFLEXÕES SOBRE O PRINCÍPIO DO CONTRADITÓRIO. In: WOLKART, E. N.; NUNES, D.; LUCON, P. H. D. S. INTELIGÊNCIA ARTIFICIAL E DIREITO PROCESSUAL: OS IMPACTOS DA VIRADA TECNOLÓGICA NO DIREITO PROCESSUAL (2021). 2ª. ed. São Paulo: Juspodivm, 2021.
FUNDAÇÃO GETÚLIO VARGAS. Justiça Pesquisa Políticas Públicas do Poder Judiciário Uma Análise quantitativa e qualitativa do Impacto da implantação do Processo Judicial Eletrônico (PJe) na produtividade dos Tribunais. CONSELHO NACIONAL DE JUSTIÇA. Rio de Janeiro. 2017.
GARDNER, H. Intelligence reframed: Multiple intelligences for the 21st century. Nova York: Basic Books, 1999.
JEULAND, E. La prise en compte de la notion de qualité dans la mesure de la performance judiciaire. Institut de Recherche juridique de la Sorbonne. Paris. 2015.
KAPLAN, A.; HAENLEIN, M. Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, v. 62, n. 1, January–February 2019.
KARLIUK, M. Ethical and Legal Issues in Artificial Intelligence. International and Social Impacts of Artificial Intelligence Technologies, v. 44, abr. 2018.
KENNEDY, R. The Ethical Implications of Lawtech. I3E 2021. [S.l.]: Springer. 2021.
LAGE, F. D. C. Manual de Inteligência Artificial no Direito Brasileiro. Salvador: JusPodivm, 2021.
LAKATOS, E. M.; MARCONI, M. Fundamentos de Metodologia Científica. 9ª ed. ed. São Paulo: Atlas, 2021.
MANCUSO, R. D. C. Divergência Jurisprudencial e Súmula Vinculante. 4. ed. [S.l.]: Revista dos Tribunais, 2010.
MCCARTHY, J. et al. A proposal for the Dartmouth summer research project on artificial intelligence. Dartmouth, 1955. Disponivel em: <http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html>. Acesso em: 11 nov. 2021.
MINSKY, M. L. Semantic information processing. Cambridge, MA: MIT Press, 1968.
PADILHA, R. Direito Constitucional. 6. ed. Rio de Janeiro: Forense, 2020.
SOUSA, R. R. D. O impacto da implantação do Processo Judicial Eletrônico nas Unidades Judiciais Cíveis e de Família do Distrito Federal e o reflexo no ritmo da tramitação processual. Tribunal de Justiça do Distrito Federal e dos Territórios, 2018. Disponivel em: <https://www.tjdft.jus.br/institucional/imprensa/campanhas-e-produtos/artigos-discursos-e-entrevistas/artigos/2018/o-impacto-da-implantacao-do-processo-judicial-eletronico-nas-unidades-judiciais-civeis-e-de-familia-do-distrito-federal-e-o-reflexo-no-ritmo->. Acesso em: 4 nov. 2021.
THEODORO JR., H. Curso de Direito Processual Civil - Vol. 1. 62. ed. Rio de Janeiro: Grupo GEN, v. 1, 2021.
TOFFOLI, D. Resolução Nº 332. CNJ, 2020. Disponivel em: <https://atos.cnj.jus.br/atos/detalhar/3429>. Acesso em: 01 nov. 2021.
UNESCO. Artificial Intelligence: examples of ethical dilemmas. UNESCO, 2021. Disponivel em: <https://en.unesco.org/artificial-intelligence/ethics/cases>. Acesso em: 2 nov. 2021.
VADELL, L. M. B. Artificial intelligence and law: procedural dilemmas and ethical issues. Forensic Research & Criminology International Journal, v. 8, n. 5, 2020.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2021 Revista de Direito da FAE
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Com relação aos direitos autorais, esses pertencem aos autores e à RDF. Os interessados em publicar deverão estar, ainda, cientes de que a presente revista é um periódico de acesso livre e gratuito, que pretende criar, além da oportunidade de publicação para autores, a democratização do saber, promovendo, assim, inclusão social e cultural (clique aqui).
