Judicial decision with the use of artificial intelligence and its constitutional barriers
Tales Schmidke Barbosa*
Publicado nos Anais do I Colóquio Nacional do Instituto Eduardo Correia.
Resumo: Atualmente, as capacidades computacionais estão sendo expandidas rapidamente e as conquistas obtidas com o auxílio de ferramentas de Inteligência Artificial (IA) são inegáveis. As decisões automatizadas podem trazer grandes benefícios para a humanidade, sendo inegável também que as máquinas representam perigo à autonomia do ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos. As dificuldades são ainda maiores quando os algoritmos utilizam sistemas de aprendizagem, de forma que o controle da lógica subjacente (ex ante) são insuficientes para garantia de uma decisão corretamente fundamentada e garantidora dos direitos e garantias fundamentais. Superada a questão do potencial discriminatório da decisão, também existem barreiras constitucionais impeditivas da decisão judicial automatizada. Liberdade do poder de julgar sem responsabilidade imbrica com ideia central do sistema democrático, onde o poder degenerado gera degeneração.
Palavras-chave: Inteligência artificial; Decisão judicial automatizada; Barreiras constitucionais; Indelegabilidade da decisão humana.
Abstract: Currently, computational capabilities are expanding rapidly and the achievements obtained with the aid of Artificial Intelligence (AI) tools are undeniable. Automated decisions can bring great benefits to humanity, and it is undeniable that machines pose a danger to human autonomy, as an individual, and can generate potentially discriminatory mechanisms due to the possibility of perverse handling of algorithms. Difficulties are even greater when algorithms use learning systems, in such a way that the control of the underlying logic (ex ante) of the algorithms is insufficient to guarantee a correctly grounded decision that guarantees fundamental rights and guarantees. Once the issue of the discriminatory potential of the automated decision has been overcome, there are also impeding constitutional barriers. Freedom from the power to judge without responsibility overlaps with the central idea of the democratic system, where degenerate power generates degeneration.
Keywords: Artificial intelligence; Automated court order; Constitutional barriers; Non-delegability of human decision.
Sumário: 1.Introdução. 2. Um breve conceito de inteligência artificial; 3. Conceito de decisões automatizadas; 4. Potencial discriminatório e a tutela da pessoa humana; 5. Decisões judiciais automatizadas e suas barreiras constitucionais; 6. Indelegabilidade da decisão humana; 7. Considerações finais.
Summary: 1.Introduction. 2. A brief concept of artificial intelligence; 3. Automated decisions concept; 4. Discriminatory potential and the protection of the human person; 5. Automated court decisions and their constitutional barriers; 6. Non-delegability of human decision; 7. Final considerations.
- Introdução
As conquistas obtidas com o auxílio de ferramentas de Inteligência Artificial (IA) são inegáveis. A realidade atual convive com uma crescente implementação de artefatos de análise de comportamento humano por meio dessa modalidade de tecnologia, sendo inegável também que as máquinas representam perigo à autonomia do ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos nas decisões automatizadas.
O sistema algorítmico pode produzir resultados discriminatórios e refletir preconceitos já existentes, principalmente pela utilização de correlações e não de causalidades.
Tudo isso aqui discutido adquire uma maior complexidade quando considerado o atual estado da arte do desenvolvimento da ciência da computação no campo da IA (Inteligência Artificial), principalmente quando se trata de aprendizagem das máquinas, denominado pelos cientistas da computação de Machine Learning, que pode “mudar as regras do jogo”. Ou seja, o algoritmo inteligente faz uma espécie de previsão com base nos acontecimentos pretéritos e estima uma probabilidade futura.
Os métodos estatísticos utilizados no processamento de dados por algoritmos podem reproduzir além dos vieses já existentes os vieses criados pela máquina com base na análise pretérita de dados, levando a resultados discriminatórios já existentes nos processos tradicionais de tomadas de decisões, como, por exemplo, atribuir a pessoas de pele escura uma maior probabilidade de reincidência.
Nessa senda é que que a presente pesquisa buscará analisar a possibilidade jurídica na tomada de decisões judiciais automatizadas e suas possíveis barreiras constitucionais, tanto jurídico-positivas como pré-positivas por possível incompatibilidade com a natureza do direito.
O método utilizado para realização deste trabalho é o hipotético-dedutivo na abordagem e estruturalista no procedimento, por meio de pesquisas do tipo bibliográficas e explicativas.
- Um breve conceito de inteligência artificial
Cabe esclarecer, antes de tudo, que não faz parte do escopo do presente estudo formular uma definição sem controvérsias para a Inteligência Artificial. É muito comum encontrarmos referências a elementos da IA sem, porém, conceituá-la.
Para John McCarthy a inteligência artificial é a ciência e a engenharia de se fazer máquinas inteligentes. Está relacionada à tarefa similar de usar computadores para entender inteligência humana, entretanto IA não necessita estar restrita a métodos que são biologicamente observáveis.[1] Segundo o mesmo autor, sobre a IA pode haver três abordagens: IA forte, IA fraca e IA pragmática. Pela primeira abordagem, acredita-se que o computador possa pensar da mesma forma que os humanos. De acordo com a IA fraca, o computador só precisaria agir como se fosse inteligente. Na abordagem pragmática, não importa se as máquinas se pareçam com humanos ou não, e sim qual uso se pode fazer delas.
Nas palavras de Peter Norvig e Stuart Russel[2], existem quatro concepções a respeito do que seria fundamental para o conceito de IA: a hipótese segundo a qual a IA pode agir como um ser humano (abordagem do teste de Turing); a hipótese de que a IA pensa como um ser humano (abordagem da ciência cognitiva); a hipótese de que a IA pensa racionalmente (abordagem baseada nas “leis do pensamento”, com acento logicista) e a hipótese de que a IA age racionalmente (abordagem do agente racional, com ênfase nas inferências corretas).
Com o objetivo de delimitar o campo de pesquisa e facilitar a compreensão deste estudo, IA, neste trabalho, será entendida como uma criação algorítmica destinada a cumprir finalidades específicas com base no recebimento de dados objetivos (input) para gerar resultados também objetivos (outputs). Nas palavras de Freitas[3], o ponto crítico é que os algoritmos de aprendizagem na IA são organizados com maior complexidade do que na automação, pois não apenas seguem regras como também tomam decisões, aprendendo sozinhos sobre dados coligidos.
Na tecnologia denominada Machine Learning adentram na máquina além do input e output o resultado desejado, o que torna um algoritmo capaz de tornar a relação entre dado e resultado verdadeira. É o que se chama de algoritmos inteligentes, também conhecidos como learners – são algoritmos que criam outros algoritmos.
A inteligência artificial é o meio em que decisões automatizadas, judiciais ou não, podem ser tomadas, pois são alimentadas com dados, motivo que levou ao tópico conceitual descrito no presente item.
Indiscutivelmente, independente da vertente conceitual adotada, embora a inteligência artificial albergue aspectos que a aproximam da inteligência humana[4], existem tarefas indelegáveis que devem ser objeto de regulação estatal com a finalidade de preservar o protocolo ético-jurídico da inteligência artificial.
- Conceito de decisões automatizadas
Em que pese não exista um conceito específico de decisão automatizada no direito brasileiro, o art. 20 da Lei Geral de Proteção de Dados (Lei nº 13.709/2018) apresenta uma definição interpretativa ao considerar que o titular de dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seu interesse, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade, sendo as informações dispostas claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada.
É muito comum encontrarmos referências para decisões automatizadas que levam em consideração apenas decisões de definição de perfis, quando, na verdade, a Lei Geral de Proteção de Dados brasileira (Lei nº 13.709/2018) trata o assunto de maneira bem mais ampla, incluindo como conceito interpretativo qualquer decisão tomada unicamente com base em tratamento automatizado de dados pessoais, inclusive as decisões destinadas a definir perfil pessoal, de consumo, de crédito e aspectos da personalidade[5].
No Brasil, decisão automatizada pode ser considerada uma tomada de decisão com utilização da inteligência artificial, independentemente da intervenção humana. Pode ser uma decisão decorrente de um sistema algorítmico destinada a cumprir finalidades específicas com base no recebimento de dados objetivos (input) para gerar resultados também objetivos (outputs), ou também as decisões mais sofisticadas e menos explícitas, com a utilização das técnicas de aprendizagem das máquinas.
Na tecnologia de aprendizagem, denominada Machine Learning,adentram na máquina, além do input e output, o resultado desejado, o que torna um algoritmo capaz de tornar a relação entre dado e resultado sempre verdadeira. É o que se chama de algoritmos inteligentes, também conhecidos como learners – são algoritmos que criam outros algoritmos.
O ponto crítico é que os algoritmos de aprendizagem na IA são organizados com maior complexidade do que na automação, pois não apenas seguem regras como também tomam decisões, aprendendo sozinhos sobre dados coligidos[6].
Existe no Brasil um Projeto de Lei[7] em andamento que visa alterar a Lei Geral de Proteção de Dados para definir a expressão “decisão automatizada”, projeto este que conceitua como sendo o processo de escolha, de classificação, de aprovação ou rejeição, de atribuição de nota, medida, pontuação ou escore, de cálculo de risco ou de probabilidade, ou outro semelhante, realizado pelo tratamento de dados pessoais utilizando regras, cálculos, instruções, algoritmos, análises estatísticas, inteligência artificial, aprendizado de máquina, ou outra técnica computacional.
- Potencial discriminatório e a tutela da pessoa humana
Com definição já positivada no plano internacional e contida na Convenção Internacional sobre eliminação de todas as Formas de Discriminação, aprovada pelas Nações Unidas em 1965 e ratificada pelo Brasil em 1968, a conduta discriminatória pode ser considerada toda a distinção, exclusão, restrição ou preferência baseada em raça, cor, descendência ou origem nacional e étnica, que resulte na anulação ou restrição de direitos ou de seu efetivo exercício.[8]
O §2º do art. 5 da CRFB dispõe que além dos direitos e garantias já existentes na na Constituição, estes não excluem os tratados internacionais em que a República Federativa do Brasil seja parte[9], demonstrando a relevância no ordenamento brasileiro das disposições proibitivas de discriminação, inclusive as já existentes no corpo da Constituição, como de vê, por exemplo, no art.7º, XX, quando trata da proteção do mercado de trabalho da mulher.[10]
Trazendo o assunto para o objeto da presente pesquisa, a discriminação algorítmica decorre do fato de alguém ser julgado a partir das características generalizadas de um determinado grupo, onde as características individuais de uma pessoa são desconsideradas, sendo vista apenas como membro de um dado conjunto de pessoas. A ocorrência da discriminação se torna melhor explicável quando utilizado o conceito de generalizações classificada por Schauer[11] em consistentes (universais e não universais) e inconsistentes.
As generalizações consistentes seriam as subdividias em universais e não-universais. Nas universais tem-se como destaque o exemplo utilizado por Aristóteles de que “Todos os humanos são mortais”, o que significa que a totalidade da raça humana um dia, de fato, morre, de modo que essa generalização se mostra verdadeira em 100% dos casos. Nas não universaisa generalização não se presta a descrever a totalidade de um grupo, mas sim uma característica compartilhada da maioria dos indivíduos daquele grupo.[12]
Generalizações inconsistentes são as que falham em preencher os parâmetros anteriormente definidos. Utilizamos como exemplo uma afirmação de que “arianos são impulsivos”, o que é de fácil verificação que essa não é uma característica universal, pois não há evidências de que essas pessoas sejam mais impulsivas do que aquelas nascidas em outros períodos do ano.
O ponto chave da generalização é que com muita frequência os algoritmos utilizam características de um grupo para avaliar a totalidade dos indivíduos, o que é uma forma de discriminação. Isso porque os agentes ainda precisam tomar grandes decisões quando do tratamento desses dados, e consequentemente tendem a utilizar características facilmente observáveis, como gênero, raça, orientação sexual como proxies para características produtivas algorítmicas.
Outro aspecto importante para chegarmos ao assunto específico que interessa para essa pesquisa é o fato de que a discriminação pode ocorrer por diferenças exógenas ou endógenas entre grupos. Nas exógenas a variável que distingue um grupo do outro é externa, e nas endógenas é interna. Para demonstrar a caracterização da discriminação endógena, utiliza-se como exemplo a contratação de profissionais mulheres para alguns cargos específicos empresariais, pois é possível afirmar que as mulheres foram, historicamente, mais envolvidas na criação dos filhos e em tarefas domésticas do que os homens.
Mas esse é um resultado do fato de que a elas foram dadas menos oportunidades profissionais, consideradas por muito tempo como incompatíveis com as tarefas domésticas, e não uma característica inerente do sexo feminino que torna as mulheres menos capacitadas ou menos interessadas em oportunidades profissionais.
A consequência da discriminação, nesse caso, leva à confirmação da hipótese inicial, pois estamos analisando uma variável endógena. Diferentemente, tomando-se o mercado de seguro de automóveis como exemplo, é fácil observar que o seguro para motoristas jovens do sexo masculino é mais caro do que o seguro para motoristas jovens do sexo feminino.
O gênero guarda forte correlação com a taxa de acidentes de trânsito e, assim, é frequentemente utilizado para precificação. Neste segundo cenário, porém, o gênero não é uma variável endógena, mas sim exógena, pois nada no fato de que os homens pagam mais por seguros leva esse grupo a efetivamente se envolver em mais acidentes[13].
O que é possível concluir para o conceito de discriminação algorítmica é que em alguns casos, mesmo que uma classificação possa ser consistente sob o ponto de vista estatístico, pode se mostrar discriminatória e injusta.
Laura Mendes[14] sistematiza quatro tipos principais de discriminação algorítmica: discriminação por erro estatístico, discriminação por generalização, discriminação pelo uso de informações sensíveis e discriminação limitadora do exercício de direitos. Na discriminação por erro estatístico o tipo de discriminação pode ser conceituado como decorrente de erro cometido pelos engenheiros ou cientistas de dados responsáveis pelo desenho do algoritmo.
Discriminação por generalização é quando algumas pessoas são equivocadamente classificadas em certos grupos, de modo que, embora o algoritmo esteja correto e as informações também, ainda assim o resultado será uma generalização incorreta, na medida em que mesmo um resultado estatisticamente relevante apresentará um percentual de pessoas que não se encaixam perfeitamente naquela média.
A discriminação pelo uso de informações sensíveis é assim considerada por se basear em dados ou proxies legalmente protegidos. É o que ocorre, por exemplo, quando um algoritmo utiliza informações sobre identificação religiosa de um indivíduo para designar seu credit scoring no Brasil, pois a Lei do Cadastro Positivo proíbe o uso desse tipo de informação para essa finalidade.
Quando se trata da discriminação limitadora do exercício de direitos novamente pode se apresentar resultados estatisticamente corretos e relevantes, mas que ainda assim pode ser considerada discriminatório, porém o problema não advém do tipo de dado utilizado, mas da relação entre a informação utilizada pelo algoritmo e a realização de um direito. Se o direito é demasiadamente afetado, provável que o uso seja discriminatório.
O princípio da dignidade da pessoa humana é a fórmula jurídico-normativa que impede a mercantilização do homem, porque com ele o sistema de direito absorve um conteúdo ético que impõe o respeito à igualdade humana e à singularidade da pessoa como dado universalmente sujeito ao respeito de todos. Todas as formas de excluir o homem do ambiente social de direitos fundamentais, de participação política livre, de atuação profissional respeitosa, de segurança pessoal e coletiva pacífica são inadmissíveis numa perspectiva, proposta ou garantia de Estado Democrático.[15]
Para além da proteção de dados e dos contornos do direito à privacidade, a discriminação algorítmica nas decisões automatizadas imbrica com o princípio universal da dignidade da pessoal humana, e implica uma necessidade de uma relação, mais fidedigna quanto possível, entre os dados e a pessoa humana, isto é, em uma composição tanto clara quanto transparente em termos de garantia do direito de acesso de revisão e também de retificação das decisões automatizadas, incluindo qualquer tipo de perfilização.[16]
Feitas essas considerações com a tentativa de demonstrar as formas de generalização geradoras da discriminação algorítmica, bem como a classificação das tipologias discriminatórias, passamos ao ponto de análise do potencial discriminatório na decisão judicial automatizada.
Importa salientar, antes de tudo, que o direito à explicação é essencial para se vislumbrar com clareza o trajeto das decisões algorítmicas e os potenciais erros presentes no processo de tomada de decisão por inteligência artificial, de modo a possibilitar que a IA se torne cada vez mais segura em suas relações da máquina com o homem, colaborando para decisões imparciais aptas a serem supervisionadas e alteradas durante o projeto ou funcionamento
- Decisões judiciais automatizadas e suas barreiras constitucionais
Ainda que fosse superada o impedimento aparente da discriminação algorítmica como barreira para utilização da decisão automatizada na esfera judicial, até porque o juiz humano não é isento de discriminações não algorítmicas, na Constituição Federal de 1988 a objeção pode inicialmente ser encontrada no art. 5º XXXVII[17], onde traz expresso o princípio do juiz natural, bem como no inciso LIII do mesmo artigo, onde declara que ninguém será processado nem sentenciado senão pela autoridade competente.[18]
Além da barreira jurídico-positiva constitucional, o impedimento decisivo na utilização da inteligência artificial para tomada de decisões automatizadas na esfera judicial é o fato de que não há uma prestação de contas da fundamentação ou motivação da decisão, atuando assim fora das razões do direito, mesmo que pela lógica algorítmica pudesse ser explicável.
A decisão judicial automatizada significaria uma liberdade de poder de julgar sem limitação de responsabilidade, o que também vai de encontro a dignidade da pessoa humana, cuja fundamentabilidade sustenta a democracia e o atual molde do Estado de Direito.[19] Onde há exercício de poder deve haver responsabilidade, visto que em ambos há relações diretamente proporcionais.
Na questão fática, embora expressamente vedada pelo problema jurídico-positivo constitucional da necessidade de juiz natural, a lucratividade se sobreporia a qualquer juízo ideal ou protetor dos direitos fundamentais.
Na questão da permissibilidade, no sentido normativo-prescritivo, a ideia de justiça sob a responsabilidade de máquinas é possivelmente uma violação da dimensão jurídico-objetiva da dignidade da pessoa humana (art. 1º, III, da CF/88), e seguramente uma violação da dimensão tanto individual, quanto objetiva do direito a ser ouvido por um juiz (art. 5º, XXXV CF/88), onde descreve que “a lei não excluirá da apreciação do Poder Judiciário lesão ou ameaça a direito”. Não há direito real ao contraditório (art. 5º, LC da CF/88) diante de uma máquina[20].
Muito mais grave do que a questão da singularidade humana para denotar a possível explosão da inteligência, com o que ficaria marcada a última invenção da humanidade, uma vez que todas as ulteriores invenções adviriam das máquinas, é o perigo iminente da uma singularidade jurídica, que consistiria no momento em que abdicaríamos, de forma definitiva, da responsabilidade do direito em favor das máquinas[21].
Há quem estabeleça como premissa para utilização da decisão judicial automatizada a descrição de que tal decisão se deu por meio de inteligência artificial, o que não parece solucionar o problema também por inexistir no ordenamento brasileiro a necessidade de demonstração da lógica subjacente do tratamento de dados pessoais. Ou seja, não há fundamentação consistente da lógica algorítmica.
Dentro dessa lógica é que foi aprovado enunciado na I Jornada de Direito Administrativo, ocorrida no Conselho da Justiça Federal no ano de 2020, de que “a decisão administrativa robótica deve ser suficientemente motivada, sendo a sua opacidade motivo de invalidação”[22], o que carrega o próprio contexto fundamental da decisão humana, que nada mais é do que a necessidade de ser fundamentada, tanto da lógica ex ante, na lógica da construção da cadeia algorítmica, quanto ex post, que se trata da fundamentação decisória.
O uso da inteligência artificial deve, antes de tudo, atuar como assistente da humanidade, aliviando as tarefas fungíveis, desprovidas de grandezas propriamente humana, tudo sem abdicar a indelegável supervisão humana. Há diversas situações de inequívocas indelegabilidades decisórias, como por exemplo a decisão que requer a presença das virtudes entrelaçadas à justiça e à compaixão; a decisão em que a vítima da decisão algorítmica se revelar antijurídica, como no campo sancionatório; decisões em que a pontual delegação bloquearia a interligação ecossistêmica equilibrada, travando a marcha evolutiva natural da humanidade.[23]
Nas palavras do Juarez Freitas menciona em suas palavras sobre a indelegabilidade das decisões intrinsicamente humanas:
Existe o indelegável e é encargo irrenunciável do Estado Democrático não consentir que a inteligência artificial usurpe a esfera privativa do intrinsicamente humano.
Inviável, portanto, a submissão do Poder do Estado a grandes conglomerados econômicos ou reduzida as máquinas.
- Indelegabilidade da decisão humana
Como criação de uma diretriz para decisão algorítmica, Freitas[24] sugere uma tábua de diretrizes ético-jurídicas para ser utilizada como filtro vinculante da regulação da inteligência artificial. Dentre as diretrizes que o autor sugere, a indelegabilidade da decisão intrinsicamente humanada merece destaque pela relação direta e oponível à discriminação algorítmica. Com base no que preceitua Freitas, aparecem na referida tábula situações inequívocas de indelegabilidade decisórias: (a) as hipóteses em que a decisão requer a presença das virtudes entrelaçadas à justiça e à compaixão; (b) as hipóteses em que a aquiescência da possível vítima da decisão algorítmica se revelar antijurídica, como pode suceder no campo sancionatório e (c) as hipóteses em que a pontual delegação bloquearia a interligação ecossistêmica equilibrada, travando a marcha evolutiva natural da humanidade.
Na mesma tábula sugerida está elencada a supervisão humana em todas as etapas da inteligência artificial, destacando o sopesamento dos impactos algorítmicos que possui relação com a discriminação objeto do presente estudo. Não só no sopesamento, mas também a supervisão humana no projeto contribuí para evitar o enviesamento das decisões algorítmicas e sua consequente caracterização discriminatória.
Em muitos casos a inteligência artificial pode reduzir os vieses decisórios, desde que exista uma supervisão determinando a presença humana como última instância, tornando passível de reversão dos critérios discriminatórios ou contra aplicações hostis aos objetivos constitucionais.
Como orientação ética convergente ao que aqui se expõe, a União Europeia arrolou como imperativos éticos: i) respeito à autonomia humana; ii) prevenção de danos; iii) equidade; e iv) explicabilidade.[25] A explicabilidade, em especial destaque, é crucial para se criar e manter a confiança dos utilizadores nos sistemas de inteligência artificial, emanando a transparência dos processos de decisões algorítmicas, visando reprimir preconceitos humanos e sociais capaz de ter seus efeitos multiplicados quando se tratar de decisões algorítmicas. O a função primordial das decisões algorítmicas é melhorar a tomada de decisões e tornar o processo mais imparcial possível com base na eliminação da subjetividade das decisões humanas, desde que, repita-se, a presença humana seja utilizada como última instância de supervisão da decisão algorítmica com liberdade de reversão.
O direito à explicação é essencial para se vislumbrar com clareza o trajeto das decisões algorítmicas e os potenciais erros presentes no processo de tomada de decisão por inteligência artificial, de modo a possibilitar que a IA se torne cada vez mais segura em suas relações da máquina com o homem, colaborando para decisões imparciais aptas a serem supervisionadas e alteradas durante o projeto ou funcionamento.
Diante disso, em que pese a inteligência artificial possa trazer benefícios nas decisões judiciais em atividades meramente rotineiras, existem diversos impeditivos para implementação da decisão totalmente automatizada.
- Conclusão
A inteligência artificial é, sem dúvida, uma forte aliada aos atos judiciais repetitivos e rotineiros, principalmente pelo aumento da eficiência nesse tipo de atividade.
Porém, a utilização desse tipo de tecnologia sem qualquer critério de segurança pode carregar resultados enviesados e discriminatórios como consequência do manejo perverso dos algoritmos, que carregam como alimentação dados pretéritos muitas vezes já discriminatórios.
Ainda que a decisão judicial automatizada possa ser considerada realizável nos casos em que for ultrapassado o caráter meramente discriminatório, a ideia de justiça estatal automatizada é inaceitável se considerada a necessidade de alimentação de dados do programa que efetuará decisões, pois as decisões serão sempre boas se obedecerem os dados com base nos quais ele foi treinado.
Além disso, a barreira instransponível da decisão judicial automatizada é a barreira jurídico-positiva imposta pelo Direito Fundamental do princípio do juiz natural (art. 5º, XXXVII da CF/88) e também do fato de que ninguém será processado nem sentenciado senão pela autoridade competente (art. 5º, LIII, da CF/88).
Outra barreira intransponível da permissibilidade está insculpida no direito real ao contraditório e ampla defesa (art. 5º LV da CF/88), pois a máquina não ouve, não sente e também não responde pelo que ele decide.
Não há como desconsiderar também a importância do potencial discriminatório decorrente uso de algorítmicos para implementação de decisão judicial automatizada, o que vai de encontro ao Objetivo de Desenvolvimento Sustentável nº 5 (Igualdade de Gênero) e Objetivo de Desenvolvimento Sustentável nº 10 (Redução das Desigualdades), da Agenda 2030 da Organização das Nações Unidas.
Por essas razões que a decisão judicial totalmente automatizada se mostra irrealizável, onde o contexto demonstra que é o tipo de eminentemente humana e indelegável.
REFERÊNCIAS BIBLIOGÁFICAS
AGUILAR VIANA, Ana Cristina; FERREIRA DE MIRANDA, Carolina. Perfil algorítmico e discriminação digital: uma leitura a partir das normas europeias e brasileiras. Proteção de dados pessoais em perspectiva: LGPD e RGPD na ótica do direito comparado. Curitiba: Gedai, UFPR 2020. p. 481-504 e ISBN: 978-65-86233-51-3.
BIONI, Bruno Ricardo. Proteção de Dados Pessoais: a função e os limites do consentimento.Rio de Janeiro: Forense, 2019.
BIONI, Bruno Ricardo; MENDES, Laura Schertel. Regulamento Europeu de Proteção de Dados Pessoais e a Lei Geral brasileira de Proteção de Dados: mapeando convergências na direção de um nível de equivalência. P. 797-820. In: TEPEDINO, Gustavo; FRAZÃO, Ana; OLIVA, Milena Donato. Lei Geral de Proteção de Dados Pessoais e suas repercussões no Direito Brasileiro. São Paulo: Thomson Reuters Brasil, 2019. p. 819.
BIONI, Bruno Ricardo. O dever de informar e a teoria do diálogo das fontes para a aplicação da autodeterminação informaticional como sistematização para a proteção dos dados pessoais dos consumidores: convergências e divergências a partir da análise da ação coletiva promovida contra o Facebook e o aplicativo “Lulu”. In: Revista de Direito do Consumidor. Ano 23. Vol. 94. Jul-ago/2014. Coord. Cláudia Lima Marques. São Paulo: Thomson Reuters, 2014.
COMISSÃO EUROPEIA. Orientações éticas para uma IA de confiança. Bruxelas: Comissão Europeia, 2019. P.14. Disponível em: https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais. Rio de Janeiro: Renovar, 2006.
______. A proteção dos dados pessoais como um direito fundamental.Espaço Jurídico. Joaçaba, v. 12, n. 2, jul/dez. 2011.
FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial: em defesa do humano. Belo Horizonte: Fórum, 2020.
FREITAS, Juarez. Sustentabilidade: direito ao futuro. 4. ed. Belo Horizonte: Fórum, 2019.
GRECO, Luís. Poder de julgar sem responsabilidade do julgador: a impossibilidade jurídica do juiz robô. São Paulo, SP: Marcial Pons, 2020.
HOFFMANN-RIEM, Wolfgang, Teoria geral do direito digital: transformação digital: desafios para o direito, Rio de Janeiro, Forense, 2021.
I JORNADA de Direito Administrativo aprova 40 enunciados, Conselho da Justiça Federal, 10 de ago. 2020. Disponível em: https://www.cjf.jus.br/cjf/noticias/2020/08-agosto/i-jornada-de-direito-administrativo-aprova-40-enunciados. Acesso em: 12 maio 2021.
RUARO, Regina Linden, SARLET, Gabrielle, “O direito fundamental à proteção de dados sensíveis no sistema normativo brasileiro: uma análise acerca das hipóteses de tratamento e da obrigatoriedade do consentimento livre, esclarecido e informado sob o enfoque da Lei Geral de Proteção de Dados (LGPD)” in DONEDA, Danilo et al., orgs., Tratado de Proteção de Dados Pessoais, São Paulo, Grupo Gen, 2020, pp. 177-191.
SCHERTEL MENDES, Laura; MATTIUZZO, Marcela. DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.
UNIÃO EUROPEIA, Regulação (EU) 2016/79,Parlamento Europeu e do Conselho Europeu de 27 de abril de 2016 relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE(Regulamento Geral sobre a Proteção de Dados), Directiva 95/46/CE do Parlamento Europeu e do Conselho Europeu, de 24 de outubro de 1955. Disponível em: https://eur-lex.europa.eu/legal-content/PT/LSU/?uri=celex:31995L0046. Acesso em: 31 out. 2019.
VEIGA, Fábio da Silva, BRITO, Paulo de, PIERDONÁ, Zélia Luiza, Future Law, Porto, Instituto Iberoamericano de Estudos Jurídicos e Universidade Lusófona do Porto, 2021, vol. 2.
* Mestre em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul – PUCRS. Especialista em Direito do Estado pela Universidade Federal do Rio Grande do Sul – UFRGS. Especialista em Direito Tributário pelo Instituto Brasileiro de Direito Tributário – IBET. Advogado e Consultor em Direito Público. E-mail: [email protected] Lattes: http://lattes.cnpq.br/0348263639766304
[1] Tradução livre do autor. No original, em inglês: “It is the science and engineering of making intelligent machines, especially intelligent computer programs. It is related to the similar task of using computers to understand human intelligence, but AI does not have to confine itself to methods that are biologically observable”. McCARTHY, John. What is Artificial Intelligence?Stanford University, Revised Nov. 2007. Não paginado. Disponível em: <http://www.formal.stanford.edu/jmc/whatisai/whatisai.html>. Acesso em: 22 nov. 2020.
[2] RUSSEL, Stuart; NORVIG, Peter. Artificial intelligence: a modern approach. 3. ed. Londres: Pearson Education Limited, 2016. P. 2-5 Apud FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial: em defesa do humano. Belo Horizonte: Fórum, 2020. p. 27-28.
[3] FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial: em defesa do humano. Belo Horizonte: Fórum, 2020. p. 29.
[4] Ibid., p. 27.
[5] Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.
[6] FREITAS, Juarez, FREITAS, Thomas Bellini, Direito e inteligência artificial: em defesa do humano, Belo Horizonte, Fórum, 2020, pp. 29.
[7] BRASIL, Senado Federal, Projeto de Lei n.º 4496, de 2019, Altera a Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais – LGPD), para definir a expressão “decisão automatizada”, Brasília, DF, 2019. Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=7990633&ts=1614605995923&disposition=inline. Acesso em: 28 nov. 2020.
[8] RODRIGUEZ, Daniel Piñero. O direito fundamental à proteção de dados: vigilância, privacidade e regulação. Rio de Janeiro: Lumen Juris, 2021. p. 19.
[9] Art. 5º, § 2º Os direitos e garantias expressos nesta Constituição não excluem outros decorrentes do regime e dos princípios por ela adotados, ou dos tratados internacionais em que a República Federativa do Brasil seja parte.
[10] Ibid.,p.20.
[11] SCHAUER, F. Profiles, Probabilities, and Stereotypes. Cambridge: Harvard University Press, 2006 Apud SCHERTEL MENDES, Laura; MATTIUZZO, Marcela. DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.
[12] BARBOSA, Tales, “Inteligência artificial e discriminação algorítmica” in VEIGA, Fábio da Silva, BRITO, Paulo de, PIERDONÁ, Zélia Luiza, Future Law, vol. II, Porto, Instituto Iberoamericano de Estudos Jurídicos e Universidade Lusófona do Porto, 2021, pp. 455.
[13] SCHERTEL MENDES, Laura; MATTIUZZO, Marcela. DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.
[14] Ibid.
[15]ANTUNES ROCHA, Carmem Lúcia. O PRINCÍPIO DA DIGNIDADE DA PESSOA HUMANA E A EXCLUSÃO SOCIAL. Revista do Instituto Brasileiro de Direitos Humanos, [S.l.], n. 2, p. 49-67, dez. 2001. ISSN 1677-1419. Disponível em: <http://www.revista.ibdh.org.br/index.php/ibdh/article/view/29>. Acesso em: 25 jun. 2021.
[16] RUARO, Regina Linden, SARLET, Gabrielle, “O direito fundamental à proteção de dados sensíveis no sistema normativo brasileiro: uma análise acerca das hipóteses de tratamento e da obrigatoriedade do consentimento livre, esclarecido e informado sob o enfoque da Lei Geral de Proteção de Dados (LGPD)”, in DONEDA, Danilo et al., orgs., Tratado de Proteção de Dados Pessoais, São Paulo, Grupo Gen, 2020, pp. 177-191.
[17] Art. 5º, XXXVII – não haverá juízo ou tribunal de exceção;
[18] Art. 5º, LIII – ninguém será processado nem sentenciado senão pela autoridade competente;
[19] RUARO, Regina Linden, SARLET, Gabrielle, “O direito fundamental à proteção de dados sensíveis no sistema normativo brasileiro: uma análise acerca das hipóteses de tratamento e da obrigatoriedade do consentimento livre, esclarecido e informado sob o enfoque da Lei Geral de Proteção de Dados (LGPD)”, in DONEDA, Danilo et al., orgs., Tratado de Proteção de Dados Pessoais, São Paulo, Grupo Gen, 2020, pp. 177-191.
[20] GRECO, Luís. Poder de julgar sem responsabilidade do julgador: a impossibilidade jurídica do juiz robô. São Paulo, SP: Marcial Pons, 2020, pp. 59.
[21]Ibid., pag. 47.
[22] I JORNADA de Direito Administrativo aprova 40 enunciados, Conselho da Justiça Federal, 10 de ago. 2020. Disponível em: https://www.cjf.jus.br/cjf/noticias/2020/08-agosto/i-jornada-de-direito-administrativo-aprova-40-enunciados. Acesso em: 10 jul. 2021.
[23] FREITAS, Juarez, FREITAS, Thomas Bellini, Direito e inteligência artificial: em defesa do humano. Belo Horizonte, Fórum, 2020, pp. 74-75.
[24] Ibid., pag. 75.
[25] COMISSÃO EUROPEIA. Orientações éticas para uma IA de confiança. Bruxelas: Comissão Europeia, 2019. P.14. Disponível em: https://op.europa.eu/en/publication-de