Para leigos: Justiça e Inteligência Artificial: O sistema Athos é transparente o suficiente?

O cenário atual

A Inteligência Artificial (IA) tem ganhado cada vez mais espaço no nosso dia a dia, ajudando a automatizar tarefas repetitivas em diversos setores, tanto públicos quanto privados. No Brasil, o Poder Judiciário enfrenta um grande volume de processos e, por isso, tem incorporado rapidamente sistemas de IA em várias etapas, inclusive na fase de tomada de decisões. Essas ferramentas podem analisar grandes quantidades de dados em pouco tempo, o que é um benefício claro. No entanto, elas não são infalíveis e podem causar problemas se não forem usadas com cuidado, especialmente quando afetam a vida das pessoas.

O que os pesquisadores fizeram

Este estudo se propôs a analisar como o sistema Athos, usado no rito dos recursos repetitivos na justiça, se encaixa no conceito de "devido processo legal tecnológico". A pesquisa partiu da ideia de que a IA, mesmo sendo útil, tem limitações em como ela pensa e opera, e por isso precisa de supervisão humana constante e atenta. Essa supervisão deve ser guiada por princípios importantes como a transparência e a explicabilidade, que são a base para o que se chama de "devido processo legal tecnológico".

Para chegar às suas conclusões, o trabalho utilizou um método de pesquisa dedutivo, com uma abordagem qualitativa para analisar os dados. As informações foram coletadas por meio de pesquisa em documentos e bibliografia existente. O objetivo era verificar se o sistema Athos oferece aos cidadãos informações claras sobre como ele funciona, quais bancos de dados utiliza e, principalmente, como ele chega a uma decisão, explicando os critérios usados de forma compreensível, seja por texto ou elementos visuais.

Como funciona na prática

O sistema Athos é uma ferramenta de Inteligência Artificial utilizada no Poder Judiciário para auxiliar no julgamento de recursos repetitivos. Esses recursos são casos que se repetem muitas vezes com a mesma questão legal, e a IA busca agilizar a análise e decisão desses processos. A ideia é que a IA ajude a identificar padrões e a correlacionar informações para oferecer respostas, facilitando o trabalho humano.

Resultados e evidência

A investigação revelou que, embora os sistemas de IA sejam capazes de correlacionar informações para dar respostas, eles não conseguem "pensar" de forma eficaz como um ser humano. A inteligência artificial é uma ferramenta, com a natureza legal de um bem jurídico, que resolve problemas sem ter consciência.

O estudo também apontou que, apesar da existência de princípios internacionais para a IA, o Brasil ainda não tem uma estratégia clara de leis e normas para regular essa tecnologia. Foram identificadas diferenças importantes entre como os humanos e os sistemas de IA adquirem conhecimento, destacando o risco de um "viés de automação", onde a decisão da máquina é aceita sem questionamento, o que exige uma nova fase de justificação.

Especificamente sobre o sistema Athos, a pesquisa avaliou sua criação e implementação e demonstrou um risco de simplificação dos argumentos dos recursos por meio de uma técnica chamada "ngrams".

Implicações práticas

A principal conclusão do estudo é que a incorporação da IA no Judiciário exige que os princípios de transparência e explicabilidade sejam rigorosamente observados. Isso leva à necessidade de um "devido processo legal tecnológico". A hipótese inicial foi confirmada: o sistema Athos, em sua forma atual, não oferece aos litigantes (as partes envolvidas nos processos) informações e explicações claras sobre como suas decisões são tomadas, de acordo com os novos princípios propostos. Isso significa que há um risco de que as decisões da IA não sejam totalmente compreendidas ou questionadas pelas pessoas afetadas.

Limitações e próximos passos

O paper não detalha explicitamente limitações do próprio estudo ou próximos passos de pesquisa. No entanto, a confirmação da hipótese sugere que o sistema Athos precisa ser aprimorado para incorporar melhor os princípios de transparência e explicabilidade em sua operação. Isso implicaria em desenvolver formas de apresentar aos cidadãos, de maneira compreensível, os elementos informativos e os bancos de dados que a IA utiliza, bem como uma explicação clara do caminho que ela percorreu para chegar a um resultado, demonstrando os critérios aplicados. A falta de uma estratégia normativa para a IA no Brasil também aponta para a necessidade de debates e criação de leis que garantam a segurança e a justiça no uso dessas tecnologias.

Quem são os pesquisadores

O estudo "O devido processo legal tecnológico na era da inteligência artificial: uma análise do sistema Athos no rito dos recursos repetitivos" foi desenvolvido por Éric da Rocha de Menezes. O trabalho é uma dissertação ligada à Universidade Federal do Ceará (UFC). O paper não detalha a afiliação específica do autor dentro da universidade, vínculos prévios ou sua trajetória profissional e acadêmica.