A Inteligência Artificial (IA) cresce a cada dia no Poder
Judiciário. E, para garantir o uso da tecnologia com ética, transparência e
governança, o Conselho Nacional de Justiça (CNJ) publicou na segunda-feira
(25/8), no Diário de Justiça Eletrônico, a Resolução nº 332/2020.
A norma, aprovada pelo Plenário do CNJ na 71ª
Sessão Virtual, estabelece as diretrizes para o desenvolvimento e uso
de IA no Poder Judiciário. A Inteligência Artificial tem sido aplicada para
contribuir com agilidade e coerência no processo de tomada de decisão nos
órgãos judiciais. E seu uso deve observar a compatibilidade com os direitos
fundamentais.
As decisões judiciais apoiadas por IA devem preservar a
igualdade, a não-discriminação, a pluralidade, a solidariedade e o julgamento
justo, eliminando ou minimizando a opressão, a marginalização do ser humano e
os erros de julgamento decorrentes de preconceitos. O CNJ ainda estabelece que
o conhecimento associado à Inteligência Artificial deve estar à disposição da
Justiça para promover e aprofundar a compreensão entre a lei e o agir humano e
entre a liberdade e as instituições judiciais.
Segundo a resolução, os dados utilizados no processo de
aprendizado de máquina devem ser provenientes de fontes seguras,
preferencialmente governamentais, passíveis de serem rastreados e auditados. E,
em seu processo de tratamento, os dados devem ser protegidos de forma eficaz
contra riscos de destruição, modificação e transmissões não-autorizadas.
Segurança jurídica
Na relação entre essa inovação e os direitos fundamentais, a
Resolução CNJ nº 332/2020 define que o uso de modelos de IA deve buscar
garantir segurança jurídica. E que, quando o desenvolvimento exigir, as amostras
devem ser representativas e observar as cautelas necessárias quanto aos dados
pessoais sensíveis e ao segredo de Justiça.
Os critérios dos modelos de IA devem ser homologados para
identificar se preconceitos ou generalizações influenciaram seu desenvolvimento.
Os sistemas tecnológicos que utilizem modelos de IA como ferramenta auxiliar
para a elaboração de decisão judicial deverão conter a explicação dos passos
que conduziram ao resultado.
Os órgãos do Judiciário envolvidos em projetos dessa
natureza devem informar o CNJ sobre a pesquisa, o desenvolvimento, a
implantação e uso de IA, bem como os objetivos e resultados pretendidos. Para
isso, os tribunais devem fazer esforços para atuar em modelo comunitário e
depositar o modelo de IA na plataforma Sinapses, disponibilizada pelo Conselho
para desenvolvimento e produção em larga escala de modelos de inteligência
artificial. A relação dos modelos de IA desenvolvidos e utilizados pelos órgãos
do Judiciário serão divulgados no Portal do CNJ.
Sistema penal
A Resolução orienta que o uso de modelos de IA em matéria
penal não deve ser estimulada. Isso, no entanto, não se aplica quando se tratar
do uso dessas soluções para automação e subsídio para cálculo de penas,
prescrição, verificação de reincidência, mapeamentos, classificações e triagem
dos autos para fins de gerenciamento de acervo.
O Conselho também estabelece que os modelos destinados à
verificação de reincidência penal não devem indicar conclusão mais prejudicial
ao réu do que aquela que o magistrado chegaria sem sua utilização.
O desenvolvimento e o uso dessa tecnologia em
desconformidade com os princípios e regras estabelecidos na Resolução CNJ nº
332/2020 será objeto de apuração e, se for o caso, de punição dos responsáveis,
sendo que o CNJ deverá ser informado sobre os registros de eventos adversos no
uso dessa tecnologia.
Fonte: Conselho Nacional de Justiça
