UNIVALIPPCJ · Direito e IA
Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário.
O PRESIDENTE DO CONSELHO NACIONAL DE JUSTIÇA (CNJ), no uso de suas atribuições legais e regimentais,
Considerando que a Resolução CNJ nº 332/2020, estabelece diretrizes sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no Poder Judiciário;
Considerando o acelerado desenvolvimento de tecnologias de inteligência artificial, notadamente por meio de algoritmos que utilizam grandes modelos de linguagem, os quais são capazes de interagir com usuários e oferecer soluções geradas automaticamente;
Considerando a imprescindibilidade de regulamentação específica para o emprego de técnicas de inteligência artificial generativa no âmbito do Poder Judiciário, com plena transparência e publicidade, de modo a assegurar que sua utilização esteja em consonância com valores éticos fundamentais, incluindo dignidade humana, respeito aos direitos humanos, não discriminação, devido processo, devida motivação e fundamentação da prestação da atividade jurisdicional, prestação de contas e responsabilização;
Considerando a importância de promover a autonomia dos tribunais na adoção de tecnologias inovadoras, incentivando práticas que garantam a inovação ética, responsável e segura no uso da inteligência artificial;
Considerando os potenciais riscos associados à utilização de inteligência artificial generativa, incluindo ameaças à soberania nacional, à segurança da informação, à privacidade e proteção de dados pessoais, bem como a possibilidade de intensificação de parcialidades e vieses discriminatórios;
Considerando que o uso da inteligência artificial generativa em auxílio à produção de decisões judiciais exige transparência e a necessária fiscalização, revisão e intervenção humana da magistratura;
Considerando que a Resolução CNJ nº 332/2020 foi formulada tendo como foco as soluções computacionais destinadas a auxiliar na gestão processual e na efetividade da prestação jurisdicional disponíveis à época de sua elaboração, e que agora se faz necessário atualizar esse normativo para abarcar novas tecnologias, em especial aquelas conhecidas como inteligências artificiais generativas;
Considerando o parecer oferecido pela Comissão Permanente de Tecnologia da Informação e Inovação do Conselho Nacional de Justiça no Procedimento de Controle Administrativo de autos nº 0000416-89.2023.2.00.0000, que destacou a importância da governança adequada no uso de inteligência artificial, em particular a generativa, no Poder Judiciário;
Considerando a necessidade de assegurar que o desenvolvimento e a implantação de modelos de inteligência artificial no Poder Judiciário observem critérios éticos de transparência, previsibilidade, auditabilidade e justiça substancial;
Considerando que as soluções de inteligência artificial devem ser auditadas sob a ótica da segurança da informação, proteção de dados, performance, robustez, confiabilidade, prevenção de vieses discriminatórios, correlação entre entradas e saídas e conformidade legal e ética;
Considerando a relevância de fomentar a colaboração e o compartilhamento de informações sobre o uso de inteligência artificial no Poder Judiciário, com vistas a assegurar a transparência e eficácia na aplicação dessas tecnologias;
Considerando a necessidade de respeitar as prerrogativas do Ministério Público, da Defensoria Pública, da Advocacia e dos demais atores do sistema de justiça;
Considerando as sugestões recolhidas de magistrados e demais atores do sistema de justiça, da sociedade civil, de especialistas e de instituições públicas e privadas para a atualização da Resolução CNJ nº 332/2020 durante audiência pública ocorrida entre os dias 25 e 27 de setembro de 2024;
Considerando o relatório do Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário, instituído pela Portaria CNJ nº 338/2023, cujo objetivo é realizar estudos e apresentar propostas para a regulamentação do uso de sistemas de inteligência artificial generativa;
Considerando a decisão proferida pelo Plenário do CNJ no julgamento do Procedimento de Ato Normativo de autos nº 0000563-47.2025.2.00.0000 na 1ª Sessão Extraordinária de 2025, realizada em 18 de fevereiro de 2025;
RESOLVE:
Art. 1º A presente Resolução estabelece normas para o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções que adotam técnicas de inteligência artificial (IA) no âmbito do Poder Judiciário, com o objetivo de promover a inovação tecnológica e a eficiência dos serviços judiciários de modo seguro, transparente, isonômico e ético, em benefício dos jurisdicionados e com estrita observância de seus direitos fundamentais.
§ 1º A governança das soluções de IA deverá respeitar a autonomia dos tribunais, permitindo o desenvolvimento e a implementação de soluções inovadoras locais, ajustando-se aos contextos específicos de cada tribunal, desde que observados os padrões de auditoria, monitoramento e transparência definidos por esta Resolução, sem prejuízo da atuação do CNJ, no âmbito de suas competências.
§ 2º A auditoria e o monitoramento das soluções de IA serão realizados com base em critérios proporcionais ao impacto da solução, garantindo que os sistemas sejam auditáveis ou monitoráveis de forma prática e acessível, sem a obrigatoriedade de acesso irrestrito ao código-fonte, desde que sejam adotados mecanismos de transparência e controle sobre o uso dos dados e as decisões automatizadas.
§ 3º A transparência no uso de IA será promovida por meio de indicadores claros e relatórios públicos, que informem o uso dessas soluções de maneira compreensível e em linguagem simples, garantindo que os jurisdicionados tenham ciência do uso de IA, quando aplicável, sem que isso prejudique a eficiência ou credibilidade dos processos e decisões judiciais.
§ 4º Os tribunais deverão priorizar o desenvolvimento colaborativo de soluções de IA, promovendo a interoperabilidade e a disseminação de tecnologias, códigos, bases de dados e boas práticas com outros órgãos do Poder Judiciário.
§ 5º O CNJ poderá criar mecanismos de incentivo, tais como reconhecimento público, premiações ou priorização de recursos e investimentos em inovação, para tribunais que, dentre outros critérios previstos em regulamento, adotem práticas colaborativas/cooperativas no desenvolvimento de soluções de IA.
Art. 2º O desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções de IA pelo Poder Judiciário têm como fundamentos:
I – o respeito aos direitos fundamentais e aos valores democráticos;
II – a promoção do bem-estar dos jurisdicionados;
III – o desenvolvimento tecnológico e o estímulo à inovação no setor público, com ênfase na colaboração entre os tribunais e o CNJ para o incremento da eficiência dos serviços judiciários, respeitada a autonomia dos tribunais para o desenvolvimento de soluções que atendam às suas necessidades específicas;
IV – a centralidade da pessoa humana;
V – a participação e a supervisão humana em todas as etapas dos ciclos de desenvolvimento e de utilização das soluções que adotem técnicas de inteligência artificial, ressalvado o uso dessas tecnologias como ferramentas auxiliares para aumentar a eficiência e automação de serviços judiciários meramente acessórios ou procedimentais e para suporte à decisão;
VI – a promoção da igualdade, da pluralidade e da justiça decisória;
VII – a formulação de soluções seguras para os usuários internos e externos, com a identificação, a classificação, o monitoramento e a mitigação de riscos sistêmicos;
VIII – a proteção de dados pessoais, o acesso à informação e o respeito ao segredo de justiça;
IX – a curadoria dos dados usados no desenvolvimento e no aprimoramento de inteligência artificial, adotando fontes de dados seguras, rastreáveis e auditáveis, preferencialmente governamentais, permitida a contratação de fontes privadas, desde que atendam aos requisitos de segurança e auditabilidade estabelecidos nesta Resolução ou pelo Comitê Nacional de Inteligência Artificial do Judiciário;
X – a conscientização e a difusão do conhecimento sobre as soluções que adotam técnicas de inteligência artificial, com capacitação contínua dos seus usuários sobre as suas aplicações, os seus mecanismos de funcionamento e os seus riscos;
XI – a garantia da segurança da informação e da segurança cibernética; e
XII – a transparência dos relatórios de auditoria, de avaliação de impacto algorítmico e monitoramento.
Art. 3º O desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções de IA pelos tribunais têm como princípios:
I – a justiça, a equidade, a inclusão e a não-discriminação abusiva ou ilícita;
II – a transparência, a eficiência, a explicabilidade, a contestabilidade, a auditabilidade e a confiabilidade das soluções que adotam técnicas de inteligência artificial;
III – a segurança jurídica e a segurança da informação;
IV – a busca da eficiência e qualidade na entrega da prestação jurisdicional pelo Poder Judiciário, garantindo sempre a observância dos direitos fundamentais;
V – o devido processo legal, a ampla defesa e o contraditório, a identidade física do juiz e a razoável duração do processo, com observância das prerrogativas e dos direitos dos atores do sistema de Justiça;
VI – a prevenção, a precaução e o controle quanto a medidas eficazes para a mitigação de riscos derivados do uso intencional ou não intencional de soluções que adotam técnicas de inteligência artificial;
VII – a supervisão humana efetiva, periódica e adequada no ciclo de vida da inteligência artificial, considerando o grau de risco envolvido, com possibilidade de ajuste dessa supervisão conforme o nível de automação e impacto da solução utilizada; e
VIII – a oferta, pelos tribunais e suas escolas, de capacitação contínua para magistrados e servidores sobre riscos da automação, vieses algorítmicos e análise crítica dos resultados gerados por IA.
Art. 4º Para o disposto nesta Resolução, consideram-se:
I – sistema de inteligência artificial (IA): sistema baseado em máquina que, com diferentes níveis de autonomia e para objetivos explícitos ou implícitos, processa um conjunto de dados ou informações fornecido e com o objetivo de gerar resultados prováveis e coerentes de decisão, recomendação ou conteúdo, que possam influenciar o ambiente virtual, físico ou real;
II – ciclo de vida: série de fases que compreende a concepção, o planejamento, o desenvolvimento, o treinamento, o retreinamento, a testagem, a validação, a implantação, o monitoramento e eventuais modificações e adaptações de um sistema de inteligência artificial, incluindo sua descontinuidade, que pode ocorrer em quaisquer das etapas referidas, e o acompanhamento de seus impactos após a implantação;
III – Sinapses: solução computacional destinada a armazenar, testar, treinar, distribuir e auditar modelos de inteligência artificial, disponível na Plataforma Digital do Poder Judiciário (PDPJ-Br);
IV – desenvolvedor de sistema de inteligência artificial: pessoa natural ou jurídica, de natureza pública ou privada, que desenvolva ou comissione um sistema de inteligência artificial, com a finalidade de colocá-lo no mercado ou aplicá-lo em serviço fornecido, sob seu próprio nome ou marca, a título oneroso ou gratuito;
V – usuário: pessoa que utiliza o sistema de IA e exerce controle sobre suas funcionalidades, podendo tal controle ser regulado ou limitado conforme seja externo ou interno ao Poder Judiciário;
VI – usuário interno: membro, servidor ou colaborador do Poder Judiciário que desenvolva ou utilize o sistema inteligente, podendo ser enquadrado em diferentes perfis conforme o cargo e área de atuação;
VII – usuário externo: pessoa externa ao Poder Judiciário, que interage diretamente com o sistema de IA do Judiciário, incluindo advogados, defensores públicos, procuradores, membros do Ministério Público, peritos, assistentes técnicos e jurisdicionados em geral;
VIII – distribuidor: pessoa natural ou jurídica, de natureza pública ou privada, que disponibiliza e distribui sistema de IA para que terceiro o opere a título oneroso ou gratuito;
IX – inteligência artificial generativa (IA generativa ou IAGen): sistema de IA especificamente destinado a gerar ou modificar significativamente, com diferentes níveis de autonomia, texto, imagens, áudio, vídeo ou código de software, além dos modelos estatísticos e de aprendizado a partir dos dados treinados;
X – avaliação preliminar: processo de avaliação de um sistema de IA, pelo tribunal desenvolvedor ou contratante, antes de sua utilização ou entrada em produção na PDPJ-Br, com o objetivo de classificar seu grau de risco e atender às obrigações estabelecidas nesta Resolução;
XI – avaliação de impacto algorítmico: análise contínua dos impactos de um sistema de IA sobre os direitos fundamentais, com a identificação de medidas preventivas, mitigadoras de danos e de maximização dos impactos positivos, sem a violação da propriedade industrial e intelectual da solução de IA utilizada;
XII – Comitê Nacional de Inteligência Artificial do Judiciário: comitê com composição plural que tem por finalidade auxiliar o CNJ na implementação, no cumprimento e na supervisão da aplicação desta Resolução, sempre mediante diálogo com os tribunais e a sociedade civil;
XIII – viés discriminatório ilegal ou abusivo: resultado indevidamente discriminatório que cria, reproduz ou reforça preconceitos ou tendências, derivados ou não dos dados ou seu treinamento;
XIV – privacy by design: preservação da privacidade dos dados desde a concepção de qualquer novo projeto ou serviço de IA durante todo o seu ciclo de vida, inclusive na anonimização e encriptação de dados sigilosos;
XV – privacy by default: utilização, por padrão, de alto nível de confidencialidade de dados;
XVI – prompt: texto em linguagem natural utilizado na IA generativa para execução de uma tarefa específica;
XVII – auditabilidade: capacidade de um sistema de IA se sujeitar à avaliação dos seus algoritmos, dados, processos de concepção ou resultados, sempre que tecnicamente possível;
XVIII – explicabilidade: compreensão clara, sempre que tecnicamente possível, de como as "decisões" são tomadas pela IA; e
XIX – contestabilidade: possibilidade de questionamento e revisão dos resultados gerados pela IA.
Art. 5º No desenvolvimento, na implantação e no uso de soluções de inteligência artificial no Judiciário, os tribunais observarão a compatibilidade dessas soluções com os direitos fundamentais, especialmente aqueles previstos na Constituição da República ou em tratados de que a República Federativa do Brasil seja parte.
§ 1º A verificação de compatibilidade com os direitos fundamentais deverá ocorrer em todas as fases do ciclo de vida da solução de IA, incluindo o desenvolvimento, a implantação, o uso, as atualizações e eventuais retreinamentos dos sistemas e seus dados.
§ 2º Os tribunais deverão implementar mecanismos de auditoria e monitoramento contínuos, com vistas a garantir que as soluções de IA permaneçam em conformidade com os direitos fundamentais, e proceder a ajustes sempre que forem identificadas incompatibilidades.
§ 3º Havendo notícia ou indícios de violação a direitos fundamentais, assegura-se à Ordem dos Advogados do Brasil (OAB), ao Ministério Público e demais entidades legitimadas o acesso às avaliações de impacto algorítmico e o direito de peticionar ao Comitê para que seja avaliada a necessidade de solicitação de auditorias e outras formas de controle.
Art. 6º A adoção de aplicações que utilizem modelos de inteligência artificial deve buscar garantir a segurança jurídica e colaborar para que o Poder Judiciário respeite os princípios previstos no art. 3º desta Resolução.
Parágrafo único. Os tribunais e desenvolvedores de IA serão responsáveis pela criação de diretrizes internas para assegurar que as soluções de IA estejam em conformidade com os princípios estabelecidos no art. 3º desta Resolução, com mecanismos adequados de supervisão e revisão periódica.
Art. 7º Os dados utilizados no desenvolvimento ou treinamento de modelos de inteligência artificial devem ser representativos de casos judiciais e observar as cautelas necessárias quanto ao segredo de justiça e à proteção de dados pessoais, nos termos da Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais – LGPD).
§ 1º Consideram-se dados representativos aqueles que refletem de forma adequada a diversidade de situações e contextos presentes no Poder Judiciário, evitando vieses que possam comprometer a equidade e a justiça decisória.
§ 2º Os dados deverão ser anonimizados sempre que possível, providência obrigatória para os dados sigilosos ou protegidos por segredo de justiça, de acordo com as melhores práticas de proteção de dados e segurança da informação.
§ 3º Os tribunais deverão implementar mecanismos de curadoria e monitoramento dos dados utilizados, assegurando a conformidade com a legislação de proteção de dados e a revisão periódica das práticas de tratamento de dados.
Art. 8º Os produtos gerados pela inteligência artificial para suporte às decisões judiciais deverão preservar a igualdade, a não discriminação abusiva ou ilícita e a pluralidade, assegurando que os sistemas de IA auxiliem no julgamento justo e contribuam para eliminar ou minimizar a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos.
§ 1º Deverão ser implementadas medidas preventivas para evitar o surgimento de vieses discriminatórios, incluindo a validação contínua das soluções de IA e a auditoria ou monitoramento de suas decisões ao longo de todo o ciclo de vida da aplicação, para garantir que as soluções de IA continuem em conformidade com os princípios da igualdade, pluralidade e não discriminação, com relatórios periódicos que avaliem o impacto das soluções no julgamento justo, imparcial e eficiente.
§ 2º Verificado viés discriminatório ou incompatibilidade da solução de inteligência artificial com os princípios previstos nesta Resolução, deverão ser adotadas as medidas corretivas necessárias, incluindo a suspensão temporária (imediata ou programada), a correção ou, se necessário, a eliminação definitiva da solução ou de seu viés.
§ 3º Caso se constate a impossibilidade de eliminação do viés discriminatório, a solução de inteligência artificial deverá ser descontinuada, com o consequente cancelamento do registro de seu projeto no Sinapses, e relatório das medidas adotadas e das razões que justificaram a decisão, que poderá ser submetido à análise independente para realização de estudos, se for o caso.
Art. 9º Os tribunais deverão realizar a avaliação das soluções que utilizem técnicas de inteligência artificial, com a finalidade de definir o seu grau de risco, baseando-se na categorização e nos critérios previstos neste Capítulo e no Anexo de Classificação de Riscos, com base em fatores como o potencial impacto nos direitos fundamentais, a complexidade do modelo, a sustentabilidade financeira, os usos pretendidos e potenciais e a quantidade de dados sensíveis utilizados.
§ 1º A avaliação deverá ser realizada pelo tribunal desenvolvedor ou contratante da solução, preferencialmente durante o período de testes e homologação ou, no caso de aplicações de baixo risco, no início da entrada em produção interna da solução de IA, de acordo com diretrizes claras e critérios objetivos que garantam uniformidade na avaliação de risco, que serão publicadas na plataforma Sinapses, previamente à disponibilização da solução na PDPJ-Br.
§ 2º O Comitê Nacional de Inteligência Artificial do Judiciário fixará as diretrizes e os critérios de avaliação de risco a que se refere o § 1º, ouvidos os tribunais, desenvolvedores e a sociedade civil.
§ 3º O Comitê Nacional de Inteligência Artificial do Judiciário poderá, de ofício ou mediante provocação fundamentada, determinar a reclassificação do grau de risco de determinada solução, bem como determinar, de forma justificada, a realização de avaliação de impacto algorítmico, quando tal medida se demonstrar proporcional, respeitada tanto quanto possível a autonomia dos tribunais.
Art. 10. São vedados ao Poder Judiciário, por acarretarem risco excessivo à segurança da informação, aos direitos fundamentais dos cidadãos ou à independência dos magistrados, o desenvolvimento e a utilização de soluções:
I – que não possibilitem a revisão humana dos resultados propostos ao longo de seu ciclo de treinamento, desenvolvimento e uso, ou que gerem dependência absoluta do usuário em relação ao resultado proposto, sem possibilidade de alteração ou revisão;
II – que valorem traços da personalidade, características ou comportamentos de pessoas naturais ou de grupos de pessoas naturais, para fins de avaliar ou prever o cometimento de crimes ou a probabilidade de reiteração delitiva na fundamentação de decisões judiciais, bem como para fins preditivos ou estatísticos com o propósito de fundamentar decisões em matéria trabalhista a partir da formulação de perfis pessoais;
III – que classifiquem ou ranqueiem pessoas naturais, com base no seu comportamento ou situação social ou ainda em atributos da sua personalidade, para a avaliação da plausibilidade de seus direitos, méritos judiciais ou testemunhos; e
IV – a identificação e a autenticação de padrões biométricos para o reconhecimento de emoções.
§ 1º Os tribunais deverão implementar mecanismos de monitoramento contínuo para garantir o cumprimento dessas vedações e monitorar o desenvolvimento de soluções de IA a fim de prevenir o uso inadvertido das tecnologias proibidas.
§ 2º Qualquer solução de IA que, ao longo de seu uso, se enquadrar nas vedações deste artigo, deverá ser descontinuada, com registro no Sinapses das razões e providências adotadas, para análise pelo Comitê Nacional de Inteligência Artificial do Judiciário, com fins de buscar prevenir outros casos.
Art. 11. Consideram-se de alto ou baixo risco, conforme o caso, as soluções que utilizem técnicas de inteligência artificial, desenvolvidas e utilizadas para as finalidades e contextos descritos no Anexo de Classificação de Riscos desta Resolução.
§ 1º As soluções de alto risco deverão ser submetidas a processos regulares de auditoria e monitoramento contínuo para supervisionar seu uso e mitigar potenciais riscos aos direitos fundamentais, à privacidade e à justiça.
§ 2º A categorização disposta no Anexo de Classificação de Riscos para soluções de alto risco será revista pelo menos anualmente, pelo Comitê Nacional de Inteligência Artificial do Judiciário, na forma do inciso I do art. 16 desta Resolução, para assegurar que a classificação de contextos de alto risco permaneça atualizada e continue adequada às exigências legais e éticas.
§ 3º As soluções de baixo risco deverão ser monitoradas e revisadas periodicamente, para assegurar que permaneçam dentro dos parâmetros de baixo risco e que eventuais mudanças tecnológicas ou contextuais não alterem essa categorização.
Art. 19. Os modelos de linguagem de larga escala (LLMs), de pequena escala (SLMS) e outros sistemas de inteligência artificial generativa (IAGen) disponíveis na rede mundial de computadores poderão ser utilizados pelos magistrados e pelos servidores do Poder Judiciário em suas respectivas atividades como ferramentas de auxílio à gestão ou de apoio à decisão, em obediência aos padrões de segurança da informação e às normas desta Resolução.
§ 1º Os modelos e soluções a que se refere o caput poderão ser utilizados pelos magistrados e pelos servidores do Poder Judiciário, preferencialmente, por meio de acesso que seja habilitado, disponibilizado e monitorado pelos tribunais.
§ 2º Quando o tribunal não oferecer solução corporativa de inteligência artificial especificamente treinada e personalizada para uso no Poder Judiciário, será facultado ao magistrado, servidor ou colaborador do Poder Judiciário a contratação direta de solução mediante assinatura ou cadastro de natureza privada, desde que atendidas as diretrizes do § 3º deste artigo.
§ 3º A contratação direta para uso privado ou individual dos modelos de linguagem de larga escala (LLMs) e outros sistemas de inteligência artificial generativa (IAGen) disponíveis na rede mundial de computadores, para fins de uso em atividades funcionais do Poder Judiciário deverá observar as seguintes condições:
I – os usuários deverão realizar capacitação e treinamentos específicos sobre melhores práticas, limitações, riscos, e uso ético, responsável e eficiente de LLMs e dos sistemas de IA generativa para a utilização em suas atividades, conforme programa de letramento digital padronizado, nos termos do inciso VII do art. 16 desta Resolução, ficando a cargo dos tribunais e de suas escolas a promoção dos treinamentos continuados aos magistrados e servidores;
II – o uso dessas ferramentas será de caráter auxiliar e complementar, consistindo em mecanismos de apoio à decisão, vedada a utilização como instrumento autônomo de tomada de decisões judiciais sem a devida orientação, interpretação, verificação e revisão por parte do magistrado, que permanecerá integralmente responsável pelas decisões tomadas e pelas informações nelas contidas;
III – as empresas fornecedoras dos serviços de LLMs e IA generativa devem observar padrões de política de proteção de dados e de propriedade intelectual, em conformidade com a legislação aplicável, sendo vedado o tratamento, uso ou compartilhamento dos dados fornecidos pelos usuários do Poder Judiciário, bem como dos dados inferidos a partir desses, para treinamento, aperfeiçoamento ou quaisquer outros fins não expressamente autorizados;
IV – é vedado o uso de LLMs e sistemas de IA generativa de natureza privada ou externos ao Judiciário para processar, analisar, gerar conteúdo ou servir de suporte a decisões a partir de documentos ou dados sigilosos ou protegidos por segredo de justiça, nos termos da legislação aplicável, salvo quando devidamente anonimizados na origem ou quando forem adotados mecanismos técnicos e procedimentais que garantam a efetiva proteção e segurança desses dados e de seus titulares; e
V – é vedado o uso de LLMs e sistemas de IA generativa de natureza privada ou externos ao Judiciário para as finalidades previstas nesta Resolução como de risco excessivo ou de alto risco, nos termos do art. 10 e 11 desta Resolução.
§ 4º O Comitê Nacional de Inteligência Artificial do Judiciário elaborará e atualizará periodicamente um manual de boas práticas em linguagem simples para orientar magistrados e servidores sobre o uso correto, ético e eficiente de LLMs e de sistemas de IA generativa, abordando aspectos como suas potencialidades, limitações, configurações recomendadas, riscos, casos de uso adequados e vedados, orientações para interpretação crítica dos resultados e correção de eventuais erros ou inconsistências.
§ 5º Caberá aos tribunais e às suas escolas, em consonância com as diretrizes do CNJ, da Enfam e da Enamat, promover capacitação e treinamentos continuados para assegurar o uso adequado e responsável de LLMs e sistemas de IA generativa pelos magistrados e servidores, bem como para mantê-los atualizados quanto à evolução dessas tecnologias e suas implicações para o sistema de Justiça.
§ 6º Quando houver emprego de IA generativa para auxílio à redação de ato judicial, tal situação poderá ser mencionada no corpo da decisão, a critério do magistrado, sendo, porém, devido o registro automático no sistema interno do tribunal, para fins de produção de estatísticas, monitoramento e eventual auditoria.
§ 7º Na hipótese do § 2º deste artigo, o magistrado que contratar solução de mercado de inteligência artificial para uso em suas atividades no Poder Judiciário, ou o gestor que tiver em sua equipe servidor ou colaborador que utilize essas soluções, deverá prestar informações ao seu respectivo tribunal sobre sua utilização, na forma do regulamento.
§ 8º Os tribunais consolidarão as informações recebidas na forma do § 7º deste artigo para envio ao Comitê Nacional de Inteligência Artificial do Judiciário, que as utilizará para os fins previstos no art. 25 desta Resolução.
Art. 32. O sistema inteligente deverá assegurar a autonomia dos usuários internos, com o uso de modelos que:
I – promovam o incremento da eficiência, precisão e qualidade das atividades, sem limitar a capacidade de atuação dos usuários;
II – possibilitem a revisão detalhada do conteúdo gerado e dos dados utilizados para sua elaboração, assegurando que os usuários tenham acesso às premissas e ao método empregado pela inteligência artificial na sua formulação, sem que haja qualquer espécie de vinculação à solução apresentada pela inteligência artificial e garantindo-se a possibilidade de correções ou ajustes.
Parágrafo único. Em nenhum momento o sistema de IA poderá restringir ou substituir a autoridade final dos usuários internos.
Art. 33. Os usuários externos deverão ser informados, de maneira clara, acessível e objetiva, sobre a utilização de sistemas baseados em IA nos serviços que lhes forem prestados, devendo ser empregada linguagem simples, que possibilite a fácil compreensão por parte de pessoas não especializadas.
§ 1º A informação prevista no caput deste artigo deverá destacar o caráter consultivo e não vinculante da proposta de solução apresentada pela inteligência artificial, a qual sempre será submetida à análise e decisão final de uma autoridade competente, que exercerá a supervisão humana sobre o caso.
§ 2º A comunicação sobre o uso de IA deverá ser realizada por meio de canais adequados, como avisos nos sistemas utilizados, materiais informativos e guias explicativos, com o intuito de orientar os usuários externos sobre o funcionamento, limitações e objetivos dos sistemas inteligentes no Judiciário.
§ 3º A comunicação sobre o eventual uso da IA no texto de decisões judiciais será uma faculdade de seu signatário, observado o disposto no inciso IV do § 3º e o § 6º do art. 19 desta Resolução.
§ 4º Os tribunais deverão disponibilizar periodicamente materiais educativos que ajudem os usuários externos a compreenderem o uso de IA nos processos judiciais, esclarecendo que tais sistemas têm papel de suporte, sem substituir a autoridade decisória humana.
Art. 34. Os sistemas computacionais utilizados no âmbito do Poder Judiciário deverão exigir a supervisão humana e permitir a modificação pelo magistrado competente de qualquer produto gerado pela inteligência artificial, sempre que cabível, observado o art. 32 desta Resolução.
Art. 44. As normas previstas nesta Resolução não excluem a aplicação de outras normas do ordenamento jurídico brasileiro, incluindo, mas não se limitando a leis federais, estaduais e municipais, assim como tratados e convenções internacionais ratificados pela República Federativa do Brasil.
Art. 45. As disposições desta Resolução aplicam-se também aos projetos e modelos de inteligência artificial já em desenvolvimento ou implantados nos tribunais, respeitados os atos já consolidados.
Parágrafo único. Os tribunais terão um prazo de 12 (doze) meses para adequar seus projetos e modelos, em desenvolvimento ou já implantados, às novas disposições estabelecidas nesta Resolução, a partir de sua publicação.
Art. 46. Revoga-se a Resolução CNJ nº 332/2020, a partir do início da vigência desta Resolução.
Art. 47. Esta Resolução entra em vigor após decorridos 120 (cento e vinte) dias da data de sua publicação.
Consideram-se de alto risco as seguintes finalidades e contextos para o desenvolvimento de soluções baseadas em inteligência artificial destinadas a desempenhar ou apoiar o usuário na realização das seguintes atividades acessórias:
AR1 – identificação de perfis e de padrões comportamentais de pessoas naturais ou de grupos de pessoas naturais, exceto quando enquadradas como situações de risco mínimo ou controlado, conforme critérios objetivos estabelecidos;
AR2 – aferição da adequação dos meios de prova e a sua valoração nos processos de jurisdição contenciosa, sejam documentais, testemunhais, periciais ou de outras naturezas, especialmente quando tais avaliações possam influenciar diretamente a decisão judicial;
AR3 – averiguação, valoração, tipificação e a interpretação de fatos como sendo crimes, contravenções penais ou atos infracionais, ressalvadas as soluções voltadas à mera rotina da execução penal e de medidas socioeducativas;
AR4 – formulação de juízos conclusivos sobre a aplicação da norma jurídica ou precedentes a um conjunto determinado de fatos concretos, inclusive para a quantificação ou a qualificação de danos suportados por pessoas ou grupos, em ações criminais ou não;
AR5 – identificação e a autenticação facial ou biométrica para o monitoramento de comportamento de pessoas naturais, exceto quando utilizada para a mera confirmação da identidade de uma pessoa natural específica ou para atividades de segurança pública devidamente justificadas, sempre garantida a observância dos direitos fundamentais e monitoramento contínuo de tais soluções.
Consideram-se de baixo risco as seguintes finalidades e contextos para o desenvolvimento de soluções baseadas em inteligência artificial destinadas a desempenhar ou apoiar o usuário na realização das seguintes atividades acessórias:
BR1 – execução de atos processuais ordinatórios ou de tarefas de apoio à administração judiciária, mediante a extração de informações de sistemas e de documentos, com a finalidade de classificação e agrupamento de dados e processos, enriquecimento de cadastros, certificação e transcrição de atos processuais, sumarização ou resumo de documentos, entre outras finalidades de gestão processual e operacional, desde que supervisionadas por responsável humano;
BR2 – detecção de padrões decisórios ou de desvios de padrões decisórios, bem como detecção de precedentes qualificados pertinentes, observado o caráter complementar da técnica de inteligência artificial, desde que não haja substituição da avaliação humana sobre processos, sendo seu uso destinado para apoio interno ao tribunal e para uniformização da jurisprudência;
BR3 – fornecimento aos magistrados de subsídios para a tomada de decisão mediante relatórios gerenciais e análises que adotem técnica jurimétrica, com a integração de fontes de informação relevantes ou a detecção de padrões decisórios, desde que não haja substituição da avaliação humana e que a solução não realize valorações de cunho moral sobre provas ou sobre perfis e condutas de pessoas;
BR4 – produção de textos de apoio para facilitar a confecção de atos judiciais, desde que a supervisão e a versão final do documento sejam realizadas pelo magistrado e com base em suas instruções, especialmente as decisões acerca das preliminares e questões de mérito;
BR5 – aprimoramento ou formatação de uma atividade humana anteriormente realizada, desde que não se altere materialmente o seu resultado, ou ainda realização de uma tarefa preparatória para uma outra, considerada como de alto risco;
BR6 – realização de análises estatísticas para fins de política judiciária, sempre com supervisão humana contínua, especialmente para evitar conclusões enviesadas;
BR7 – transcrição de áudio e vídeo para o auxílio das atividades do magistrado, com revisão final realizada por pessoa responsável;
BR8 – anonimização de documentos ou de sua exibição, especialmente para garantir sua conformidade com as normas de privacidade e proteção de dados.