Falsas Verdades. O Impacto das Alucinações de IA nos Processos Judiciais Administrativos

Autores

  • Bárbara Magalhães Universidade Portucalense e Universidade do Minho
  • Fátima Matos

DOI:

https://doi.org/10.12957/redp.2025.90706

Resumo

A crescente integração da Inteligência Artificial (IA) no sistema jurídico português apresenta desafios significativos, sendo um dos mais preocupantes o fenómeno das "alucinações" de IA. Este problema ocorre quando os sistemas de IA geram informações aparentemente plausíveis, mas factualmente incorretas, podendo comprometer a segurança jurídica e a fiabilidade das decisões judiciais. A utilização destas ferramentas nos tribunais administrativos, levanta questões complexas quanto à sua credibilidade, ética e regulamentação, exigindo uma análise aprofundada dos seus impactos na justiça administrativa.

Com o presente estudo, pretendemos analisar as implicações das alucinações de IA, no âmbito do direito processual administrativo, apresentando casos concretos em que a confiança excessiva nas ferramentas automatizadas culminou em erros graves. A crescente dependência da IA para a análise e interpretação de documentos jurídicos, para a redação de peças processuais e para a prolação das decisões demonstra a necessidade urgente de estabelecer normas rigorosas que garantam a verificação e validação das informações geradas. Analisaremos também, a importância de definir um quadro regulatório adequado para mitigar os riscos associados à IA no sistema judicial. A clareza no papel dos juízes, advogados e demais operadores jurídicos na supervisão da tecnologia assume um papel fundamental, para evitar falhas no julgamento de processos. Torna-se essencial promover a literacia digital entre os profissionais do direito, permitindo-lhes avaliar criticamente os resultados gerados por sistemas de IA .Por fim, apresentam-se recomendações para um uso prudente e regulamentado da IA no ordenamento jurídico português. A implementação de diretrizes rigorosas pode contribuir para um equilíbrio entre inovação e segurança jurídica, garantindo que a adoção destas tecnologias respeite os princípios fundamentais da justiça e do devido processo jurídico.

Downloads

Publicado

2025-04-30

Como Citar

MAGALHÃES, Bárbara; MATOS, Fátima. Falsas Verdades. O Impacto das Alucinações de IA nos Processos Judiciais Administrativos. Revista Eletrônica de Direito Processual, Rio de Janeiro, v. 26, n. 2, 2025. DOI: 10.12957/redp.2025.90706. Disponível em: https://www.e-publicacoes.uerj.br/redp/article/view/90706. Acesso em: 1 maio. 2025.