Falsas Verdades. O Impacto das Alucinações de IA nos Processos Judiciais Administrativos - Magalhães, Bárbara; Matos, Fátima (Revista Eletrônica de Direito Processual, 2025)
A crescente integração da Inteligência Artificial (IA) no sistema jurídico português apresenta desafios significativos, sendo um dos mais preocupantes o fenómeno das "alucinações" de IA. Este problema ocorre quando os sistemas de IA geram informações aparentemente plausíveis, mas factualmente incorretas, podendo comprometer a segurança jurídica e a fiabilidade das decisões judiciais. A utilização destas ferramentas nos tribunais administrativos, levanta questões complexas quanto à sua credibilidade, ética e regulamentação, exigindo uma análise aprofundada dos seus impactos na justiça administrativa. Com o presente estudo, pretendemos analisar as implicações das alucinações de IA, no âmbito do direito processual administrativo, apresentando casos concretos em que a confiança excessiva nas ferramentas automatizadas culminou em erros graves. A crescente dependência da IA para a análise e interpretação de documentos jurídicos, para a redação de peças processuais e para a prolação das decisões demonstra a necessidade urgente de estabelecer normas rigorosas que garantam a verificação e validação das informações geradas. Analisaremos também, a importância de definir um quadro regulatório adequado para mitigar os riscos associados à IA no sistema judicial. A clareza no papel dos juízes, advogados e demais operadores jurídicos na supervisão da tecnologia assume um papel fundamental, para evitar falhas no julgamento de processos. Torna-se essencial promover a literacia digital entre os profissionais do direito, permitindo-lhes avaliar criticamente os resultados gerados por sistemas de IA .Por fim, apresentam-se recomendações para um uso prudente e regulamentado da IA no ordenamento jurídico português. A implementação de diretrizes rigorosas pode contribuir para um equilíbrio entre inovação e segurança jurídica, garantindo que a adoção destas tecnologias respeite os princípios fundamentais da justiça e do devido processo jurídico.