Arena Remix

Especialista aponta riscos no uso inadequado da IA em processos jurídicos e defende revisão humana e proteção rigorosa de informações.

Um alerta sobre o uso da inteligência artificial no campo jurídico,de acordo com o conteúdo, casos recentes indicam que sistemas de inteligência artificial têm sido utilizados na elaboração de peças jurídicas sem a devida verificação, pois em algumas situações, decisões e jurisprudências citadas não existiam, tendo sido geradas por sistemas automatizados que produziram informações plausíveis, porém incorretas.

Episódios desse tipo já foram registrados em estados como Paraná e São Paulo, além de países como Estados Unidos e Austrália, resultando em alertas e até punições a advogados.

Uso crescente da tecnologia no setor jurídico

A popularização da inteligência artificial generativa tem ampliado sua presença no cotidiano jurídico. Dados citados no material indicam que 77% dos profissionais do Direito utilizam a tecnologia com frequência. A pesquisa mencionada foi realizada pela Ordem dos Advogados do Brasil-Seção São Paulo (OAB SP), em parceria com instituições como Jusbrasil e o Instituto de Tecnologia e Sociedade do Rio, com divulgação pela revista Exame.

Segundo o advogado José de Souza Junior, diretor do Grupo RG Eventos, a inteligência artificial tem sido adotada como ferramenta de apoio para agilizar tarefas. No entanto, ele destaca que esses sistemas podem gerar “alucinações”, ou seja, respostas incorretas apresentadas como se fossem verdadeiras, especialmente quando não estão configurados de forma adequada.

Riscos na geração de informações jurídicas

O funcionamento dos modelos de linguagem é baseado na previsão de palavras em sequência, o que pode levar à criação de conteúdos tecnicamente estruturados, mas sem base real. No contexto jurídico, isso pode resultar na citação de decisões inexistentes, com linguagem formal e detalhada, dificultando a identificação do erro.

Além da questão técnica, o uso da inteligência artificial levanta preocupações relacionadas à confidencialidade de dados. O material destaca que advogados podem inserir informações sensíveis em plataformas de IA, incluindo dados de clientes, estratégias processuais e documentos ainda não apresentados à Justiça.

Sem a verificação adequada das políticas de uso dessas ferramentas, essas informações podem ser armazenadas ou utilizadas para o treinamento de sistemas, aumentando o risco de vazamentos e comprometendo a segurança das partes envolvidas.

Diretrizes e necessidade de adaptação profissional

O conteúdo também menciona que, em 2024, o Conselho Federal da OAB publicou a Recomendação 001/2024, que estabelece orientações para o uso da inteligência artificial na prática jurídica. Entre os pontos destacados estão a necessidade de verificação rigorosa das informações geradas, transparência com os clientes e a proibição de delegar integralmente atividades privativas da advocacia sem supervisão.

Apesar disso, o documento não possui força de lei, e relatos indicam que parte dos profissionais ainda não incorporou essas diretrizes à rotina de trabalho. Em alguns casos, houve delegação completa de tarefas à inteligência artificial sem revisão posterior.

Uso responsável e integração com análise humana

O especialista defende que a solução não está em restringir o uso da tecnologia, mas em promover uma adoção responsável, pois a inteligência artificial deve ser utilizada como ferramenta de apoio, e não como substituta do julgamento profissional.

Entre as recomendações, está a verificação das informações em fontes oficiais, como tribunais superiores, e a adoção de medidas como a anonimização de dados antes de inseri-los em sistemas automatizados.

Nesse cenário, a combinação entre tecnologia e análise humana é apontada como essencial para garantir a qualidade das informações e a segurança dos processos, especialmente em um ambiente jurídico cada vez mais impactado pela transformação digital.

Fonte: Dino / Folhapress