Observatório Jurídico

Atualidades

TJBA encaminha à OAB-BA caso de possível manipulação de IA em processo criminal

O Tribunal de Justiça da Bahia identificou e encaminhou à OAB-BA uma possível tentativa de manipulação de inteligência artificial em processo criminal, por meio de comandos ocultos inseridos em petição de defesa.

O Tribunal de Justiça da Bahia (TJBA) encaminhou à Ordem dos Advogados do Brasil – Seção Bahia (OAB-BA) um caso envolvendo uma possível tentativa de manipulação de ferramentas de inteligência artificial utilizadas no âmbito do Judiciário. A situação foi detectada pelo Desembargador Baltazar Miranda Saraiva durante a análise de uma apelação criminal na 2ª Turma da Primeira Câmara Criminal.

O magistrado identificou comandos ocultos inseridos nas alegações finais da defesa, apresentados em linhas brancas para não serem percebidos na leitura convencional. Esses comandos, conhecidos como prompt injection, tinham o objetivo de influenciar a ferramenta de inteligência artificial do TJBA, chamada Elos IA, a apresentar uma decisão favorável ao réu, além de manter o comando em sigilo.

O Elos IA é uma ferramenta disponibilizada pelo TJBA para apoiar a elaboração de despachos e preparação de votos, que inclui funcionalidades para detectar tentativas de inserção de comandos ocultos. Ao constatar a irregularidade, o Desembargador determinou o registro do episódio nos autos e a expedição de ofício à OAB-BA para que avalie a possível infração ética disciplinar do advogado responsável.

O encaminhamento não implica conclusão sobre a conduta do profissional, mas submete o caso à avaliação da entidade competente. O Desembargador ressaltou que o uso da inteligência artificial deve ser um instrumento de apoio à atividade jurisdicional, auxiliando na organização de informações e análise documental, jamais substituindo o raciocínio jurídico ou a capacidade crítica do julgador.

Além disso, destacou que a medida não pretende restringir o uso da inteligência artificial pela advocacia, que pode contribuir para a pesquisa e eficiência do trabalho jurídico, mas sim coibir o uso de expedientes ocultos que interfiram nos sistemas do Poder Judiciário. O episódio reforça a importância de estabelecer limites, responsabilidades e mecanismos de segurança no uso da inteligência artificial, bem como a observância dos deveres de responsabilidade e boa-fé pelos profissionais que utilizam essas tecnologias.

Com essa ação, o TJBA reafirma seu compromisso com a transparência, segurança e integridade da atividade jurisdicional diante dos desafios trazidos pela inovação tecnológica.

Fonte: Tribunal de Justiça da Bahia — Notícias

Participe da conversa

Comente com respeito ao tema. Seu nome público aparecerá junto ao texto; evite compartilhar dados pessoais ou detalhes sigilosos de processos.

Entrar e concluir inscrição gratuita

Carregando comentários...