Zanin abre investigação para apurar uso de comandos ocultos em recurso

O ministro Cristiano Zanin, do Supremo Tribunal Federal (STF), determinou, nesta sexta-feira (25), abertura de investigação para apurar o uso de inteligência artificial (IA) em uma tentativa de interferir em decisões da Corte. Esta foi a primeira tentativa de uso de comandos ocultos em uma petição para tentar enganar o sistema eletrônico do tribunal e conseguir uma decisão favorável a uma das partes.

O caso trata da aplicação de cotas raciais para o ingresso no Ministério Público de Minas Gerais.

Diante do episódio, Zanin, que é relator do processo, determinou que o fato seja comunicado à OAB, para análise de eventual infração ético-disciplinar, e ao MPF, para apurar eventual prática de crime. O ministro também fixou multa de dois salários mínimos por violação do dever legal processual.

A tentativa de fraude foi detectada por uma ferramenta de IA desenvolvida pelo setor de tecnologia da informação do próprio tribunal. O gabinete de Zanin foi comunicado do fato no início deste mês. Segundo a área técnica, foram inseridas na petição instruções ocultas, em letras brancas e de tamanho reduzido, com argumentos e comandos destinados a induzir ferramentas de IA a aceitar o recurso.

Ao ser informado do caso, o ministro esclareceu que seu gabinete não utiliza IA para analisar processos ou fundamentar decisões. Por isso, a tentativa não teve qualquer efeito sobre a análise do recurso, que já havia sido rejeitado por Zanin em agosto.

*Com informações da Agência Brasil