A controvérsia refere-se à admissão de "Relatório Técnico" produzido por investigador de polícia com a utilização de ferramentas de inteligência artificial generativa (Gemini e Perplexity) para ser utilizado como prova no processo penal, sem o crivo da racionalidade humana.
No caso, o contexto refere-se a imputação de injúria racial, ocorrida em estádio de futebol, em razão de o acusado ter supostamente chamado a vítima de "macaco", o que foi captado por um cinegrafista. Em relação às filmagens, foram providenciados laudos periciais do Instituto de Criminalística e pareceres técnicos. Consta da denúncia que a autoridade policial também solicitou a atuação do Centro de Inteligência Policial, sendo o vídeo submetido à análise por instrumentos de inteligência artificial.
De início, não há falar em ilicitude do relatório técnico produzido por inteligência artificial generativa, uma vez que, conforme destacado pelas instâncias ordinárias, não foram violadas normas de direito penal. Também não se observa ofensa à cadeia de custódia da prova, em especial, porque não se questiona o acautelamento dos vídeos analisados, mas apenas a análise destes por ferramenta de inteligência artificial generativa. Por fim, não há falar igualmente em ofensa ao art. 159 do Código de Processo Penal (CPP), porque não se trata de perícia, mas de mero documento.
Um dos riscos inerentes à utilização da inteligência artificial generativa é a alucinação, que consiste na apresentação de informações imprecisas, irreais ou fabricadas, porém com aparência de fidedignidade. Isso se deve especialmente ao fato de que não há consulta às bases de dados em tempo real, mas sim estruturação de respostas com base em padrões estatísticos extraídos do período de treinamento.
A situação em análise apresenta particularidade que torna ainda mais preocupante a utilização de tais ferramentas, pois o objeto de análise é o áudio constante de um vídeo. No entanto, a ferramenta utiliza-se de grandes modelos de linguagem, também conhecidos como LLMs (large language model), os quais processam textos e não ondas sonoras, não sendo adequados para análise fonética.
Outra particularidade relevante no caso é a efetiva existência de perícia técnica realizada nos vídeos pelo Instituto de Criminalística. A conclusão obtida foi no sentido de que, "[c]om base nos parâmetros técnicos da fonética forense e da acústica da fala, não se confirmaram [...] traços articulatórios compatíveis com o termo 'macaco'". Nada obstante, solicitou-se ao Centro de Inteligência da Delegacia a produção de relatório por meio de inteligência artificial generativa, no qual se concluiu que foi, sim, utilizada a palavra "macaco", sendo a referida conclusão utilizada na denúncia.
Nessa senda, é possível identificar certo viés de confirmação na atividade estatal que, além de não ter se contentado com a perícia oficial, a qual não identificou a palavra esperada, procedeu à análise por meio de ferramentas de inteligência artificial generativa, as quais não possuem respaldo científico. De fato, tanto a autoridade policial quanto o Ministério Público e o próprio Judiciário consideraram o juízo probabilístico da inteligência artificial não apenas suficiente, mas prevalente em relação a uma perícia realizada por órgão oficial.
Embora o Magistrado possa afastar as conclusões periciais, conforme lhe faculta o art. 182 do CPP, é imperativo que o faça mediante fundamentação idônea. Não se pode descurar, ademais, que os relatórios produzidos não constituem prova pericial, haja vista a inteligência artificial generativa ser mera geradora de conteúdo sintético. Nessa linha de intelecção, para se afastar ou mitigar a conclusão constante de perícia oficial, mister se faz a indicação de motivação técnico-científica idônea.
Na hipótese, a leitura da perícia oficial revela todo o raciocínio inferencial e técnico empregado, em oposição ao relatório simplista produzido pela inteligência artificial, quando instada a transcrever "fielmente, na íntegra, o áudio do vídeo". Cumpre recordar que referidas ferramentas, no presente momento, não processam ondas sonoras, não sendo, portanto, adequadas à análise fonética. Tem-se, dessa forma, a ausência de adequação epistêmica, diante da produção de documento que não encontra respaldo em regras científicas, técnicas ou de experiência, o que inviabiliza a extração de conclusão racional a respeito da hipótese fática.
Nessa linha de intelecção, constata-se que o "Relatório Técnico" produzido por investigador de polícia, com a utilização de ferramentas de inteligência artificial generativa (Gemini e Perplexity), não possui confiabilidade epistêmica mínima, não podendo ser utilizado como prova no processo penal.
A controvérsia refere-se à admissão de "Relatório Técnico" produzido por investigador de polícia com a utilização de ferramentas de inteligência artificial generativa (Gemini e Perplexity) para ser utilizado como prova no processo penal, sem o crivo da racionalidade humana.
No caso, o contexto refere-se a imputação de injúria racial, ocorrida em estádio de futebol, em razão de o acusado ter supostamente chamado a vítima de "macaco", o que foi captado por um cinegrafista. Em relação às filmagens, foram providenciados laudos periciais do Instituto de Criminalística e pareceres técnicos. Consta da denúncia que a autoridade policial também solicitou a atuação do Centro de Inteligência Policial, sendo o vídeo submetido à análise por instrumentos de inteligência artificial.
De início, não há falar em ilicitude do relatório técnico produzido por inteligência artificial generativa, uma vez que, conforme destacado pelas instâncias ordinárias, não foram violadas normas de direito penal. Também não se observa ofensa à cadeia de custódia da prova, em especial, porque não se questiona o acautelamento dos vídeos analisados, mas apenas a análise destes por ferramenta de inteligência artificial generativa. Por fim, não há falar igualmente em ofensa ao art. 159 do Código de Processo Penal (CPP), porque não se trata de perícia, mas de mero documento.
Um dos riscos inerentes à utilização da inteligência artificial generativa é a alucinação, que consiste na apresentação de informações imprecisas, irreais ou fabricadas, porém com aparência de fidedignidade. Isso se deve especialmente ao fato de que não há consulta às bases de dados em tempo real, mas sim estruturação de respostas com base em padrões estatísticos extraídos do período de treinamento.
A situação em análise apresenta particularidade que torna ainda mais preocupante a utilização de tais ferramentas, pois o objeto de análise é o áudio constante de um vídeo. No entanto, a ferramenta utiliza-se de grandes modelos de linguagem, também conhecidos como LLMs (large language model), os quais processam textos e não ondas sonoras, não sendo adequados para análise fonética.
Outra particularidade relevante no caso é a efetiva existência de perícia técnica realizada nos vídeos pelo Instituto de Criminalística. A conclusão obtida foi no sentido de que, "[c]om base nos parâmetros técnicos da fonética forense e da acústica da fala, não se confirmaram [...] traços articulatórios compatíveis com o termo 'macaco'". Nada obstante, solicitou-se ao Centro de Inteligência da Delegacia a produção de relatório por meio de inteligência artificial generativa, no qual se concluiu que foi, sim, utilizada a palavra "macaco", sendo a referida conclusão utilizada na denúncia.
Nessa senda, é possível identificar certo viés de confirmação na atividade estatal que, além de não ter se contentado com a perícia oficial, a qual não identificou a palavra esperada, procedeu à análise por meio de ferramentas de inteligência artificial generativa, as quais não possuem respaldo científico. De fato, tanto a autoridade policial quanto o Ministério Público e o próprio Judiciário consideraram o juízo probabilístico da inteligência artificial não apenas suficiente, mas prevalente em relação a uma perícia realizada por órgão oficial.
Embora o Magistrado possa afastar as conclusões periciais, conforme lhe faculta o art. 182 do CPP, é imperativo que o faça mediante fundamentação idônea. Não se pode descurar, ademais, que os relatórios produzidos não constituem prova pericial, haja vista a inteligência artificial generativa ser mera geradora de conteúdo sintético. Nessa linha de intelecção, para se afastar ou mitigar a conclusão constante de perícia oficial, mister se faz a indicação de motivação técnico-científica idônea.
Na hipótese, a leitura da perícia oficial revela todo o raciocínio inferencial e técnico empregado, em oposição ao relatório simplista produzido pela inteligência artificial, quando instada a transcrever "fielmente, na íntegra, o áudio do vídeo". Cumpre recordar que referidas ferramentas, no presente momento, não processam ondas sonoras, não sendo, portanto, adequadas à análise fonética. Tem-se, dessa forma, a ausência de adequação epistêmica, diante da produção de documento que não encontra respaldo em regras científicas, técnicas ou de experiência, o que inviabiliza a extração de conclusão racional a respeito da hipótese fática.
Nessa linha de intelecção, constata-se que o "Relatório Técnico" produzido por investigador de polícia, com a utilização de ferramentas de inteligência artificial generativa (Gemini e Perplexity), não possui confiabilidade epistêmica mínima, não podendo ser utilizado como prova no processo penal.