Un informe elaborado por la Policía Civil de São Paulo utilizando las herramientas de inteligencia artificial (IA) Gemini y Perplexity, en 2025, fue rechazado como prueba por el Tribunal Superior de Justicia (STJ). La decisión fue la primera posición del tribunal en casos como este y sienta un precedente para la justicia.
La falta de confirmación de los expertos pesó mucho en la decisión del ministro Reynaldo Soares da Fonseca. La causa juzgó la acusación de delito racial, que según la fiscalía fue hecha por el vicealcalde de São José do Rio Preto, Fábio Marcondes, a un guardia de seguridad del Palmeiras, durante un partido entre el equipo local, Mirassol, y el equipo en febrero del año pasado. La principal prueba de la acusación fue un informe basado en análisis realizados por AI.
Un video de la discusión entre Marcondes y el guardia de seguridad fue analizado por el equipo forense oficial del Instituto de Criminalística, que no confirmó la presencia de la palabra en el audio.. Según el informe, basado en análisis técnicos fonéticos y acústicos, no se identificaron rasgos articulatorios compatibles con el término mencionado en la acusación.
Los investigadores utilizaron herramientas de inteligencia artificial para analizar el contenido del video. El informe que produjeron estas herramientas nos permitió concluir que la expresión ofensiva ocurrió. El documento fue la base para la presentación de la denuncia por parte del Ministerio Público de São Paulo, en agosto de 2025.
Según el fiscal José Silvio Codogno, el insulto fue proferido luego de que la víctima le pidió al hijo del vicealcalde que se alejara del lugar por donde pasarían los deportistas del Palmeiras, cuando salían del Estadio Municipal José María de Campos Maia hacia el autobús que los esperaba en el estacionamiento. El MP informó que, según los registros, a Marcondes no le gustó ver a su hijo reprendido por el guardia de seguridad, comenzando a discutir con el hombre y lanzarle una serie de insultos. Para Codogno, el acusado “perpetró un insulto racial, afectando el honor subjetivo de la víctima”.
Al analizar el caso, el relator de la Quinta Sala, Reynaldo Soares da Fonseca, evaluó la cuestión de la admisibilidad de ese tipo de material como prueba. Entendió que el problema no era la legalidad de la obtención del informe ni un presunto delito contra la cadena de custodia de las pruebas, pero cuestionó si este tipo de herramientas eran confiables para sustentar una acusación penal, aceptando la defensa de Marcondes.
“Uno de los riesgos inherentes al uso de la inteligencia artificial generativa es la alucinación, que consiste en la presentación de información inexacta, irreal o fabricada, pero con apariencia de confiabilidad”, comentó Fonseca en su decisión.
El ministro también señaló las limitaciones técnicas de la IA generativa y destacó que estos sistemas operan en base a probabilidades y patrones estadísticos, y pueden producir información incorrecta que parece cierta.
En consecuencia, la Sala Quinta ordenó excluir el informe del expediente y estableció que el magistrado deberá tomar una nueva decisión sobre la admisibilidad de la acusación, sin tomar en cuenta el documento.
