El magistrado David Lisandrello rechazó un reclamo confeccionado con herramientas como ChatGPT, al detectar que citaba normas inexistentes. Cursó un informe al Colegio de Abogados para analizar el fenómeno.
El Juez Civil y Comercial de Villa Constitución, David Lisandrello, dictó una resolución en la que cuestiona el uso «acrítico» de herramientas de inteligencia artificial, como ChatGPT o Gemini, en la elaboración de escritos judiciales. La medida se tomó luego de que el magistrado detectara que un abogado había presentado un reclamo basado en plazos y normas que no existen en el Código Procesal de Santa Fe.
En su resolución, Lisandrello explicó que los modelos de IA «no nativos para cuestiones jurídicas» suelen tener «comprobadas alucinaciones», es decir, inventan respuestas que suenan lógicas pero carecen de sustento legal. El juez señaló que el escrito presentado tenía una cadencia gramatical y construcción de frases típica de estos sistemas, lo que evidenciaba su origen.
«No se trata de una simple deficiencia argumental, sino de la introducción en el proceso de una premisa normativa inexistente», afirmó el magistrado, quien aclaró que su objetivo no es cuestionar la herramienta en sí, sino recordar que su uso no debe implicar un abandono del control profesional previo a todo acto jurídico.
Lisandrello ordenó que la decisión sea comunicada a la Delegación del Colegio de Abogados de Villa Constitución y, por su intermedio, al Directorio del Colegio de Abogados de Rosario, para que los institutos, comisiones y el Tribunal de Ética tomen conocimiento de esta nueva problemática.
Este caso se suma a otro reciente en la Cámara de Apelaciones de Rosario, donde el juez Oscar Puccinelli confirmó un fallo pero incluyó una advertencia formal a un abogado por citar jurisprudencia inexistente generada por IA. Si bien no hubo sanción, el magistrado destacó la necesidad de prevenir que estas situaciones se generalicen.
La presidenta del Instituto de Inteligencia Artificial Aplicado al Derecho en Rosario, Claudia Guardia, consideró que el fallo de Puccinelli fue «muy controvertido» en sus efectos, ya que el profesional involucrado actuó de buena fe y su error no modificó el resultado favorable del proceso.