Río Negro: tribunal anuló honorarios a abogados por fallos inexistentes generados con IA
Un fallo de la Cámara Civil de Roca encendió la alarma sobre el uso de inteligencia artificial en el ámbito judicial. Durante la revisión de una apelación en una causa civil, el tribunal detectó 26 fallos inexistentes en escritos presentados por dos abogados: 20 de ellos en representación de un cliente y 6 en el escrito de la concesionaria DMX2 S.A., representante oficial de Peugeot.
La pesquisa reveló que ninguna de las citas podía ser verificada en la Biblioteca del Poder Judicial ni en los registros del Superior Tribunal de Justicia de Río Negro. Ante esta situación, se requirió a los abogados que indicaran el origen de las supuestas referencias.
Las explicaciones no convencieron. Uno de los letrados atribuyó el problema a un “error material de pluma o redacción”, mientras que el otro mencionó dificultades para acceder a la revista doctrinaria consultada y pidió retirar las citas.
Posible uso de inteligencia artificial
La Cámara sostuvo que, aunque los abogados no lo admitieron expresamente, es probable que hayan recurrido a herramientas de inteligencia artificial generativa para redactar sus escritos. Y fue más allá: aclaró que, en caso de que las citas hubieran sido directamente inventadas por los profesionales, la conducta sería “aún más grave” al intentar inducir a error al tribunal.
Los jueces remarcaron que el uso de chatbots de IA generativa puede ser un apoyo útil, pero advirtieron que sus resultados deben cotejarse siempre, porque pueden incluir las llamadas “alucinaciones”, es decir, fuentes inexistentes.
Resolución y advertencias
La Cámara Civil resolvió anular la intervención de los letrados en la instancia, dejar sin efecto el pago de honorarios y remitir el caso al tribunal de ética del Colegio de Abogados de Roca. Además, emitió un severo llamado de atención a los profesionales, recordando que la práctica legal debe ajustarse a un control humano riguroso y a los estándares éticos de la abogacía.
La resolución también fue enviada al Colegio de Abogados para promover acciones preventivas y concientizar sobre los riesgos de incorporar herramientas de IA en el trabajo jurídico sin protocolos de validación.
El caso original
El conflicto de fondo surgió a partir de la demanda de un vecino de Roca contra Peugeot Citroën Argentina S.A. y su concesionaria oficial DMX2 S.A. por un vehículo 0 km de alta gama que presentó múltiples fallas mecánicas y electrónicas desde los primeros kilómetros.
En primera instancia, la justicia declaró la responsabilidad solidaria de ambas empresas, ordenó la devolución del valor actualizado del vehículo, reconoció daño moral e impuso un daño punitivo por trato indigno. La discusión pasó a segunda instancia, donde surgió el problema con los fallos inexistentes presentados en los escritos de apelación.
Finalmente, la Cámara confirmó la mayoría de los puntos de la sentencia, con una modificación en la cuantía del daño moral. Sin embargo, el foco quedó puesto en la responsabilidad profesional en la era digital, y en cómo el uso de inteligencia artificial exige control humano y marcos éticos claros.