Rechazaron una demanda por siniestro vial y en la apelación detectaron el uso de IA con “alucinaciones”

La Cámara de Apelaciones de General Roca confirmó el rechazo de una demanda por daños y perjuicios iniciada por una motociclista tras un siniestro vial ocurrido en Villa Regina, y realizó un llamado de atención a las abogadas intervinientes por el uso inadecuado de herramientas de Inteligencia Artificial Generativa (IAGEN).

En primera instancia, la jueza había desestimado la acción al considerar que la redacción del relato de los hechos era contradictoria, confusa e imprecisa, lo que impedía reconstruir con claridad cómo ocurrió el accidente.

El siniestro vial

El caso se originó a partir de un accidente ocurrido en la intersección de las calles Juan XXIII y Araucanos, donde una mujer que circulaba como acompañante en una motocicleta demandó al conductor de un automóvil Peugeot.

La demandante sostuvo que el vehículo intentó doblar a la izquierda de manera intempestiva, pero las pericias accidentológicas determinaron que la motocicleta intentó sobrepasar al automóvil justo antes de la esquina.

Una demanda con contradicciones

En su fallo, la jueza de grado señaló que el relato de la actora presentaba múltiples inconsistencias, al punto de que no quedaba claro si la mujer era conductora o acompañante del rodado.

Además, la sentencia advirtió que el escrito mencionaba calles inexistentes en la zona del hecho y describía daños que no coincidían con las pericias policiales.

“Resulta muy difícil dilucidar el relato de los hechos de la actora, pues se presenta contradictoria y confusa su redacción, lo que impide realizar una representación de cómo sucedieron los hechos”, señala la resolución, que incluso remarca que, según la propia narración, no habría existido contacto entre los vehículos.

La apelación y las “alucinaciones” de la IA

Al analizar la apelación, la Cámara detectó un hecho adicional: el escrito de expresión de agravios contenía citas de jurisprudencia y doctrina inexistentes, supuestamente dictadas por la Corte Suprema y el Superior Tribunal de Justicia de Río Negro.

Tras realizar verificaciones en los buscadores judiciales oficiales, se comprobó que los fallos citados no existían.

El tribunal concluyó que las letradas utilizaron herramientas de Inteligencia Artificial Generativa sin el debido control humano, incurriendo en lo que técnicamente se denomina “alucinaciones”, es decir, la generación de información falsa presentada como verdadera.

Advertencia a los profesionales

La Cámara recordó que el uso de IA no exime de responsabilidad profesional y realizó un llamado de atención a las abogadas intervinientes.

Además, advirtió que, conforme a la Acordada 22/2025 del Superior Tribunal de Justicia, el uso inadecuado de estas tecnologías puede dar lugar a sanciones correctivas.