La Cámara de Apelaciones de Roca confirmó el rechazo de una demanda por daños tras un siniestro vial en Villa Regina y realizó un severo llamado de atención a las abogadas por citar jurisprudencia inexistente, producto de “alucinaciones” de la inteligencia artificial. El fallo alerta sobre el riesgo de afectar derechos de los justiciables con sanciones o penas injustas y exige controles estrictos del Poder Judicial sobre estas nuevas tecnologías.
La Cámara de Apelaciones de Roca ratificó el rechazo de la demanda por daños y perjuicios iniciada por una motociclista tras un siniestro vial en Villa Regina y dejó al descubierto un hecho de extrema gravedad institucional: en la apelación se citaron fallos inexistentes de la Corte Suprema y del Superior Tribunal de Justicia de Río Negro, generados por herramientas de Inteligencia Artificial utilizadas sin control humano. El órgano judicial advirtió que este tipo de prácticas no solo vulneran la ética profesional, sino que ponen en serio riesgo la seguridad jurídica y los derechos de quienes acuden a la Justicia.
Según la resolución, las abogadas incurrieron en el uso negligente de Inteligencia Artificial Generativa (IAGEN), lo que derivó en las llamadas “alucinaciones”, es decir, la creación de información falsa con apariencia de veracidad. La Cámara enfatizó que estas tecnologías solo pueden ser herramientas auxiliares y que su utilización no exime de responsabilidad profesional. Por el contrario, su empleo irreflexivo puede terminar afectando directamente a los justiciables, que podrían recibir sanciones, rechazos de demandas o incluso penas injustas basadas en datos inexistentes.
El caso se originó en un siniestro vial ocurrido en la intersección de Juan XXIII y Araucanos, en Villa Regina. Una mujer, que circulaba como acompañante en una motocicleta, demandó al conductor de un automóvil Peugeot, al que acusó de girar intempestivamente hacia la izquierda. Sin embargo, las pericias determinaron que fue la moto la que intentó sobrepasar al vehículo justo antes de llegar a la esquina.
En primera instancia, la jueza rechazó la demanda al advertir graves contradicciones y falta de claridad en el relato de la actora. Incluso no quedaba claro si la mujer era conductora o acompañante. Además, el escrito mencionaba calles inexistentes en la zona y describía daños que no coincidían con las pericias policiales.
“Resulta muy difícil dilucidar el relato de los hechos de la actora, pues se presenta contradictoria y confusa su redacción”, sostuvo la magistrada, agregando que de la propia exposición no surgía siquiera un contacto entre los vehículos.
Al revisar la apelación, la Cámara detectó un hecho aún más alarmante: las abogadas citaron jurisprudencia y doctrina falsas. Tras un control exhaustivo en los buscadores oficiales, se comprobó que los precedentes atribuidos a la Corte Suprema y al Superior Tribunal de Justicia de Río Negro no existían en ningún registro judicial. Eran, literalmente, fallos “inventados”.
El tribunal concluyó que se había utilizado inteligencia artificial generativa sin el debido control humano, configurando un ejemplo claro de los riesgos que implica delegar tareas sensibles en sistemas automáticos sin verificación. Por ello, realizó un “llamado de atención” formal a las letradas y recordó que, según la Acordada 22/2025 del STJ, el uso inadecuado de IA puede dar lugar a sanciones correctivas.
Más allá del caso puntual, el fallo abre una discusión de fondo que el Poder Judicial no puede eludir: el uso de inteligencia artificial en procesos judiciales sin protocolos estrictos y controles efectivos puede derivar en decisiones injustas, sanciones erróneas y vulneraciones graves de derechos. La tecnología, lejos de ser neutral, puede amplificar errores cuando es utilizada de manera irresponsable.
La advertencia es clara: si no se establecen mecanismos firmes de supervisión, capacitación y regulación del uso de IA en el ámbito judicial, el riesgo no será solo profesional o disciplinario. Estará en juego la confianza pública en la Justicia y, lo que es más grave, la garantía de que nadie sea juzgado, sancionado o perjudicado en base a información falsa generada por una máquina.
Con información de la Dirección de Comunicación Judicial – Poder Judicial de Río Negro
