La inteligencia artificial y las alucinaciones
Por Mariano Miró y Daniela M. Celentano
SUMARIO: Mediante el artículo nos adentraremos en el mundo de la inteligencia artificial generativa (GAI) y sus "alucinaciones", desde un aspecto técnico y jurídico.
Se analiza el reciente fallo de la Sala II de la Cámara de Apelaciones en lo Civil y Comercial de Rosario en los autos Giacomino, César A. y otros c/ Monserrat, Facundo D. y otros s/ Daños y Perjuicios, donde un letrado citó jurisprudencia inexistente que le proporcionó la IA.
Finalmente, se plantean diferentes alternativas tendientes a mitigar las "alucinaciones".
Recientemente el artículo fue citado en un fallo de la Cámara de Apelaciones en lo Civil y Comercial 5 de Córdoba, EXPEDIENTE SAC: 12829614, en autos "BARRERA, VICTORIA ELIDA C/ CUEVAS, BLANCA RITA YOHANA - ACCIONES POSESORIAS/REALES - REIVINDICACION - TRAM.ORAL"
En el fallo cordobés, nuevamente, así como sucedió con el fallo Giacomino, un letrado citó jurisprudencia inexistente.
Del fallo de Cámara surge que "la recurrente al fundar el recurso presentado invocó precedentes jurisprudenciales, cuya existencia no ha podido ser verificada ...
que se trató de un error por el mal uso de los recursos y herramientas que ofrece la “Inteligencia Artificial” ...
Los deberes de diligencia, probidad y lealtad que enmarcan la buena fe que debe regir la conducta en el ejercicio de la abogacía (art. 83 CPCC), no admiten dispensa por el mal uso de la utilización de una herramienta tecnológica. ..."
El fallo se enfoca en uno de los conceptos claves desarrollados en el artículo: La reserva de humanidad.
"... la labor del letrado no puede –ni debe- ser sustituida por un algoritmo o herramienta; por el contrario, exige un control humano exhaustivo y una validación crítica de los resultados antes de utilizarlos o incorporarlos a una actuación profesional.
Este principio, conocido como "reserva de humanidad", garantiza que la IA sea un soporte y no un reemplazo del juicio profesional, siendo el abogado el responsable final por el contenido de las presentaciones que realiza en los procesos judiciales."
La sanción al letrado... Una mera recomendación. ¡La sacó barata!