Ciencia y Tecnología
La acusación usó IA, la defensa usó IA: la jueza canceló el juicio y les puso una multa
La abogacía es una de las profesiones que abrazó el uso de la IA generativa antes incluso de que llegara el boom de ChatGPT. Hemos conocido casos de abogados sancionados por incluir citas falsas, pero eso no ha disuadido a otros de hacer lo mismo. El último caso que hemos conocido lo lleva a un nuevo nivel: tanto la acusación como la defensa usó IA y la jueza dijo basta.
Qué ha pasado. Ha sucedido en Mississippi, Estados Unidos. El caso en cuestión iba sobre un abogado, llamado Tom Withers, que reclamaba a la ciudad de Aberdeen unos honorarios legales impagados. Según cuentan en 404media, todo iba bien hasta que la jueza notó que había algo raro en los escritos presentados por los abogados de ambas partes: los dos citaban casos que no existían. Vamos, que habían usado IA y ni se habían parado a comprobar que hubiera imprecisiones.
Consecuencias. Los abogados reconocieron haber usado IA sin haber verificado los resultados. La jueza Sharion Aycock no sólo decidió suspender el juicio, también inhabilitó a dos de los cuatro abogados implicados para que no pudieran comparecer ante su tribunal en dos años. Los demás no se libraron y todos recibieron una multa que ha ido entre 1.000 y 3.500 dólares. Withers, el abogado demandante, no se representaba a sí mismo, por lo que se ha librado de la sanción.
Por qué es importante. Este caso representa una tendencia cada vez más habitual en el sector legal. Ya son muchos los abogados pillados usando IA, pero además esta vez lo lleva a un nuevo nivel porque todas las partes han caído en la tentación. Tal y como decía el abogado Rob Freund en X, "había dos clientes que básicamente estaban pagando para que ChatGPT discutiera consigo mismo".
En España también. En Estados Unidos ya se han registrado decenas de casos, pero no es una tendencia exclusiva de allí. Hace apenas unos días, el Tribunal Superior de Justicia de Galicia inició una investigación contra un abogado por "mala fe procesal". Al parecer, el recurso que presentó contenía nada menos que "24 citas jurisprudenciales falsas". No ha sido el único, a principios de año un abogado fue multado con 420 euros en Canarias por citar 48 sentencias falsas.
Las alucinaciones. Siguen siendo el Talón de Aquiles de los LLM y tienen mucho que ver con cómo están entrenados: los modelos siempre priorizan dar una respuesta, aunque ésta sea inexacta. Hay formas de minimizar las alucinaciones, pero a estas alturas todos conocemos estas debilidades, por eso resultan tan llamativos estos casos. Lo grave no es que los abogados estén usando IA, sino que algunos lo hagan sin ningún tipo de verificación. Eso sí, se desconoce que herramientas usaron, pero existen herramientas IA específicas para abogados que prometen una mayor fiabilidad.
Imagen | Xataka con Gemini
–
La noticia
La acusación usó IA, la defensa usó IA: la jueza canceló el juicio y les puso una multa
fue publicada originalmente en
Xataka
por
Amparo Babiloni
.
La abogacía es una de las profesiones que abrazó el uso de la IA generativa antes incluso de que llegara el boom de ChatGPT. Hemos conocido casos de abogados sancionados por incluir citas falsas, pero eso no ha disuadido a otros de hacer lo mismo. El último caso que hemos conocido lo lleva a un nuevo nivel: tanto la acusación como la defensa usó IA y la jueza dijo basta.
Qué ha pasado. Ha sucedido en Mississippi, Estados Unidos. El caso en cuestión iba sobre un abogado, llamado Tom Withers, que reclamaba a la ciudad de Aberdeen unos honorarios legales impagados. Según cuentan en 404media, todo iba bien hasta que la jueza notó que había algo raro en los escritos presentados por los abogados de ambas partes: los dos citaban casos que no existían. Vamos, que habían usado IA y ni se habían parado a comprobar que hubiera imprecisiones.
En Xataka
Las alucinaciones de la IA están afectando a un sector muy concreto: el de los bibliotecarios
Consecuencias. Los abogados reconocieron haber usado IA sin haber verificado los resultados. La jueza Sharion Aycock no sólo decidió suspender el juicio, también inhabilitó a dos de los cuatro abogados implicados para que no pudieran comparecer ante su tribunal en dos años. Los demás no se libraron y todos recibieron una multa que ha ido entre 1.000 y 3.500 dólares. Withers, el abogado demandante, no se representaba a sí mismo, por lo que se ha librado de la sanción.
Por qué es importante. Este caso representa una tendencia cada vez más habitual en el sector legal. Ya son muchos los abogados pillados usando IA, pero además esta vez lo lleva a un nuevo nivel porque todas las partes han caído en la tentación. Tal y como decía el abogado Rob Freund en X, "había dos clientes que básicamente estaban pagando para que ChatGPT discutiera consigo mismo".
En España también. En Estados Unidos ya se han registrado decenas de casos, pero no es una tendencia exclusiva de allí. Hace apenas unos días, el Tribunal Superior de Justicia de Galicia inició una investigación contra un abogado por "mala fe procesal". Al parecer, el recurso que presentó contenía nada menos que "24 citas jurisprudenciales falsas". No ha sido el único, a principios de año un abogado fue multado con 420 euros en Canarias por citar 48 sentencias falsas.
Las alucinaciones. Siguen siendo el Talón de Aquiles de los LLM y tienen mucho que ver con cómo están entrenados: los modelos siempre priorizan dar una respuesta, aunque ésta sea inexacta. Hay formas de minimizar las alucinaciones, pero a estas alturas todos conocemos estas debilidades, por eso resultan tan llamativos estos casos. Lo grave no es que los abogados estén usando IA, sino que algunos lo hagan sin ningún tipo de verificación. Eso sí, se desconoce que herramientas usaron, pero existen herramientas IA específicas para abogados que prometen una mayor fiabilidad.
Imagen | Xataka con Gemini
En Xataka | "Son cosas por las que un universitario se metería en un lío": Deloitte timó a Australia con un informe hecho con IA
– La noticia
La acusación usó IA, la defensa usó IA: la jueza canceló el juicio y les puso una multa
fue publicada originalmente en
Xataka
por
Amparo Babiloni
.
