Estamos ante un claro ejemplo del peligroso uso que puede hacerse de la inteligencia artificial si no se cuenta con un mínimo conocimiento y preparación ante la misma, en un uso que incluso podría ser la diferencia entre una pena de prisión o la libertad.

Y un caso bastante sonado en las últimas horas es el de Michael Cohen, antiguo abogado de Donald Trump, que admite haber utilizado de forma accidental casos judiciales falsos generados por inteligencia artificial, en concreto por Google Bard.

En concreto Michael Cohen se sincera admitiendo que confió plenamente en la inteligencia artificial de Google Bard para citar casos judiciales falsos que habían sido generados simplemente por esta IA como ejemplo, pero que no existían.

Este documento legal terminó ante un juez federal, según informan desde The New York Times, y que se especifica que Cohen utilizó Bard de Google para realizar investigaciones después de confundirlo “con un motor de búsqueda súper avanzado”.

Ese documento era una moción que pedía el juez federal que acortara la duración de la libertad condicional  de tres años de Cohen, que se enfrenta a penas de prisión por evasión de impuestos y otros cargos.

El juez del distrito Jesse Furman, después de revisar el escrito de la carta, afirmó que ninguno de los casos presentados en la misma existe, y pidió al abogado de Michael Cohen, David Schwartz, que explicara por qué estos tres casos falsos estaban incluidos en la moción.

Ante tal revuelo, el propio Cohen presentó una declaración escrita diciendo que “no tenía intención de engañar al tribunal” y que utilizó Google Bard “para realizar una investigación legal”, enviando algunos de sus hallazgos a su abogado.

Cohen admite que no se dio cuenta de que esos casos citados por la IA “tenían el potencial de ser falsos” ni tampoco pensó que su propio abogado agregaría las citaciones a la moción sin confirmar que existían.  

“Como no soy abogado, no me he mantenido al día con las tendencias emergentes (y los riesgos relacionados) en la tecnología legal y no sabía que Google Bard era un servicio de texto generativo que, como Chat-GPT, podía mostrar citas y descripciones que parecían reales pero en realidad no lo fueron”, escribe Cohen. “En cambio, entendí que era un motor de búsqueda súper potente y lo había usado repetidamente en otros contextos para encontrar (con éxito) información precisa en línea”.