La tecnología de IA no deja de maravillar pero también de causar controversia. El innovador ChatGPT ha servido para entretener y apoyar a muchos, pero su uso sigue siendo fuente de discusiones sobre la moralidad detrás de la mencionada herramienta y ahora ha ocurrido un curioso caso en Estados Unidos.
El abogado Steven Schwartz podría enfrentar sanciones tras utilizar ChatGPT para redactar un documento legal en un caso que se está llevando a cabo en un tribunal de Nueva York. La demanda presentada por un pasajero contra la aerolínea Avianca alega que sufrió una lesión al ser golpeado por un carrito de servicio durante un vuelo.
Según informó el medio The New York Times, Schwartz, quien representa al demandante, utilizó ChatGPT para elaborar un documento en el que se oponía a una solicitud de la defensa para desestimar el caso. El abogado citó varios casos judiciales en su presentación de diez páginas para respaldar sus argumentos. Sin embargo, no tardó en ser descubierto que estos supuestos precedentes legales citados en el documento en realidad habían sido completamente inventados por el conocido chatbot desarrollado por OpenAI.
El juez Kevin Castel calificó esta situación como inédita y expresó su sorpresa en una declaración reciente: “La Corte se encuentra ante una situación inédita. Una presentación remitida por el abogado del demandante en oposición a una moción para desestimar (el caso) está repleta de citas de casos inexistentes”.
El abogado tendrá una audiencia en junio para explicar porque no debe ser sancionado por sus acciones
Como consecuencia de esta situación, el juez Castel ha convocado una audiencia para el próximo 8 de junio, en la cual Schwartz deberá explicar por qué no debería ser sancionado por haber intentado utilizar precedentes completamente falsos en su presentación.
Pero, Schwartz complicó más aún su situación luego de presentar una declaración jurada admitiendo haber utilizado ChatGPT para preparar el escrito, y reconoció que la única verificación que realizó fue preguntar a la aplicación si los casos citados eran reales.
En su defensa, Schwartz argumentó que nunca antes había utilizado una herramienta de este tipo y que no era consciente de la posibilidad de que el contenido generado pudiera ser falso. El abogado dejó claro que no tenía ninguna intención de engañar al tribunal y exculpó por completo a otro abogado del bufete que también podría enfrentar posibles sanciones.