Corte federal anula testimonio pericial con citas falsas generadas por IA en Kohls v. Ellison
🇺🇸 Panorama del caso Kohls v. Ellison
En el caso Kohls v. Ellison, un tribunal federal de Minnesota se enfrentó a una cuestión crucial: la fiabilidad del contenido generado con IA en documentos jurídicos. El asunto surgió cuando el fiscal general estatal, Keith Ellison, presentó una declaración pericial del profesor Jeff Hancock, experto de la Universidad de Stanford en desinformación y tecnología. Hancock utilizó GPT‑4o para redactar su informe, y este generó, sin supervisión, citas académicas falsas—dos estudios inventados por la IA y un tercero mal atribuido reddit.com+15reuters.com+15ppc.land+15.
Aunque Hancock asumió que las menciones “[cite]” introducidas serían luego verificadas, la IA reemplazó esas marcas con referencias ficticias que quedaron sin revisión antes de presentar la declaración en el tribunal bajo juramento .
🛑 Decisión judicial y fundamentos
El juez Laura Provinzino determinó que:
- Las citas inventadas destruyen la credibilidad del perito verrill-law.com+3reuters.com+3reddit.com+3.
- Se negó a aceptar una versión corregida del informe, y excluyó por completo la declaración de Hancock del caso reuters.com+2ppc.land+2law.justia.com+2.
- Recordó que la Regla 11 de la FRCP impone a los abogados una responsabilidad personal e intransferible de verificar la veracidad y razonabilidad legal de todo lo que se presenta ante el tribunal inkl.com+3law.justia.com+3lmick.com+3.
El tribunal enfatizó la “ironicidad” de que un experto en desinformación cayera víctima de la misma amenaza que advertía: la IA sin supervisión dechert.com+3reuters.com+3ppc.land+3.
📌 Lecciones jurídicas y operativas
- IA como apoyo, no reemplazo
Si bien los sistemas de IA pueden agilizar tareas como la generación de borradores, la supervisión humana sigue siendo esencial para asegurar la integridad de lo presentado . - Diligencia imperativa bajo penal de perjurio
La falta de verificación en documentos presentados bajo juramento puede ocasionar no solo la pérdida de credibilidad, sino también consecuencias disciplinarias y sanciones law.justia.com+1case-law.vlex.com+1. - Actualización del estándar profesional
Judicialmente se requiere ahora que los abogados consulten a los peritos sobre el uso de IA, y exijan evidencia de que todo contenido generado fue revisado y revisable inkl.com+2reason.com+2reddit.com+2. - Tendencia judicial: precedentes recientes
Tribunales en Nueva York, Misuri y otros lugares también han sancionado presentaciones con citas hallucinadas por IA reddit.com.
✍️ Recomendaciones para profesionales legales
| Acción recomendada | Descripción |
|---|---|
| Audita el contenido generado por IA | Verifica manualmente cada cita, estadística o afirmación |
| Solicita al perito transparencia sobre el uso de IA | Incluye en el contrato la obligación de informar y documentar cualquier aportación IA |
| Documenta el proceso de revisión | Conserva prompts, versiones previas y registros que respalden la verificación |
| Considera la revelación ante el tribunal | Sé proactivo acerca del uso de IA y cómo fue supervisado |
| Capacita a tu equipo | Fomenta la comprensión de las limitaciones de la IA y el riesgo de errores |