La ley de Minnesota prohíbe, en determinadas circunstancias, la difusión de “deepfakes” con la intención de dañar a un candidato político o influir en el resultado de una opción. Los demandantes impugnan el estatuto basándose en la Primera Rectificación y solicitan medidas cautelares preliminares que prohíban su aplicación.
Con su memorando de respuesta en concurso a la moción de orden contencioso preliminar de los demandantes, el Fiscal Genérico Ellison presentó dos declaraciones de expertos… (incluida una) de Jeff Hancock, profesor de comunicación en la Universidad de Stanford y director del Laboratorio de Medios Sociales de Stanford. Las declaraciones generalmente ofrecen historial sobre la inteligencia químico (“IA”), los deepfakes y los peligros de los deepfakes para la liberación de expresión y la democracia…
El Fiscal Genérico Ellison admite que el profesor Hancock incluyó citas de dos artículos académicos inexistentes y citó incorrectamente a los autores de un tercer artículo. El profesor Hancock admite que utilizó GPT-4o para ayudarle a redactar su explicación pero, al revisarla, no pudo discernir que GPT-4o generaba citas falsas de artículos académicos.
La ironía. El profesor Hancock, un diestro acreditado en los peligros de la IA y la desinformación, ha sido víctima del canto de sirena de necesitar demasiado de la IA, en un caso que paseo en torno a los peligros de la IA, cero menos. El profesor Hancock ofrece una explicación detallada de su proceso de redacción para explicar con precisión cómo y por qué surgieron estas citas alucinadas por IA en su explicación. Y asegura a la Corte que defiende las proposiciones sustantivas de su explicación, incluso aquellas que están respaldadas por citas falsas. Pero, al final del día, incluso si los errores fueron un error inocente, e incluso si las proposiciones son sustancialmente precisas, el hecho es que el profesor Hancock presentó una explicación hecha bajo pena de perjurio con citas falsas.
Es particularmente preocupante para el Tribunal que el profesor Hancock normalmente valide las citas con un software de remisión cuando escribe artículos académicos, pero no lo hizo cuando presentó la Manifiesto de Hancock como parte de la presentación procesal de Minnesota. Cabría esperar que se prestara veterano atención a un documento presentado bajo pena de perjurio que a un artículo colegial. De hecho, el Tribunal esperaría una veterano diligencia por parte de los abogados, y mucho menos de un diestro en desinformación sobre IA en una de las instituciones académicas más reconocidas del país.
Para ser claros, el Tribunal no delito al profesor Hancock por utilizar la IA con fines de investigación. La IA, en muchos sentidos, tiene el potencial de revolucionar la habilidad jurídica para mejor. Ver Damián Riehl, AI + MSBA: Construyendo el futuro procesal de Minnesota81-octubre. Bench & Bar of Minn. 26, 30–31 (2024) (que describe los esfuerzos del Colegio de Abogados del Estado de Minnesota para explorar cómo la IA puede mejorar el entrada a la jurisprudencia y la calidad de la representación procesal). Pero cuando los abogados y expertos abdican de su seso independiente y sus habilidades de pensamiento crítico en auxilio de respuestas ya preparadas generadas por IA, la calidad de nuestra profesión jurídica y el proceso de toma de decisiones de la Corte se ven afectados.
De este modo, el Tribunal suma su voz al creciente coro de tribunales de todo el país que declaran el mismo mensaje: ¡verifique el contenido generado por IA en las presentaciones legales! Véase Mata contra Avianca, Inc.678 F. Suplente. 3d 443, 466 (SDNY 2023) (abogado sancionador por incluir citaciones legales falsas generadas por IA en una presentación); Park contra Kim91 F.4th 610, 614–16 (2d Cir. 2023) (abogado remitente para posible disciplina por incluir citaciones legales falsas generadas por IA en una presentación); Kruse contra Karlan692 SW3d 43, 53 (Mo. Ct. App. 2024) (desestimando la apelación porque el litigante presentó un escrito con múltiples citaciones legales falsas generadas por IA).
Sin duda, el Fiscal Genérico Ellison sostiene que su oficina no tenía idea de que la explicación del profesor Hancock incluía citaciones falsas, y el abogado del Fiscal Genérico se disculpó sinceramente en el argumento verbal por las citas falsas no intencionadas en la Manifiesto de Hancock. El Tribunal toma la palabra del Fiscal Genérico Ellison y aprecia su franqueza al rectificar el problema. Pero se recuerda a los abogados del Fiscal Genérico Ellison que la Regla Federal de Procedimiento Civil 11 impone una “responsabilidad personal e indelegable” de “validar la verdad y la razonabilidad procesal de los documentos presentados” en una batalla. El Tribunal sugiere que una “investigación regular dadas las circunstancias”, dijo la Fed. R. Civilización. P. 11(b), ahora puede exigir que los abogados pregunten a sus testigos si han utilizado IA en la redacción de sus declaraciones y qué han hecho para revisar cualquier contenido generado por IA.
La pregunta, entonces, es qué hacer con la Manifiesto de Hancock. El Fiscal Genérico Ellison solicita permiso para presentar una lectura enmendada de la Manifiesto de Hancock y argumenta que el Tribunal aún puede apoyarse en la Manifiesto de Hancock enmendada al pronunciarse sobre la moción de orden contencioso preliminar de los demandantes. Los demandantes parecen aceptar que el profesor Hancock está calificado para ofrecer una opinión experta sobre IA y deepfakes, y el Tribunal no cuestiona esa conclusión. Sin confiscación, los demandantes argumentan que la Manifiesto de Hancock debería excluirse en su totalidad y que el Tribunal no debería considerar una explicación enmendada. El Tribunal está de acuerdo.
La cita del profesor Hancock en su explicación de fuentes falsas generadas por IA, incluso con su explicación útil, exhaustiva y plausible, destruye su credibilidad frente a este Tribunal. Como exiguo, se supone que el certificación de los expertos es fiable. Más fundamentalmente, firmar una explicación bajo pena de perjurio no es una mera formalidad; más acertadamente, “alerta a los declarantes sobre la compostura de su compromiso y, por lo tanto, tiene un meta significativo sobre la verdad y la confiabilidad”. La Corte debería poder echarse en brazos en los “indicios de fiabilidad” que conllevan las declaraciones hechas bajo pena de perjurio, pero esa confianza se rompió aquí.
Por otra parte, citar fuentes falsas impone muchos daños, incluido “desperdiciar el tiempo y pasta de la parte contraria, el tiempo y los medios de la Corte, y daños a la reputación del sistema procesal (por nombrar algunos)”. Morgan contra CMTY. Contra la violencia2023 WL 6976510, en *8 (DNM 23 de octubre de 2023). Por lo tanto, los tribunales no hacen, ni deben, “hacer concesiones a una (parte) que cita autoridades falsas, inexistentes y engañosas”, particularmente en un documento presentado bajo pena de perjurio. Dukuray contra Experian Información. soles.2024 WL 3812259, en *11 (SDNY 26 de julio de 2024). Las consecuencias de citar fuentes falsas generadas por IA para abogados y litigantes son graves. Ver mata; Parque; Kruse. Esas consecuencias no deberían ser diferentes para un perito que ofrece certificación para ayudar al Tribunal bajo pena de perjurio.
Sin duda, el Tribunal no cree que el Profesor Hancock haya citado intencionalmente fuentes falsas, y el Tribunal elogia al Profesor Hancock y al Fiscal Genérico Ellison por asilar y encarar rápidamente los errores en la Manifiesto de Hancock. Pero el Tribunal no puede aceptar declaraciones falsas, inocentes o no, en la explicación de un perito presentada bajo pena de perjurio. En consecuencia, poliedro que los errores de la Manifiesto de Hancock socavan su competencia y credibilidad, el Tribunal excluirá la consideración del certificación pericial del profesor Hancock al atreverse la moción de medida cautelar preliminar de los demandantes.
