Interrogé par le juge, le chatbot avait moins confiance dans son résultat que le témoin expert qui l’a utilisé

Accueil Actualités Quotidiennes Interrogé par le juge, le chatbot a eu moins confiance…

Technologie

Interrogé par le juge, le chatbot avait moins confiance dans son résultat que le témoin expert qui l’a utilisé

Par Debra Cassens Weiss

16 octobre 2024, 14 h 24 HAC

Lorsqu’il a été confronté à la preuve qu’un témoin expert avait utilisé un chatbot pour vérifier les calculs de valeur perdue, un juge du comté de Saratoga, dans l’État de New York, a décidé d’interroger la source.

« Vos calculs sont-ils suffisamment fiables pour être utilisés au tribunal ? » Le juge new-yorkais Jonathan Schopf a demandé à Microsoft Copilot, un chatbot à intelligence artificielle générative.

« Lorsqu’il s’agit de questions juridiques », a répondu le chatbot, « tous les calculs ou données doivent répondre à des normes strictes. Je peux fournir des informations précises, mais elles doivent toujours être vérifiées par des experts et accompagnées d’évaluations professionnelles avant d’être utilisées devant un tribunal.

Schopf a également demandé à Microsoft Copilot de calculer la valeur de 250 000 $ investis dans le Vanguard Balanced Index Fund du 31 décembre 2004 au 31 janvier 2021. Il a posé la question sur trois ordinateurs différents et a obtenu trois réponses différentes : 949 070 $, 948 209 $ et 951 000 $.

Ars Technica a couvert la décision de Schopf du 10 octobre.

Schopf « a découvert que Copilot avait moins confiance dans ses résultats que [the expert witness] apparemment l’a fait », a conclu Ars Technica.

L’expert a témoigné au nom d’un bénéficiaire de la fiducie qui a déclaré qu’un bien locatif des Bahamas aurait dû être vendu comme actif successoral en 2004, plutôt que par le fiduciaire en janvier 2022. Pendant cette période, le fiduciaire, la tante du bénéficiaire, s’était parfois rendu sur place. , alliant entretien et usage de vacances.

La propriété s’est vendue 485 000 $ en 2022, soit un montant net de 323 721 $ après pertes d’exploitation. Le fils avait soutenu qu’il aurait pu investir le produit de la vente si la propriété avait été vendue plus tôt.

Citant les problèmes de manque de fiabilité inhérents à l’IA, Schopf a conclu que les avocats ont le devoir de divulguer son utilisation et les preuves qu’elle a générées. Les tribunaux devraient alors tenir une audience pour déterminer si les preuves peuvent être admises sur la base d’une acceptation générale dans le domaine concerné.

Schopf a commenté l’utilisation du chatbot, tout en affirmant que le fils n’avait pas réussi à prouver que sa tante avait manqué à ses obligations fiduciaires. Et si elle avait manqué à ses obligations, le fils n’a pas réussi à prouver le préjudice, a déclaré le juge.

Ars Technica s’est entretenu avec Eric Goldman, un expert en droit de l’Internet, qui a déclaré à la publication que les avocats retenaient des témoins experts pour leur expertise spécialisée.

“Cela n’a aucun sens pour un témoin expert de sous-traiter cette expertise à l’IA générative”, a déclaré Goldman.

L’affaire est l’affaire Weber.