[ad_1]
Si vous avez déjà attrapé un ami en inventant une excuse créative pour être en retard, vous avez déjà rencontré la version humaine d’une «hallucination AI». Mensonges! Pure mensonges !! La différence? Votre ami peut éventuellement avouer. L’IA générative, en revanche, doublera avec la confiance d’un étudiant diplômé de Harvard et de notes de bas de page… de fausses notes de bas de page!
Un récent article d’Axios (4 juin 2025) nous rappelle que, malgré tout le battage médiatique, les modèles de grande langue (LLM) sont toujours sujets aux hallucinations. Ce sont des moments où les outils d’IA servent en toute confiance des informations fausses ou fabriquées, des citations ou même des précédents juridiques entiers répertoriant de vrais tribunaux, juges et avocats… mais complètement composé!
Avouons-le: la profession juridique repose sur des faits, un précédent et une confiance, pas sur des «faits alternatifs». Lorsque les outils AI hallucinent, les risques ne sont pas seulement embarrassants; Ils modifient potentiellement la carrière.
“Les fabricants d’IA pourraient faire plus pour limiter le penchant des chatbots pour” hallucinant “, ou inventer des choses, mais ils privilégient la vitesse et l’échelle à la place.” – Axios, 4 juin 2025
Damien Charlotin suit les décisions juridiques dans lesquelles les avocats ont utilisé des preuves qui présentaient des hallucinations d’IA. Sa base de données montre plus de 30 instances en mai 2025 seule!
Qu’est-ce qu’un avocat (ou quiconque utilise l’IA) pour faire?
Confiance, mais vérifiez: traitez chaque citation générée par l’AI comme un témoin douteux. Croyez-le à fond avant de le mettre sur le dossier. Définissez les attentes avec les clients. Expliquez que même si l’IA est un puissant outil de recherche, il n’est pas infaillible. Considérez-le comme un associé de première année très enthousiaste qui embellit parfois, pour le dire bien.
La ligne de fond
L’IA modifie la pratique du droit, mais ce n’est pas un substitut au jugement humain. Comme le dit Axios, “l’industrie continue de rappeler aux utilisateurs qu’ils ne peuvent pas faire confiance à tous les faits qu’un chatbot affirme.” Embrassons l’avenir, mais ne laissons pas l’IA écrire nos arguments de clôture… du moins, non sans vérification approfondie de faits.
Dernière mise à jour le 26 juin 2025
[ad_2]
Source link