En 2015, l’idiot technologique Joshua Browder a fondé sa société DoNotPay.com depuis son dortoir à Stanford. L’histoire, peut-être apocryphe, était qu’il avait reçu tellement de contraventions de stationnement qu’il avait inventé un chatbot pour parcourir les ordonnances locales et interagir avec les autorités municipales.
“Je n’avais pas les moyens de payer ces contraventions quand j’étais jeune, alors je suis devenu un expert juridique sur toutes les raisons pour lesquelles les gens pouvaient se soustraire aux contraventions de stationnement”, a déclaré le fils du gestionnaire de fonds spéculatifs Bill Browder.
En peu de temps, le jeune Josh a été incité à abandonner ses études et à rejoindre la confrérie de Peter Thiel, composée de garçons très spéciaux auxquels les règles ne s’appliquent pas. Bientôt, il nageait dans des cuves remplies d’argent en capital-risque provenant de sociétés comme Andreessen Horowitz et Coatue Management. La pression était forte pour proposer la prochaine grande chose et leur prouver qu’ils avaient raison. Et ce qu’il a imaginé, c’est un chatbot IA qu’il a surnommé « le premier robot avocat au monde ».
“Les avocats facturent des centaines de dollars de l’heure pour copier et coller quelques documents, et notre vision chez DoNotPay est de rendre la loi gratuite”, indique le site Web, promettant avec désinvolture de générer des lettres de mise en demeure, des C&D pour diffamation, des règlements de divorce, des ordonnances de non-communication, fiducies, et même des poursuites devant la Cour des petites créances. La société DoNotPay de Browder facturait un abonnement mensuel pour accéder à son écurie de robots et, pour faire de la publicité, il a tweeté qu’il paierait un avocat pour porter un écouteur et laisser son robot plaider une cause devant la Cour suprême des États-Unis.
Il s’agissait peut-être d’une erreur stratégique, car elle a simultanément attiré l’attention de tous les avocats sur les réseaux sociaux et mis en évidence l’incompréhension totale de Browder du DROIT, COMMENT CELA SE PASSE ? Cela impliquait également que le jeune PDG se défonçait de sa propre offre, pour ainsi dire, et ne consultait aucun véritable avocat. (Alerte spoiler !)
Browder a rapidement battu en retraite, jurant qu’il essaierait de s’abstenir de pratiquer le droit sans permis, et se félicitant d’être si bon dans tout ce truc de PDG qu’il savait quand corriger son tir.
Mais alors qu’Internet s’est ennuyé et s’est égaré, la Federal Trade Commission ne l’a pas fait. Et ce matin, il a annoncé un règlement avec DoNotPay, dans lequel Browder a accepté que sa société paierait 193 000 $ et promettrait de ne plus pécher. On dirait qu’ils paient après tout !
Comme pour tout ce qui concerne Josh Browder, la plainte de la FTC est hilarante.
Et tandis que l’entreprise faisait des déclarations grandioses sur la qualité de son produit, DoNotPay n’a consulté aucun avocat qui aurait pu lui dire que les documents crachés par ses robots étaient dégueulasses.
DoNotPay n’a pas testé si les fonctionnalités juridiques du service fonctionnaient comme un avocat humain. DoNotPay a développé le service sur la base de technologies comprenant un modèle de traitement du langage naturel pour reconnaître les relations statistiques entre les mots, un logiciel de chatbot pour converser avec les utilisateurs et une interface de programmation d’application (« API ») avec ChatGPT d’OpenAI. Aucune des technologies du Service n’a été formée sur un corpus complet et actuel de lois, réglementations et décisions judiciaires fédérales et étatiques ou sur l’application de ces lois à des modèles de faits. Les employés de DoNotPay n’ont pas testé la qualité et l’exactitude des documents juridiques et des conseils générés par la plupart des fonctionnalités juridiques du Service. DoNotPay n’a pas employé d’avocats et n’a pas retenu les services d’avocats, encore moins d’avocats possédant l’expertise juridique appropriée, pour tester la qualité et l’exactitude des fonctionnalités juridiques du Service.
Mieux vaut tard que jamais, Browder a choisi de ne pas utiliser de robot pour interagir avec la FTC, mais a plutôt engagé l’avocat de Wilson Sonsini, qui l’a également représenté dans un recours collectif de consommateurs récemment réglé en Californie.
La FTC allègue que DoNotPay a fait de fausses déclarations et s’est livré à des actes ou pratiques déloyaux ou trompeurs en violation de l’article 5(a) de la Federal Trade Commission Act. Mais il est intéressant de noter que la présidente de la FTC, Lina Khan, et la commissaire Melissa Holyoak ont publié une déclaration commune suggérant que le véritable péché de Browder était de détruire la confiance des consommateurs dans le pouvoir de l’IA, notamment en ce qui concerne la génération de documents juridiques.
Pour que les consommateurs puissent bénéficier de l’IA (comme de toute technologie), ils doivent pouvoir faire confiance aux affirmations des entreprises concernant ses capacités. Il est important de noter que ce règlement ne suggère pas que les consommateurs devraient recourir à des services professionnels coûteux, ni que les entreprises devraient éviter de proposer des produits innovants qui réduisent le besoin de recourir à des avocats coûteux. Les méfaits de quelques pommes pourries ne devraient pas freiner l’innovation favorable aux consommateurs. En effet, nous espérons que l’IA donnera aux consommateurs accès à de nombreux types de services à moindre coût et avec une plus grande commodité que ce qui était auparavant disponible.
Comme l’a souligné le rédacteur en chef d’ATL, Joe Patrice, aucun avocat ne portera plainte devant un tribunal de la circulation, et disposer d’un outil d’IA fiable qui guide les gens normaux tout au long du processus et indique les défenses potentielles est un avantage net. Peut-être que le péché de Browder était de voler trop près du soleil. Ou peut-être qu’il est juste un imbécile de technologie à qui on a donné une montagne d’argent et qui a dit qu’il était plus intelligent que tout le monde, donc il n’avait pas besoin de suivre les règles, et il a eu ce qui lui arrivait.
Liz Dye vit à Baltimore où elle produit le sous-stack et le podcast Law and Chaos.
