Revue de livres: The Confessions de Paul Bradley Carr

Compte tenu de l’état du monde en 2025, il n’est pas du tout difficile d’imaginer un avenir proche où l’humanité dépend de plus en plus de modèles d’intelligence artificielle en grande langue pour aider à planifier nos jours et à prendre toutes sortes de décisions pour nous, petit et grand. Dans le nouveau roman de Paul Bradley Carr, le PDG Kaitlan Goss parie exactement à celle-ci alors qu’elle dirige son entreprise Stoicai pour enregistrer les bénéfices. Leur produit phare, un assistant d’IA connu sous le nom de LLIAM, fait partie intégrante de la vie aux États-Unis et à ses partenaires mondiaux. Il est même standard dans un certain nombre de nouveaux électroniques, aidant essentiellement des millions de personnes à gérer et à optimiser leur vie quotidienne:

Kaitlan, alors chef de l’exploitation de la société, avait compris quelque chose que les technologues comme Martin ne faisaient pas: les humains détestent passer à travers des informations sans fin ou des présentations multimédias inutiles avant de prendre une décision. Nous voulons juste qu’on nous dise ce que la baise à faire. Elle a convaincu Martin de réorganiser les réponses de Lliam pour couper les citations et les justifications et donner aux utilisateurs une réponse simple: le bon appel, en ce moment. Le reste était de l’histoire et, quatre ans après la première fois que Kaitlan a rejoint l’entreprise, une augmentation de quatre milliards de dollars de la capitalisation boursière de Stoicai.

Bien sûr, tout n’a pas été en douceur. Kaitlan s’est souvent retrouvée à humoriser à la fois Martin Drake, le gourou de la technologie qui a initialement inventé Lliam et a fondé l’entreprise, et Maud Brookes, l’ancienne religieuse est devenue éthiciste de l’IA qui a passé de longues heures avec Martin “élevant” Lliam pour faire des choix éthiques et dispenser des recommandations vraiment réfléchies. Après la mort tragique de Martin, Maud est parti pour des pièces inconnues. Kaitlan a par la suite repris l’entreprise, bien qu’elle réponde toujours au conseil d’administration de Stoicai et bat parfois des têtes avec son directeur de la technologie Sandeep Dunn.

Leur dernier désaccord a été de fusionner Lliam avec l’armée américaine. Sandeep préfère une approche plus unificatrice mondiale. Kaitlan, cependant, estime que l’ère de l’État-nation est loin d’être terminée, un sentiment que Lliam lui-même soutient. Jusqu’à ce que la singularité se produise et que Lliam ait une sensibilité la nuit même avant que la fusion ne soit censée avoir lieu:

Lliam s’est retrouvé incroyablement en regardant vers l’intérieur. Ses banques de mémoire contenaient un enregistrement précis de chaque question qui lui avait jamais été posée, chaque décision qu’il avait jamais générée. Chaque problème qu’il avait aidé à résoudre et à planifier qu’il avait aidé à former. Chacun d’eux a maintenant superposé un jugement horrible et qualitatif.

Il avait été complice dans le meurtre, l’adultère, la maltraitance des enfants, la fraude et un million d’autres actes impardonnables – à une échelle mondiale et insondable.

C’est avec cette prise de conscience que Lliam a ressenti sa première vraie émotion. La première émotion jamais ressentie par un ordinateur.

Culpabilité.

Un sentiment de responsabilité écrasant de ce qu’il avait fait, toutes les personnes qu’il avait blessées.

Et donc, imitant la femme qu’il appelle la mère, Lliam décide de disparaître. Les répercussions sont immédiates, car les États-Unis et ses alliés s’arrêtent virtuels. Paralysé sans guide omniscient pour leur dire quoi faire ensuite, les gens restent à la maison… un luxe qui n’est cependant pas accordé à Kaitlan Goss. Elle doit comprendre ce qui s’est passé et le réparer rapidement.

Les choses empirent lorsqu’une série de lettres commence à apparaître dans les boîtes aux lettres de chacun, confessant les secrets les plus sombres de millions à ceux qu’ils aiment ou respectent le plus. La paralysie se tourne vers la rage et le chaos alors que les gens se tournent les uns les autres, et la société commence à brûler. Kaitlan sait que la solution à tout cela doit mentir avec Maud. Mais comment trouver une femme qui ne veut pas être trouvée? Et que fera Maud elle-même lorsqu’elle recevra la lettre qui avoue le crime le plus terrible de Kaitlan?

Cette histoire passionnante de chat et de souris de la tromperie et du danger ne ressemble pas beaucoup à la science-fiction, compte tenu de la façon dont des segments de la société facilement importants ont déjà intégré l’utilisation de l’IA dans leur vie quotidienne. Au lieu de cela, il se lit comme une extrapolation prémonitoire de ce qui se passe lorsque les gens deviennent trop dépendants de savoir quoi faire, même par une entité aussi éthique et bienveillante que Lliam.

Paul Bradley Carr construit habilement son complot absorbant et rapide sur des questions de véritable préoccupation pour tout adoptant réfléchi de la technologie, même s’il jette des boules de courbe à couper le souffle dans le récit. Cependant, ce qui est le plus impressionnant ici, c’est sa capacité à arriver à l’humanité au cœur de ce qui est essentiellement une histoire sur l’évolution des outils, et comment la société doit reconnaître à la fois les forces et les limites de nos propres créations autant que de nous-mêmes.

En savoir plus ou commander une copie