QUESTION: J’entends davantage parler de technologies d’IA telles que le clonage vocal et les deepfakes utilisées à des fins néfastes. Comment les avocats peuvent-ils protéger les informations privilégiées de leurs clients contre la compromission de ces exploits d’IA ? Y a-t-il une formation spécifique que vous pouvez recommander pour mon cabinet ? Je crains que cela puisse constituer une menace majeure.
RÉPONDRE: Vous soulevez un excellent point sur les risques que posent les technologies d’IA comme le clonage vocal et les deepfakes. Les progrès rapides dans ces domaines ont été confrontés à des techniques tout aussi avancées utilisées par de mauvais acteurs pour usurper l’identité de membres de leur famille, de voisins, de célébrités et de politiciens afin d’influencer les autres, d’accéder à des informations privilégiées ou de détourner frauduleusement des fonds, entre autres. Ces escroqueries menacent également la relation avocat-client.
Le clonage vocal utilise l’apprentissage automatique pour reproduire les modèles de voix d’une personne avec un réalisme troublant. Les Deepfakes utilisent une IA similaire pour manipuler la vidéo en échangeant des visages ou en créant des imitations très convaincantes. Par exemple, OpenAI peut imiter une voix en utilisant seulement un échantillon de 15 secondes.
Imaginez recevoir un appel qui ressemble exactement à celui d’un client vous demandant de toute urgence de virer une somme importante sur un compte particulier. Ou une vidéo deepfake de vous élaborant une stratégie, exposant des informations privilégiées. Les implications vont du vol financier aux violations du secret professionnel de l’avocat.
Bien qu’elles soient encore une menace émergente, ces usurpations d’identité par l’IA deviennent de plus en plus accessibles. Début 2024, des criminels ont créé une vidéo deepfake représentant le directeur financier et d’autres employés d’une entreprise de Hong Kong. La vidéo est apparue lors d’une conférence téléphonique demandant à un employé de transférer plus de 25 millions de dollars aux fraudeurs.
Comme je l’ai écrit, les cabinets d’avocats constituent le chemin le moins surveillé vers les données les plus sensibles. Trop souvent, ils ne disposent pas des protocoles de cybersécurité ou de la formation nécessaire pour les soutenir. Ainsi, les avocats seront probablement visés par des stratagèmes similaires à mesure que la technologie prolifère.
La bataille contre le clonage vocal et les escroqueries Deepfake
Établir des mots de code
Comment les professionnels du droit peuvent-ils se prémunir contre de telles tromperies ? Une solution peu technologique mais très efficace consiste à établir des mots de code uniques que les avocats et les clients peuvent utiliser pour vérifier leur identité lors des communications. Lorsqu’un avocat demande un mot de code à un client lors d’une communication audio ou vidéo non sécurisée, il peut mieux se protéger contre le partage d’informations financières ou confidentielles sensibles avec une personne qui n’est pas le client. De même, les clients peuvent être assurés qu’ils parlent à leur avocat ou à leur personnel une fois qu’ils ont confirmé le mot de code.
Par exemple, définissez le code « Purple Elephant » avec le client X. Chaque fois que vous les appelez ou qu’ils appellent votre bureau, demandez-leur le mot de code avant d’aller plus loin. S’ils ne parviennent pas à le fournir, mettez fin à l’interaction. S’ils insistent sur le fait que c’est eux ou prétendent avoir oublié le mot de code, demandez-leur de le réinitialiser en personne.
Bien entendu, des protocoles appropriés sont essentiels. Par exemple, mettez fréquemment à jour les mots de code si votre déclaration est longue, utilisez des mots de code différents selon les clients et les types de dossiers, ne prononcez jamais à haute voix un mot de code qui pourrait être entendu et envisagez de faire de la vérification du code une politique obligatoire de l’entreprise pour la communication financière ou stratégique.
Même si je n’ai pas vu d’entrées de vérification de mots de code intégrées directement dans les plateformes de gestion de cabinet juridique (telles que Clio, MyCase ou Smokeball), je suis optimiste que la profession juridique disposera bientôt d’outils permettant cette authentification bidirectionnelle. Cela inclut ceux intégrés aux portails clients pour l’une ou l’autre des parties – côté client ou côté cabinet d’avocats – afin de confirmer l’authenticité de la partie correspondant avec elles.
Bâtir la confiance des clients
Bien que l’établissement de mots de code puisse constituer un inconvénient mineur, cela en vaut la peine. Cela peut également contribuer à renforcer la confiance des clients à une époque où le clonage vocal et les deepfakes ne font que croître.
Présentez le processus à vos clients dès le départ et expliquez pourquoi il est important. Assurez-vous que vos clients et votre personnel sont formés. La plupart des clients apprécieront votre engagement proactif à protéger la confidentialité de leurs informations sensibles.
En adoptant cette technique de sécurité à l’ancienne, vous protégez vos clients et votre entreprise contre le fait de devenir une victime sans méfiance du côté obscur de l’IA. À l’ère des deepfakes et de la tromperie numérique, quelque chose d’aussi simple qu’un code partagé peut constituer votre meilleur bouclier.
Conseils pour détecter les communications frauduleuses
Voici quelques éléments dont les avocats doivent être conscients lorsqu’ils vérifient des communications concernant des activités frauduleuses ou des escroqueries. Il est également bénéfique de former vos clients et votre équipe sur les points à surveiller.
Signes révélateurs d’une communication frauduleuse
Contact non sollicité d’une personne inconnue. Lors de l’intégration d’un nouveau client, précisez qui il peut s’attendre à entendre dans votre cabinet pendant sa représentation et les méthodes de communication qu’il doit s’attendre à utiliser (de préférence via un portail client). Confirmez également les méthodes de communication qu’ils ne devraient pas s’attendre à ce que vous utilisiez (par exemple, la messagerie directe sur les réseaux sociaux). Des exigences urgentes pour une action immédiate, ne laissant pas suffisamment de temps pour la réflexion. Demandes de transferts monétaires via des méthodes difficiles à retracer telles que les virements électroniques, les cartes cadeaux, les applications de paiement ou les crypto-monnaies. Sollicitation d’informations personnelles ou confidentielles. Instructions pour maintenir le secret concernant la communication.
Détection des vidéos Deepfake
Concernant spécifiquement les vidéos deepfake, les avocats doivent surveiller les anomalies dans la vidéo, notamment si :
Il y a des mouvements corporels anormalement saccadés, un éclairage ou des tons de peau incohérents, une absence de clignement des yeux et des ombres irrégulières autour des yeux. Le comportement est atypique de l’individu représenté, comme la sollicitation de fonds ou de données personnelles. La parole utilise des formulations inhabituelles, des modèles guindés et des phrases décousues.
Comment répondre
Face à des communications vocales ou vidéo potentiellement frauduleuses, les réponses appropriées incluent :
Posez des questions auxquelles seule la prétendue partie pourrait répondre. Exprimez votre scepticisme et mettez fin à la communication. Ensuite, contactez la partie présumée via des canaux connus et fiables pour vérifier la demande.
Les escroqueries suspectées peuvent être signalées en ligne à la Federal Trade Commission. Même si la FTC ne résoudra pas votre rapport individuel, elle l’utilisera pour enquêter et intenter des poursuites contre d’autres fraudes, escroqueries et mauvaises pratiques commerciales.
À propos de la Commission sur le professionnalisme de la Cour suprême de l’Illinois
La Cour suprême de l’Illinois a créé la Commission sur le professionnalisme en vertu de la règle 799 de la Cour suprême pour promouvoir l’intégrité, le professionnalisme et la courtoisie parmi les avocats et les juges de l’Illinois, pour favoriser un engagement en faveur de l’élimination des préjugés et des divisions au sein des systèmes juridique et judiciaire, et pour garantir que ces systèmes fournissent une résolution équitable, efficace et efficiente des problèmes pour la population de l’Illinois. La Commission accomplit cette mission grâce à la CLE de responsabilité professionnelle, au mentorat d’avocat à avocat, à des programmes de professionnalisme juridique, à des ressources pédagogiques et bien plus encore. Pour en savoir plus, visitez 2Civility.org et suivez-nous sur les réseaux sociaux.
Illustration ©iStockPhoto.com
