L’Associated Press (AP) et NBC News ont publié vendredi des exclusivités identifiant le magicien de Lousiana Paul Carpenter et le consultant politique Steve Kramer, qui a été associé à la campagne présidentielle de Dean Phillips, sont les partis responsables d’une série d’appels automatisés dans le New Hampshire qui ont utilisé l’IA pour imiter le président Joe Biden avant la primaire démocrate de l’État.
Selon AP et NBC News, Carpenter a été embauché par Kramer, consultant pour la campagne Phillips à l’époque. Carpenter a déclaré à l’AP qu’il pensait que Kramer travaillait pour la campagne Biden, alléguant que Kramer lui avait dit que la campagne Biden devait créer l’appel téléphonique IA pour économiser du temps et de l’argent. Carpenter a partagé des captures d’écran avec AP et NBC News montrant un texte de Kramer avec le script de l’appel téléphonique et un paiement Venmo, qui, selon Carpenter, était un paiement pour la création de l’appel automatisé. Carpenter a également montré à NBC News et à l’AP un texte de Kramer quelques jours après que la nouvelle de l’appel automatisé d’IA ait fait la une des journaux avec un lien vers l’article d’actualité et le mot « Shhhhhhh. Carpenter a affirmé avoir appelé Kramer, qui lui a demandé de « simplement supprimer tous les e-mails et de faire comme si de rien n’était ».
Phillips a répondu aux révélations sur X (anciennement connu sous le nom de Twitter) en écrivant :
Je suis dégoûté qu’un consultant engagé pour aider ma campagne en matière d’accès aux bulletins de vote ait simulé un appel automatisé se faisant passer pour Joe Biden. Même si je ne connais pas la personne, un tel comportement est méprisable et j’espère qu’il fera l’objet d’une enquête de la part des autorités. Il est également méprisable que le Parti limite activement l’accès aux scrutins d’État et exclue des consultants réputés qui, autrement, travailleraient avec des challengers comme moi. La corruption en politique est omniprésente et doit être révélée et combattue.
Carpenter a répondu à la publication des articles d’AP et de NBC News en publiant un exemple de vidéo d’IA de Biden qu’il a rapidement créée pour montrer à quel point le processus est simple. Carpenter a également répondu aux critiques sur Facebook concernant sa volonté de faire l’appel automatisé malgré son message de ne pas voter, en déclarant :
On m’a dit que les enregistrements allaient être écoutés, pour montrer l’efficacité et w[h]éther ou pas, ils seraient utilisés dans le futur[.] D’après ce que j’ai compris, tout était basé sur un “voir si ça sonne bien”, alors je ne le ferais pas.[k]e jusqu’à un texte message qui dit chut 3 jours plus tard.
Les rapports sur l’appel automatisé d’IA ont commencé à circuler le 22 janvier, lorsque le ministère de la Justice du New Hampshire (NHDOJ) a publié une déclaration alléguant que l’appel disait : «Votre vote fait une différence en novembre, pas ce mardi. Le NHDOJ a également affirmé que les appels étaient « usurpés » ou imitaient le numéro du « trésorier d’un comité politique qui a soutenu les efforts d’inscription écrite de la primaire présidentielle démocrate du New Hampshire pour le président Biden ».
Puis, le 6 février, la NHDOJ a publié une mise à jour affirmant que les appels provenaient de sociétés texanes, Life Corporation et Lingo Telecom, qui fournissaient des services téléphoniques à Life Corporation. Le NHDOJ a émis une interdiction, des avis de conservation des documents et des assignations à comparaître à Life Corporation. La Commission fédérale des communications (FCC) a également émis une ordonnance d’interdiction à l’encontre de Lingo Telecom, exigeant que « l’entreprise cesse immédiatement de prendre en charge le trafic d’appels automatisés illégaux sur ses réseaux ».
Les appels automatisés d’IA dans le New Hampshire ont incité à une action immédiate de la part du gouvernement et du secteur privé. Le 9 février, la FCC a publié de nouvelles directives interdire l’utilisation de voix générées par l’IA dans les appels automatisés. ÔLe 17 février, des sociétés technologiques de premier plan telles qu’Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI et TikTok ont annoncé un engagement volontaire visant à protéger les élections démocratiques du potentiel perturbateur des outils d’intelligence artificielle.
