« La technologie deepfake pose un véritable défi au fonctionnement futur de notre démocratie », a déclaré Public Citizen. « Si les électeurs ne peuvent pas faire confiance à l’authenticité de ce qu’ils voient et entendent en ligne, il est difficile de savoir comment notre démocratie peut fonctionner. »
Alors que la campagne du candidat républicain à la présidentielle Ron DeSantis diffuse de fausses images du rival du GOP 2024 Donald Trump embrassant l’ancien chef du groupe de travail sur le coronavirus de la Maison Blanche Anthony Fauci, un important groupe américain de défense des consommateurs a exhorté mardi le gouverneur de Floride à retirer et à désavouer les photos et à s’engager à arrêtez d’utiliser l’intelligence artificielle – générez des images deepfake à l’avenir.
Agence France Presse a rapporté la semaine dernière que des images montrant Trump étreignant et embrassant Fauci dans un Annonce de la campagne DeSantis étaient probablement des deepfakes, suscitant la condamnation des républicains qui soutiennent la candidature de 2024 de l’ancien président deux fois destitué et deux fois inculpé.
La vidéo a été partagée sur Twitter par « DeSantis War Room », un compte « réponse rapide » lancé août dernier.
Ce ne sont pas seulement les républicains qui ont tiré la sonnette d’alarme sur l’utilisation de la technologie deepfake par la publicité. Mardi, le groupe de défense des consommateurs Public Citizen a demandé à la campagne de DeSantis de « s’engager à ne pas utiliser la technologie deepfake pour tromper les électeurs » et de retirer la vidéo de Trump et Fauci.
Selon le groupe :
L’IA générative et la technologie deepfake – un type d’intelligence artificielle utilisée pour créer des images convaincantes, des canulars audio et vidéo – évoluent très rapidement. Il ne s’agit pas d’une technologie qui avantage un candidat par rapport à un autre. N’importe qui peut l’utiliser à des fins trompeuses. C’est pourquoi tous les acteurs politiques ont un intérêt égal à prévenir les abus de cette technologie.
Au-delà de l’intérêt commun de tous les candidats politiques à ne pas être victimes d’une fraude profonde, il existe un intérêt public plus large. La technologie deepfake pose un véritable défi au fonctionnement futur de notre démocratie. Si les électeurs ne peuvent pas faire confiance à l’authenticité de ce qu’ils voient et entendent en ligne, il est difficile de savoir comment notre démocratie peut fonctionner.
« L’IA générative représente désormais une menace importante pour la vérité et la démocratie telles que nous les connaissons », a déclaré le président de Public Citizen, Robert Weissman, dans un communiqué. « Chaque parti et chaque candidat doit s’engager à ne pas utiliser de deepfakes trompeurs, qui impliquent par définition d’inciter le public à croire quelque chose qui n’est pas vrai. »
Le mois dernier, Public Citizen a également appelé la Commission électorale fédérale (FEC) à publier une règle interdisant aux candidats d’utiliser l’IA générative manipulatrice dans les publicités de campagne.
« Un scénario particulièrement alarmant est qu’une vidéo deepfake » surprise d’octobre « publiée peu de temps avant le jour du scrutin pourrait devenir virale – sans possibilité pour les électeurs de déterminer qu’elle est fausse, pas le temps pour un candidat de le nier et aucun moyen de démontrer de manière convaincante que c’est faux », a déclaré Public Citizen. « Les deux partis, leurs candidats à la présidence et la FEC peuvent empêcher cela (et bien d’autres) abus facilement prévisibles de la technologie en désavouant et en interdisant dès maintenant les deepfakes trompeurs dans les campagnes politiques. »
