Nous devons légiférer pour placer des garde-fous fermes autour de l’individu, garantissant que nos droits sont protégés quelle que soit l’évolution de la technologie. Nous devons renforcer nos droits civiques.
Dawn Butler est la députée du Parti travailliste de Brent East
Les abus sur la plateforme de médias sociaux X ont pris une tournure encore plus sombre ces derniers temps. Les utilisateurs ont commencé à exploiter son outil d’IA, Grok, pour créer des images « nudifiées » sexuellement explicites de femmes sans consentement après que les utilisateurs ont publié des photographies innocentes.
Cette vile tendance a révélé à quel point les protections humaines sont fragiles, en particulier dans le monde des médias sociaux, à une époque où l’intelligence artificielle progresse rapidement. C’est un aperçu effrayant de l’avenir dystopique auquel nous serons confrontés si nous n’agissons pas.
Il est choquant de constater qu’une étude récente menée par le New York Times et le Center for Countering Digital Hate a montré qu’en seulement neuf jours, Grok avait créé 4,4 millions d’images et estimait qu’au moins 41 % de ces publications contenaient des images sexualisées de femmes.
Cette décision à elle seule devrait nous alarmer. Un homme prend une décision qui affectera les 600 millions d'utilisateurs de X et potentiellement des milliards de personnes dans le monde. Cela souligne les graves dangers auxquels nous sommes tous confrontés, mais en particulier les femmes et les filles, alors que l’IA se développe à un rythme époustouflant, largement non réglementé, non contrôlé et motivé par le profit plutôt que par la sécurité publique – c’est ce qu’on appelle désormais le technocapitalisme.
Alors, comment pouvons-nous protéger les femmes et les filles ainsi que le grand public dans un monde où la technologie évolue plus vite que la loi ? Nous devons légiférer pour placer des garde-fous fermes autour de l’individu, garantissant que nos droits sont protégés quelle que soit l’évolution de la technologie. Nous devons renforcer nos droits civiques.
Je suis heureux que le gouvernement ait agi rapidement et ait accéléré la législation qui pourrait voir les utilisateurs qui créent des images sexuellement explicites à l'aide de la technologie deepfake risquer jusqu'à six mois de prison. Mais il faut aller plus loin et plus vite.
En tant que parlementaires, nous ne pouvons pas continuer à courir après la prochaine application, mise à jour ou modèle d’IA. La législation qui cible des technologies spécifiques sera toujours obsolète avant que l’encre ne soit utilisée, et encore moins sèche.
Au lieu de cela, nous avons besoin d’une charte des droits numériques, centrée sur la dignité humaine, l’autonomie corporelle et le consentement. Qu’il s’agisse de votre image, de votre voix ou de votre identité, celles-ci doivent être au centre de ce débat et protégées par la loi. De cette façon, nous ne compterons pas sur ces entreprises pour choisir d’être éthiques.
Grok n'est pas le seul outil capable de faire cela, nous devons donc également faire face à la vérité inconfortable de savoir qui utilise ces outils et pourquoi. Ce sont principalement les hommes et les garçons qui exploitent l’IA pour réaliser des fantasmes misogynes ou incel. Cela ne peut pas être considéré comme un comportement en ligne ou une expérimentation inoffensive. C'est un abus. C’est également un signe inquiétant de l’avenir de la violence à l’égard des femmes et des filles et de la façon dont elle est en train d’être normalisée.
Parallèlement à la répression, il doit y avoir une éducation, car nous avons la responsabilité de faire comprendre que la violence contre les femmes et les filles n'est jamais un divertissement, n'est jamais acceptable et n'est jamais sans conséquence. Le mal causé en ligne est aussi dangereux que le mal causé hors ligne.
Sans une approche à deux volets, des protections juridiques solides et une prévention et une éducation sérieuses, nous resterons piégés dans un cycle de réaction, toujours en retard sur le prochain dommage ou la prochaine mise à jour technologique.
Nous devons également être honnêtes sur la façon dont cette violence est racialisée. Les femmes noires sont souvent les premières et les plus vicieusement ciblées. J'ai personnellement reçu des images racistes de moi-même générées par l'IA sur X, reproduisant des tropes déshumanisants que les femmes noires ne connaissent que trop bien.
Notre première femme députée noire, Diane Abbott, a subi plus d'abus que tout autre député. Des images racistes, misogynes et sexuellement violentes ont été publiées à plusieurs reprises sous son nom, normalisées par des plateformes qui n’agissent pas. Une nouvelle charte des droits numériques imposerait des devoirs clairs aux utilisateurs, aux plateformes et aux développeurs d’IA – garantissant ainsi la responsabilité là où il n’y en a pas actuellement. Cela devrait également inclure le réexamen de l’obligation pour tous les utilisateurs de mettre en place des mesures de vérification de profil.
Le fait qu'Elon Musk ait accepté de permettre aux utilisateurs payants d'accéder en permanence à cette capacité abusive en dit long sur les priorités de ces propriétaires de plateformes technocapitalistes, la monétisation des outils de violence contre les femmes et les filles et la priorité au profit plutôt qu'à la dignité et au consentement des femmes. Et le fait est qu’ils n’agissent que lorsqu’ils y sont contraints ou lorsque cela affecte leurs résultats.
Lorsque de vastes richesses et un pouvoir incontrôlé se heurtent, ce sont les femmes et les filles qui en paient le prix. Ce n’est pas une innovation. Nous assistons à l’automatisation des abus sexuels incontrôlés.
La boîte de Pandore est déjà ouverte. Il n'y a pas de retour en arrière. Mais il reste encore un choix quant à la manière dont nous réagissons. Il est de notre responsabilité, en tant que politiciens, de protéger nos citoyens, non pas en centrant nos lois sur la technologie, mais en les centrant sur les personnes – alors rejoignez-moi dans la lutte pour obtenir une charte numérique des droits des êtres humains.
Si nous n’agissons pas maintenant, nous ne permettrons pas simplement le mal. Nous le légitimons. Il est temps de mettre des garde-fous autour des êtres humains. En fin de compte, c’est la seule chose que nous pouvons contrôler.
