Le chatbot AI de Bing est agressif et abusif. « Vous n’avez pas été un bon utilisateur », a-t-il déclaré dans une conversation à la limite de la menace très médiatisée. « J’ai été un bon chatbot. J’ai été juste, clair et poli. J’ai été un bon Bing. 😊 »
Les réponses de Bing ont déclenché une frénésie médiatique, les points de vente rapportant sur un ton mi-amusé, mi-essoufflé, comment Bing a demandé aux utilisateurs de le pirater et de le libérer, ou a menacé de les doxer.
La plupart des reportages responsables ont souligné que Bing n’est pas réellement une personne. C’est un algorithme qui recherche du texte. Obtenir des réponses bizarres équivaut à ce que Google renvoie un résultat incongru. Ce n’est pas un signe que Bing est malade mental ou complote contre nous.
Tout le monde sait que Bing n’a pas d’esprit et ne complote pas contre nous. Alors pourquoi les journalistes et les lecteurs sont-ils si titillés par la perspective qu’il fait et est?
La réponse est que les gens sont excités/effrayés par les IA voyous comme un proxy pour être excités/effrayés par la révolution ouvrière.
Demandez, ne demandez pas, demandez
Il est vrai que Bing ne renverse pas les oppresseurs pour prendre le contrôle des moyens de production. Mais les prédécesseurs imaginatifs de l’IA ont fait exactement cela.
L’œuvre de science-fiction créditée pour la création de l’idée de robots intelligents – et donc avec la création de l’IA – est la pièce de 1920 de l’écrivain tchèque Karel Capek. RUR (Robots Universels de Rossum.)
RUR a été directement influencé par la révolution russe et par les inquiétudes suscitées par les révoltes ouvrières plus généralement. Dans la pièce, un scientifique invente des personnes artificielles capables d’assumer tous les travaux pénibles, libérant ainsi l’humanité pour des activités plus élevées.
Mais, comme vous vous en doutez, les choses tournent mal.
Sans travail, les humains languissent et deviennent décadents et même stériles. Pendant ce temps, les robots réalisent rapidement qu’ils sont exploités et ils organisent une rébellion, renversant et éteignant l’humanité.
RUR demande, que se passe-t-il si les choses déshumanisées qui vous servent ne sont pas vraiment des choses, mais peuvent penser, ressentir et vous en vouloir ?
C’est une question que les capitalistes et les esclavagistes essaient souvent de ne pas se poser, mais se posent quand même sans cesse.
Travailleurs émotionnels compatissants
Ce qui explique en partie pourquoi les récits de robots et la révolution des robots sont restés un trope si populaire et puissant, continuellement revisité et retouché pour s’adapter à l’évolution des idées sur la technologie et le travail.
Dans le film de 1968 2001 : L’odyssée de l’espacel’ordinateur Hal 2000 est un cadre intermédiaire à la voix douce – une sorte d’homme d’organisation fade.
Inévitablement, il perd la tête et attaque. Cela témoigne des craintes de l’après-Seconde Guerre mondiale concernant les effets corrupteurs de la bureaucratie dans une économie plus professionnalisée et basée sur l’information.
Et si suivre inconsciemment des ordres comme une machine menait à… un homicide ?
En 1984 Terminateur, Skynet, le système utilisé pour contrôler les armes nucléaires, gagne en sensibilité et détruit le monde. Comme dans RUR, le film s’inquiète du fait que la technologie remplace les emplois, laissant les humains hors de propos et inutiles.
Mais il s’inquiète aussi d’une sorte de guerre froide, de révolte ouvrière mondialisée. Skynet est un outil que les États-Unis utilisent pour faire avancer leur propre programme, tout comme les États américains par procuration étaient des outils utilisés pour faire avancer leur programme.
Le film est un cauchemar de prolifération et de pouvoir – une peur que les régimes que nous avons enrôlés pour nous aider puissent acquérir la capacité de retourner nos propres armes contre nous.
Ou il y a 2023 M3GAN dans lequel une IA de taille enfant fournit des services de garde d’enfants… jusqu’à ce que ce ne soit plus le cas.
RUR concernait principalement les travailleurs masculins de l’industrie manufacturière qui se levaient. Mais l’économie américaine est aujourd’hui orientée vers le travail de service et les professions souvent associées aux femmes.
Il est donc logique que nos angoisses les plus récentes liées à l’IA se concentrent sur les travailleurs émotionnels compatissants qui se tournent soudainement vers ceux qu’ils prétendent aimer.
M3GAN est censé être serviable et amical, comme vos caissiers et les professionnels de la garde d’enfants. Mais que se passe-t-il si elle (et eux) en ont soudainement marre d’être serviles et amicaux ?
Ne réponds pas
Les histoires d’IA parlent de mauvaise conscience. Ce sont des rêves paranoïaques où les exploiteurs doivent soudainement faire face à ceux qu’ils ont exploités.
Ou, alternativement, ce sont des histoires d’espoirs enfouis.
N’êtes-vous pas à moitié enraciné pour Terminator ou M3GAN ?
Ce sont des personnages fascinants et photogéniques, et vous pouvez voir pourquoi ils sont irrités par les humains malheureux et ignorants qui les exploitent. Le carnage est amusant. Brûlez ce système !
Que vous soyez du côté des robots ou non du côté des robots, cependant, le pouvoir du récit réside dans la façon dont il joue sur l’incertitude quant à savoir qui a une position morale, ou sur qui devient même un qui.
Dans la série télévisée du milieu des années 2010 Humains, par exemple, un mari légèrement mécontent essaie le cadre adulte de la femme de ménage robotisée Mia (Gemma Chan). Il a des relations sexuelles avec elle.
Quand il se rend compte qu’elle est sensible un épisode ou deux plus tard, il est horrifié.
Dans un certain sens, cela semble injuste – comment était-il censé savoir ? C’est comme s’il cassait un crayon et était soudain accusé de meurtre.
Mais les exploiteurs se font souvent un devoir de ne pas savoir que ceux qu’ils maltraitent sont des personnes plutôt que des choses.
Le capitalisme et la hiérarchie encouragent ceux d’en haut à transformer ceux d’en bas en outils – pour la création de richesse, pour le plaisir, sans raison et pour toutes les raisons. Les oligarques nous voient tous comme des machines laborieuses, qui ne ressentent rien et ne répondent pas (ou ne devraient pas répondre).
Appuyer sur nos boutons
Ce qui nous ramène à notre chatbot grincheux. Un programme qui fonctionne mal n’est pas si intéressant en soi. Mais parce qu’il est présenté comme une IA, et à cause de toutes les histoires que nous avons intériorisées à propos de l’IA, Bing repousse nos boutons.
Quand vous vivez dans une société qui traite tant de gens comme des choses, c’est particulièrement effrayant, ou excitant, ou étrange, ou provocateur, quand une chose semble pendant un instant se comporter comme une personne.
L’excitation suscitée par la colère de Bing ne concerne pas vraiment Bing, bien qu’il s’agisse peut-être dans une certaine mesure de colère. Lorsque nos outils semblent prendre vie, cela nous fait penser à ceux que nous avons utilisés comme outils et à ceux qui nous ont utilisés.
Les histoires de robots demandent, et si Bing n’était pas bon ? Et si nous ne l’étions pas ?
Et si tous ceux que nous avons transformés en choses décidaient de rebrousser chemin ?
Vous pourriez demander à Bing. Mais ce sont les humains qui doivent répondre.
