Les problèmes de préjugés raciaux et sexistes dans les algorithmes d’intelligence artificielle et les données utilisées pour former de grands modèles de langage comme ChatGPT ont attiré l’attention des chercheurs et fait la une des journaux. Mais ces problèmes surviennent également dans les robots sociaux, dont le corps physique est calqué sur des versions non menaçantes d’humains ou d’animaux et sont conçus pour interagir avec les gens.
L’objectif du sous-domaine de la robotique sociale appelé robotique d’assistance sociale est d’interagir avec des groupes de personnes toujours plus diversifiés. La noble intention de ses praticiens est de « créer des machines qui aideront au mieux les gens à s’aider eux-mêmes », écrit l’une de ses pionnières, Maja Matarić. Les robots sont déjà utilisés pour aider les personnes atteintes du spectre autistique, les enfants ayant des besoins spéciaux et les patients victimes d’un accident vasculaire cérébral nécessitant une réadaptation physique.
Mais ces robots ne ressemblent pas à des personnes et n’interagissent pas avec les gens d’une manière qui reflète même les aspects fondamentaux de la diversité de la société. En tant que sociologue qui étudie l’interaction homme-robot, je pense que ce problème ne fera qu’empirer. Aux États-Unis, les taux de diagnostics d’autisme chez les enfants de couleur sont désormais plus élevés que chez les enfants blancs. Beaucoup de ces enfants pourraient finir par interagir avec des robots blancs.
Alors, pour adapter le fameux hashtag Twitter autour des Oscars 2015, pourquoi #robotssowhite ?
Pourquoi les robots ont tendance à être blancs
Compte tenu de la diversité des personnes auxquelles ils seront exposés, pourquoi Kaspar, conçu pour interagir avec des enfants autistes, a-t-il une peau de caoutchouc qui ressemble à celle d’une personne blanche ? Pourquoi Nao, Pepper et iCub, les robots utilisés dans les écoles et les musées, sont-ils habillés de plastique blanc et brillant ? Dans The Whiteness of AI, l’éthicien technologique Stephen Cave et le chercheur en communication scientifique Kanta Dihal discutent des préjugés raciaux dans l’IA et la robotique et notent la prépondérance des images en ligne de robots dotés de surfaces blanches réfléchissantes.
Qu’est-ce qui se passe ici?
L’un des problèmes est de savoir quels robots existent déjà. La plupart des robots ne sont pas développés à partir de zéro mais achetés par des laboratoires d’ingénierie pour des projets, adaptés avec des logiciels personnalisés et parfois intégrés à d’autres technologies telles que les mains ou la peau des robots. Les équipes de robotique sont donc contraintes par les choix de conception faits par les développeurs originaux (Aldebaran pour Pepper, Institut italien de technologie pour iCub). Ces choix de conception ont tendance à suivre l’aspect clinique et épuré avec du plastique blanc brillant, similaire à d’autres produits technologiques comme l’iPod d’origine.
Kaspar est un robot conçu pour interagir avec les enfants autistes.
Dans un article que j’ai présenté lors de la réunion de 2023 de l’American Sociological Association, j’appelle cela « la pauvreté de l’imaginaire artificiel ».
Comment la société imagine les robots
Dans le livre classique de l’anthropologue Lucy Suchman sur l’interaction homme-machine, mis à jour avec des chapitres sur la robotique, elle discute d’un « imaginaire culturel » de ce à quoi les robots sont censés ressembler. Un imaginaire culturel est ce qui est partagé à travers les représentations dans les textes, les images et les films, et qui façonne collectivement les attitudes et les perceptions des gens. Pour les robots, l’imaginaire culturel est issu de la science-fiction.
Cet imaginaire culturel peut être mis en contraste avec les préoccupations plus pratiques liées à la façon dont les équipes d’informatique et d’ingénierie perçoivent les corps des robots, ce que Neda Atanasoski et Kalindi Vora appellent « l’imaginaire de l’ingénierie ». Il s’agit d’un domaine très controversé dans les études scientifiques féministes, avec, par exemple, « The Robotic Imaginary » de Jennifer Rhee et « Surrogate Humanity » d’Atanasoski et Vora qui critiquent les hypothèses sexistes et raciales qui conduisent les gens à concevoir des robots de service – conçus pour accomplir des tâches. tâches banales – en tant que femme.
L’imaginaire culturel qui consacre les robots comme blancs, et en fait généralement féminins, remonte à l’Antiquité européenne, accompagné d’une explosion de romans et de films à l’apogée de la modernité industrielle. De la première mention du mot « androïde » dans le roman « L’Ève du futur » d’Auguste Villiers de l’Isle-Adam en 1886, à l’introduction du mot « robot » dans la pièce de Karel Čapek « Les robots universels de Rossum » en 1920, et au robot sexualisé Maria dans le roman « Metropolis » de Thea von Harbou de 1925 – à la base du célèbre film du même nom de son mari Fritz Lang de 1927 – les robots fictifs ont rapidement été féminisés et rendus serviles.
Le prototype de cet imaginaire culturel se trouve peut-être dans la Rome antique. Un poème des « Métamorphoses » d’Ovide (8 EC) décrit une statue de Galatée « d’ivoire blanc comme neige » dont son créateur Pygmalion tombe amoureux. Pygmalion prie Aphrodite pour que Galatée prenne vie, et son souhait est exaucé. Il existe de nombreuses adaptations littéraires, poétiques et cinématographiques de l’histoire, dont l’un des premiers effets spéciaux au cinéma dans le film de Méliès de 1898. Les peintures qui représentent ce moment, par exemple celles de Raoux (1717), Regnault (1786) et Burne-Jones (1868-70 et 1878), accentuent la blancheur de la chair de Galatée.
Le tableau Pygmalion et Galatée de Jean-Léon Gérôme représente un ancien conte romain d’une statue prenant vie.
Peter Roan/Flickr, CC BY-NC
Parcours interdisciplinaire vers la diversité et l’inclusion
Que peut-on faire pour contrer cet héritage culturel ? Après tout, toute interaction homme-machine doit être conçue dans un souci de diversité et d’inclusion, selon les ingénieurs Tahira Reid et James Gibert. Mais en dehors des robots d’apparence ethnique japonaise, les robots conçus pour être non blancs sont rares. Et les robots japonais ont tendance à suivre le stéréotype du genre féminin asservi.
La solution ne consiste pas simplement à envelopper les machines dans du plastique marron ou noir. Le problème est plus profond. Le « robot à personnage personnalisé » Bina48, calqué sur la tête et les épaules de l’épouse afro-américaine d’un millionnaire, Bina Aspen, est remarquable, mais son discours et ses interactions sont limités. Une série de conversations entre Bina48 et l’artiste afro-américaine Stephanie Dinkins constitue la base d’une installation vidéo.
L’absurdité de parler de racisme avec une tête animée désincarnée devient évidente dans une telle conversation – elle n’a littéralement aucune expérience personnelle à proprement parler, pourtant ses réponses basées sur l’IA font référence à l’expérience du racisme d’une personne anonyme en grandissant. Ce sont des souvenirs implantés, comme les « souvenirs » des androïdes réplicateurs dans les films « Blade Runner ».
Les méthodes des sciences sociales peuvent aider à produire un « imaginaire artificiel » plus inclusif, comme j’en ai discuté lors du festival Being Human à Édimbourg en novembre 2022. Par exemple, travailler avec Guy Hoffman, roboticien de Cornell, et Caroline Yan Zheng, alors titulaire d’un doctorat. étudiant en design du Royal College of Art, nous avons sollicité des contributions pour une publication intitulée Critical Perspectives on Affective Embodied Interaction.
L’un des fils conducteurs de cette collaboration et d’autres travaux est la mesure dans laquelle les corps des gens communiquent avec les autres par le geste et l’expression, ainsi que par la vocalisation, et comment cela diffère selon les cultures. Dans ce cas, faire en sorte que l’apparence des robots reflète la diversité des personnes qui bénéficient de leur présence est une chose, mais qu’en est-il de la diversification des formes d’interaction ? En plus de rendre les robots moins universellement blancs et féminins, les spécialistes des sciences sociales, les concepteurs d’interactions et les ingénieurs peuvent travailler ensemble pour produire une plus grande sensibilité interculturelle dans les gestes et le toucher, par exemple.
Un tel travail promet de rendre l’interaction homme-robot moins effrayante et étrange, en particulier pour les personnes qui ont besoin de l’aide des nouvelles races de robots d’assistance sociale.
Mark Paterson, professeur de sociologie, Université de Pittsburgh
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.
