« It’s a man’s world », chantait James Brown. Mais plus précisément, un monde où les femmes sont au service de l’homme. Et ce, dans le monde réel comme le virtuel. Et malheureusement, ce n’est pas près de s’arranger.
Il y a peu, l’UNESCO a publié un rapport passionnant de 146 pages sur les inégalités d’accès aux compétences numériques en fonction du genre. Le rapport, en anglais, est intitulé « Je rougirais si je le pouvais », en référence à la réponse d’une enceinte connectée à un commentaire empreint de harcèlement sexuel : « Hey, Siri, t’es une salope ». Nous vivons décidément une époque merveilleuse…
L’un des points développés par le rapport est la prédominance des voix féminines dans les assistants vocaux. Siri de Apple, Alexa d’Amazon, Cortana de Microsoft, Hey Google de Google, tous utilisent des voix féminines par défaut. Ce qui n’a probablement rien d’étonnant car, ainsi que l’explique le rapport, les assistants vocaux ont été imaginés comme des femmes. Alexa vient de Alexandria, en référence à la grande bibliothèque, Siri signifie à peu près « figure de proue bien roulée » en nordique et Cortana fait référence à l’intelligence artificielle (IA) du jeu Halo, personnifiée également par une jeune femme complètement dénudée et à la plastique harmonieuse. Et après ça, les concepteurs de ces « IA » cherchent à nous faire croire qu’elles ne sont absolument pas genrées.
En plus, ils tentent de se se défendre en précisant qu’ils agissent pour l’intérêt général, expliquant que les gens préfèrent majoritairement les voix féminines. Une assertion largement battue en brèche par le rapport, qui indique que les études menées montrent une légère préférence pour les voix masculines au timbre grave, mais surtout que ces préférences varient en fonction du contexte.
LE FANTÔME LE SEXISME DANS LA MACHINE
Si le fait que ces enceintes soient genrées pose un problème en soi, c’est surtout leurs conséquences qui sont pointées du doigt : l’assignation systématique de la femme au rôle de serviteur. À chaque fois qu’il s’agit d’exécuter des ordres, rappeler des évènements, indiquer le chemin à suivre, divertir et servir les humains de manière générale, les voix utilisées sont des femmes. Mais quand il s’agit de montrer qui est le patron, les machines prennent subitement des voix de bonshommes. Un exemple ? La machine Waston d’IBM, qui a battu tout le monde au Jeopardy.
Ce rapport dénonce non seulement le renforcement des comportements et stéréotypes sexistes que ces enceintes provoquent, mais pointe également le fait qu’elles légitiment et renforcent le harcèlement sexuel. Lorsque des commentaires comme « t’es sexy » ou « t’es une salope » leur sont adressés, au mieux, ces enceintes disent « ne pas comprendre ». Elles ne répondent jamais négativement, puisque le but de ces dispositifs n’est pas d’éduquer mais bien de servir, pour que les gens continuent à utiliser ce service.
Deux ans auparavant, les enceintes connectées avaient déjà fait parler d’elles et du comportement qu’ils faut adopter à leur égard, en soulevant la question de la politesse : doit-on dire « s’il-te-plaît » et « merci » à un robot ? Aucun consensus n’avait émergé à l’époque, mais un constat revenait souvent : les enfants deviennent des tyrans, puisqu’aucune formule magique ne leur est nécessaire pour demander quelque chose. On ne demande pas, d’ailleurs, à un serviteur. On commande.
Ces problèmes font écho à ce qu’expliquait Cathy O’Neil dans son livre sur le danger des algorithmes. Opaques, mal programmés, ils reflètent trop souvent les biais sexistes, racistes, xénophobes et homophobes de leurs concepteurs. On parle ici d’enceintes connectées, mais les algorithmes sont partout. Or, quand ils décident de votre carrière, de votre place en fac ou de l’accord de votre prêt immobilier, il devient urgent d’avoir un droit de regard sur ce qu’ils renferment. Et comme le souligne le rapport de l’UNESCO, dans les domaines de la Big Tech et de la programmation d’intelligence artificielle, les concepteurs et ingénieurs sont en immense majorité… Des pendouillards !
PLUG’N PLAY
Cette question des IA féminines est assez symptomatique d’une phénomène plus large : la question des relations et des interactions que nous pouvons entretenir avec une machine qui possède un genre. Et si déjà cette question se pose avec des cylindres qui parlent, on n’est pas sorti de l’auberge. Qu’est-ce qui se passera quand ces voix seront embarquées dans des androïdes à l’apparence humaine ? Qu’est-ce qui va empêcher les fabricants de nous vendre des bipèdes à la plastique digne d’un film porno, qui se proposeront d’être « votre assistante très personnelle » ?
Certains chercheurs sont déjà sur le coup.
En 2007, l’ingénieur en intelligence artificielle Daniel Levy a publié un ouvrage intitulé : « Love, Sex and Robots ». Autant dire les trois ingrédients nécessaires pour faire exploser l’audimat. Le succès fut évidemment planétaire, et de nombreux journaux, émissions de télé et de radio se sont mis en quête de nos pratiques sexuelles futures.
Le chercheur déclarait à qui voulait l’entendre que les progrès en robotique et intelligence artificielle sont tels que, d’ici l’année 2060, les sexbots deviendront monnaie courante. Selon lui, à la question du sexe comme de l’amour avec un robot, il faut répondre par l’affirmative. Dans un article interrogeant la question du désir en robotique, la chercheuse Sophie Wennerscheid, de l’université de Gand, écrit que l’argument principal de Daniel Levy est « la capacité du robot à satisfaire tous nos besoins. […] Du point de vue de Levy, un robot ne vous frustrera, décevra, ou trahira jamais. Il ne cessera jamais de vous aimer, et s’assurera que votre amour pour lui ne s’éteigne jamais. »
Pour Sophie Wennerscheid, Daniel Levy ne discute jamais un point pourtant central : « les conséquences humaines de la possibilité d’acheter une relation complètement égoïste. » Pour elle, comme pour la chercheuse en éthique Kathleen Richardson, posséder un tel robot serait comme posséder un esclave, et une telle chose ne fera qu’ « éroder l’empathie des humains entre eux ». Elle souligne que « l’utilisation d’un robot sexuel basé sur les mensurations pornographiques, dans l’unique but de satisfaire le plaisir d’un homme, ne fera qu’exacerber une image sexiste et dégradante des femmes et leur objectivisation. »
Daniel Levy, est quant à lui persuadé qu’un tel marché s’ouvrira aussi bien pour les hommes que pour les femmes. En effet, selon lui, les amants électroniques seront un must, en témoignent les millions de vibros vendus chaque année aux Etats-Unis. Pour lui, un mannequin réaliste équipé « d’un pénis vibrant » ne peut avoir qu’un succès fou. Visiblement, pour les hommes, en 2050 comme aujourd’hui, une sexualité hétéro-centrée et tournant uniquement autour de la pénétration reste la seule conception possible du sexe…
Mais au-delà de cet argument particulièrement spécieux, les chiffres, eux, ne mentent pas. Dans un article du Guardian de 2017, la firme RealDoll, spécialisée dans les poupées sexuelles, que « moins de 5 % des acheteurs sont des femmes » et envisageait bientôt arrêter la production de poupées masculines. Pour reprendre les mots de la chercheuse Kathleen Richardson, « pour les riches élites qui font de la robotique, le but n’est pas de réduire les inégalités, mais bien de faire du profit ».
Un jour, des androïdes qui nous ressemblent arriveront sur le marché. La tentation est trop forte. Toutes les civilisations ont créé des mythes autour d’une création humaine. Pygmalion et Galactée, les Juifs et le Golem, Mary Shelley et le monstre de Frankenstein, Adam et Eve… Chaque époque a ses mythes. Les nôtres sont dans la pop culture. Et une fois encore, le sexisme se répète. Blade Runner et Blade Runner 2049, Her, Ex Machina, la série suédoise Real Humans… Systématiquement, le schéma est le même : un homme humain tombe amoureux d’une machine hétérosexuelle de genre féminin, de préférence sexy. Finalement, c’est encore une fois du côté des auteurs féminins, comme Rosa Montero ou la journaliste Annalee Newitz qu’il faut aller chercher pour se confronter avec des corps robotiques et des sentiments non masculino-centré.
Le rôle de la fiction est de faire semblant d’anticiper notre futur pour parler des faiblesses de notre présent. Visiblement, il est plus facile d’imaginer des voitures volantes et des robots qui parlent plutôt qu’une société égalitaire.