Prendre conscience des stéréotypes et des biais de l’IA

Par Yan St-Onge, agent de documentation du chantier IA

Introduction

J’accompagne les artistes en résidence à Sporobole dans le cadre du Chantier IA pour essayer de comprendre l’impact et le changement qui s’opèrent dans les pratiques de création. Je vais donc vous partager aujourd’hui quelques constats qui ressortent de mes recherches depuis mai 2024 sur les enjeux de l’utilisation de l’intelligence artificielle dans une démarche artistique. Je me pencherai en particulier sur les stéréotypes et les biais de l’intelligence artificielle (IA) dans la création d’images.

Stéréotypes et biais de représentation

Les arts donnent à voir un certain point de vue sur le monde, une certaine représentation du monde réel ou d’un monde fictif. On entend par représentation l’action de rendre visible quelque chose au moyen de figures, de symboles et de signes. Plus spécifiquement, c’est l’action de montrer une réalité dans une œuvre visuelle figurative. On peut aussi considérer l’art abstrait comme une forme de représentation, mais il s’agit davantage de représenter des éléments immatériels comme des émotions ou bien de présenter la matérialité de l’œuvre elle-même avec ses composantes.

L’usage de l’intelligence artificielle (IA) vient inévitablement avec son lot d’enjeux en termes de représentation artistique. Chaque outil d’IA générative a ses propres biais et stéréotypes, en fonction des données sur lesquelles il a été entraîné. Les plus connus sont les biais ethniques, sexistes et homophobes(1). Dans certains cas, les biais racistes et sexistes se croisent, comme le démontre l’expérience de la journaliste Melissa Heikkilä qui, en voulant se créer des avatars avec l’IA générative, a obtenu des représentations hypersexualisées et influencées par l’esthétique des films d’animation japonais, en raison de son genre et de son apparence asiatique(2).

Dans les pratiques artistiques, cela a comme impact que, par défaut, l’IA a tendance à générer des images de corps féminins nus ou érotisés, que certains métiers sont davantage représentés par des hommes ou par des femmes, en fonction de stéréotypes de genre, et que les personnages générés auront plus souvent qu’autrement l’apparence de personnes blanches. Il est toutefois possible pour les artistes d’essayer de contourner ces tendances en cherchant à influencer l’IA en lui donnant des consignes ou en lui fournissant des images à titre d’exemples. Par contre, ce processus peut devenir fastidieux et long, et le résultat escompté n’est pas toujours convaincant.

Lors de la résidence au printemps 2025 de Chuan Hua Catherine Dong, on a pu constater que la provenance des outils d’IA peut avoir un impact sur la capacité à représenter certaines cultures. Par exemple, les outils d’IA occidentaux rendaient plus difficile de prime abord la création de figures chinoises qui ne correspondaient pas au stéréotype de la femme asiatique petite, fragile et filiforme, alors que des outils chinois n’avaient pas autant ce problème. En revanche, on se rend bien compte que chaque outil vient avec son lot de biais. Remplacer un outil d’IA générative par un autre ne résout pas les questions de biais et de représentation : cela revient souvent à échanger un ensemble de problèmes contre un autre. Par exemple, la censure politique des outils chinois empêche de créer du contenu sur certains sujets, comme c’est le cas avec DeepSeek qui refuse d’aborder les événements de la place Tiananmen ou qui censure certains sujets liés à la politique chinoise, tel que l’autonomie de Taiwan ou du Tibet(3).

On voit bien le dilemme que pose la création avec l’IA : faut-il décider de ne pas intégrer une figure féminine dans un projet artistique ou de simplement créer cette figure sans l’IA, car cela s’avère une solution plus facile que de corriger les biais de l’outil? Dans le pire des cas, est-ce que l’artiste devra accepter une représentation érotisée imprévue dans le projet? On voit bien que cet enjeu de représentation influencera les choix des artistes, ce qui illustre à la fois à quel point l’IA ne peut pas tout faire sans biais, mais surtout que l’artiste, pour garder le contrôle sur l’œuvre, devra utiliser l’IA en complément à d’autres techniques de création.

Biais esthétiques

L’esthétique des images générées par l’IA s’avère souvent associée à des styles facilement reconnaissables. Selon l’outil utilisé, il y aura une prédominance d’images de type jeu vidéo ou de manga, d’images publicitaires, d’illustrations au trait ou en à-plat de couleurs, d’images photoréalistes ou reprenant l’apparence du dessin numérique en 3D. Certains outils comme Adobe Firefly proposent des styles et des ambiances très clairement prédéfinies, comme le pointillisme, le pixel art ou le film noir.

Le désavantage des styles prédéfinis ou des tendances esthétiques prédominantes, c’est qu’il n’est pas simple d’arriver à les transcender. Et surtout, il est difficile de connaître les biais esthétiques sans avoir utilisé durant un certain temps chaque outil. C’est pourquoi les artistes se retrouvent à multiplier les étapes en utilisant plusieurs outils d’IA pour arriver à des résultats satisfaisants. L’autre option est de retravailler par soi-même les images générées.

En passant d’un outil à un autre durant le processus de création, on arrive à dépasser les limitations esthétiques de chacun de ces outils. En fait, même lorsque l’artiste souhaite volontairement travailler avec la matière générée par l’IA, parce que cela fait partie de la démarche artistique de déléguer une part de l’intentionnalité à la machine, il y a de toute manière une étape de sélection qui consiste souvent à éliminer les images les moins intéressantes, et bien souvent, il s’agit de celles qui sont trop ancrées dans des esthétiques prédéfinies. Le problème des biais esthétiques repose en grande partie sur le genre d’images ayant servi à l’entraînement de l’IA, mais aussi, sur la volonté des entreprises d’offrir un outil grand public et accessible.

Il faut distinguer le geste de générer une image avec l’IA et le fait de créer une œuvre visuelle avec l’IA. Le premier verbe évoque un geste, une étape, tandis que le second évoque une démarche, un processus, dans lequel il y a plusieurs étapes de générations successives. La génération automatisée par l’IA n’est pas une fin en soi mais un moyen. À l’exception des cas où l’on souhaite volontairement parodier un genre, un style ou un mouvement artistique, la création d’images avec l’IA s’effectue donc rarement d’un seul coup.

Complexité de la représentation du corps humain

Les images générées par l’IA présentent souvent des problèmes dans la représentation réaliste des mains humaines. De nombreux exemples ont d’ailleurs circulé dans les médias ces dernières années pour appuyer une critique de l’intelligence artificielle. Bien que les prochaines versions des outils d’IA deviendront de plus en plus efficaces pour éviter ces étrangetés de mains à huit ou à trois doigts, le problème à la source reste identique : le fonctionnement par calcul, en se basant sur des données (en l’occurrence des tonnes d’images), ne sera toujours qu’une approximation d’un réel que l’IA n’est pas en mesure de « comprendre », puisqu’elle n’a rien d’une véritable intelligence.

Dans de nombreuses photos d’êtres humains ayant servi à entraîner l’IA, les doigts sont souvent cachés parce qu’une main tient quelque chose ou parce que deux mains se touchent. C’est pourquoi il est difficile pour l’IA générative de prendre pour acquis le nombre exact de doigts que devrait avoir une main(4).

Il faut dire que l’IA ne trie pas avec certitude dans ses données les images fictives et les images réalistes. Dans le domaine de la fiction, les personnages de dessin animé traditionnel n’ont souvent que quatre doigts pour faciliter la création(5). Certains personnages de jeux vidéo ou de dessin animé ont quatre bras, tandis que certaines divinités dans l’hindouisme et le bouddhisme ont un très grand nombre de bras. La multitude de représentations réelles et fictives conduit ainsi l’IA à générer des images avec un nombre variable de doigts et de bras.

Par ailleurs, la complexité de la composition du corps humain fait en sorte que l’IA génère parfois un corps dans lequel le positionnement des membres n’est pas toujours réaliste, ou encore, une image dans laquelle sont fusionnés plusieurs corps différents mais n’en forment en apparence qu’un seul. Les outils d’IA évoluent pour éviter de plus en plus ces problèmes, mais le principe de fonctionnement par calcul menant à ces étrangetés demeure, ce qui ne pourra probablement jamais empêcher complètement les situations où l’IA représente mal le corps humain.

Dans un autre ordre d’idées, lors de la résidence à Sporobole de l’artiste Marie-Ève Levasseur en 2024, on a constaté que même en faisant des commandes négatives(6) (ou prompts négatifs) pour préciser qu’il ne doit pas y avoir d’humains dans l’image, il était fréquent que des mains apparaissent pour tenir des objets. Évidemment, la difficulté réside dans le fait que l’IA n’a pas de véritable intelligence, elle ne « sait » pas ce qu’est un corps humain et de quoi il est constitué. En ne mettant pas de figure humaine complète, l’apparition de mains pour tenir des objets ne va donc probablement pas à l’encontre de la requête d’absence humaine dans la logique de la machine.

Malheureusement, les outils permettant des commandes négatives pour signifier ce qui doit être exclu de l’image ne permettent pas toujours d’éviter certaines tendances esthétiques ancrées dans l’énorme base de données derrière l’IA.

Durant sa résidence en 2024 à Sporobole, l’artiste Simon Laroche a au contraire fait l’expérience de la disparition de la figure humaine. En passant des milliers de fois une image dans l’IA, la simplification graduelle a conduit à une lente disparition des êtres humains, puis de tout élément figuratif complexe(7). Cette dégénérescence de l’IA est au cœur du fonctionnement de celle-ci, puisque l’IA « utilise l’inférence statistique comme moteur-clé(8) ». Or, dans la réalité naturelle et humaine, « les situations sont contextuelles, ouvertes, complexes et imprévisibles(9) ». Est-ce qu’on peut en déduire que l’IA gère mal la complexité? Serait-ce pour cela qu’elle tend à produire des images très caricaturales ayant peu de subtilités?

Le problème réside-t-il dans le principe de travailler avec une IA généraliste au lieu de se tourner vers une IA spécialisée? Ainsi, il sera intéressant de voir l’évolution des modèles spécialisés d’IA qui pourront possiblement correspondre davantage aux attentes des artistes, avec un entraînement plus spécifique, s’alignant davantage sur les tâches à accomplir.

—-

1. https://www.unesco.org/fr/articles/ia-generative-une-etude-de-lunesco-revele-la-presence-dimportants-stereotypes-de-genre
2. https://www.technologyreview.com/2022/12/12/1064751/the-viral-ai-avatar-app-lensa-undressed-me-without-my-consent/
3. Donna Lu, «We tried out DeepSeek. It worked well, until we asked it about Tiananmen Square and Taiwan», The Guardian, 28 janvier 2025. https://www.theguardian.com/technology/2025/jan/28/we-tried-out-deepseek-it-works-well-until-we-asked-it-about-tiananmen-square-and-taiwan
4. https://www.huffingtonpost.fr/science/video/les-ia-ne-savent-pas-dessiner-les-mains-voici-pourquoi_213943.html
5. C’est le cas pour Les Simpson, Les Pierrafeu ou Les Jetson, mais aussi pour les personnages d’animaux dans l’univers de Disney, comme Mickey et Minnie Mouse, ou bien Donald Duck. Si on regarde les personnages de dessins animés n’ayant pas une apparence humaine, il y a aussi Les Minions qui n’ont que trois doigts. C’était évidemment une stratégie fort utile pour faciliter le travail lorsque les dessins animés étaient entièrement dessinés à la main.
6. Une commande négative est une liste de ce que l’on ne veut pas avoir dans l’image. Ça peut être des éléments de contenu à éviter, comme un animal, un humain ou une couleur spécifique, mais aussi des éléments liés à la qualité de l’image ou au type de rendu, comme éviter les images à basse résolution ou bien le dessin de type bande dessinée.
7. À ce sujet, voir l’article précédent : « Quand l’art rencontre l’IA. Au-delà du mythe de la machine prodigieuse ». https://sporobole.org/chantier-ia-quand-lart-rencontre-lia-blogue/
8. https://www.ledevoir.com/opinion/idees/617373/technologie-l-intelligence-artificielle-et-la-pensee-complexe-selon-edgar-morin?
9. https://www.ledevoir.com/opinion/idees/617373/technologie-l-intelligence-artificielle-et-la-pensee-complexe-selon-edgar-morin?