La diversité : clé de voûte de l’intelligence artificielle

Vous rappelez-vous les robots aspirateurs autonomes très à la mode il y a quelques années ? Une nouveauté aussi pratique que révolutionnaire, devenue un exemple édifiant du besoin vital de diversité dans l’intelligence artificielle.

Une nuit, en Corée du Sud, où la population dort souvent sur des matelas posés au sol, un robot aspirateur « a mangé » les cheveux d’une femme pendant son sommeil. N’y voyez point de malice de la part du robot, il a simplement accompli la tâche pour laquelle il était programmé. Mais voilà : les implications culturelles n’avaient pas été prises en compte pendant les différentes étapes du développement produit. Personne ne s’était demandé : « est-ce que tous les utilisateurs du produit dorment sur un lit en hauteur et que pourrait-on envisager pour ceux qui dorment au niveau du sol ? ».

À mesure que se propage l’usage de l’intelligence artificielle, dans bien d’autres domaines que celui des robots domestiques, il est crucial que la diversité soit prise en compte dans le processus de création. Les entreprises sont obnubilées par les aspects les plus évidents de la diversité : origines, sexe et âge. Mais elles passent à côté de certains éléments essentiels : la culture, les traditions et la religion. Ne pas prendre en compte la diversité dans son ensemble peut avoir des conséquences néfastes pour de nombreuses populations auxquelles l’IA est supposée rendre service.

Les trois dimensions de la diversité

La diversité dans son ensemble regroupe trois dimensions principales : la diversité humaine, la diversité culturelle et la diversité des systèmes. La diversité humaine comprend tout ce qui est immuable chez l’humain : ses origines, son âge, son sexe. C’est sa dimension la plus courante. La diversité culturelle, ce sont les qualités intrinsèques de l’identité d’une personne, mais qui peuvent changer : son mode d’apprentissage, de réflexion et de travail ; sa religion ; son éthique et les langues qu’elle maîtrise. Et pour finir, la diversité des systèmes identifie la manière dont les systèmes, comme l’enseignement, la responsabilisation ou la gestion de la performance, fonctionnent les uns avec les autres.

Ces trois dimensions de la diversité s’appliquent à toutes les situations professionnelles, surtout lorsqu’il est question d’intelligence artificielle. Lors de la formation d’une équipe pour le développement d’une IA, il est primordial de prendre en compte tous les éléments se référant à la diversité des systèmes, humains ou culturels, en veillant à ce qu’aucun d’entre eux ne soit écarté pendant la conception du produit. Le problème, c’est qu’à moins que l’équipe ne soit représentative de cette diversité, il est presque impossible que ses membres se posent les bonnes questions : si un des éléments est étranger à leur univers (comme dormir au niveau du sol), jamais l’idée ne les effleurera. Cela conduit à des dangers tels que des oublis et avec l’IA, le phénomène peut s’amplifier dans le temps.

Les effets néfastes de la méconnaissance

J’ai commencé à réfléchir à la diversité dans l’IA et à ses conséquences à la lumière de mon travail dans les ressources humaines. Qui a déjà effectué une recherche sur un site d’emploi connaît sans doute les effets négatifs aggravés de l’intelligence artificielle.

Prenons une recherche de candidats au poste d’ingénieur. Rien qu’en entrant les qualifications techniques pour un poste, le résultat sort une page entière d’hommes de type caucasien. En conservant les qualifications techniques, ajoutons simplement « Association des femmes ingénieurs » comme termes de recherche, pour voir ce que ça change. Sans grande surprise, on obtient une page remplie de femmes, complètement invisibles lors de la première recherche. Et si vous remplacez « Association des femmes ingénieurs » par « Université de Grenoble », vous obtenez des candidats Suisses et Italiens, qui n’apparaissaient pas non plus lors de la première recherche.

Ces deux dernières recherches ne sont pas surprenantes. Ce qui est frappant, c’est la première recherche, le mode par défaut. Les systèmes d’IA sont conçus pour ne pas créer de situations complexes, elles doivent créer des situations simples. L’IA ne va pas vous signifier : « vous n’avez jamais réalisé cette action auparavant. Essayez quelque chose de complètement différent, même si rien ne m’indique que cela vous intéresse. »

Avec l’IA, si je sélectionne des profils dès la première recherche, elle apprendra de cette sélection et continuera à sortir comme résultat le même type de profils et de candidats, encore et encore. Ainsi, des groupes entiers de personnes sont éliminés systématiquement. Si certains groupes ne sont pas inclus dans les données prises en compte par l’IA, à long terme, des problèmes ou difficultés dont elles ne tiennent pas compte ne pourront jamais être résolus.

L’histoire le prouve avec l’architecture de l’habitat public, celle du monde d’avant l’intelligence artificielle. Les villes étatsuniennes ont adopté des formes européennes qu’elles idéalisaient et les ont juxtaposées à des voies rapides ou à d’autres lieux peu amènes, pratiquement dénués d’espaces publics ou d’espaces verts. Avec le temps, la brutalité de ces lieux a entraîné des conséquences sur le développement des êtres humains à divers niveaux. Bien que ce genre de contexte urbain ait donné naissance à la culture hip-hop, les retombées néfastes ont surpassé de loin les retombées bénéfiques. Imaginons une IA autonome prenant d’importantes décisions en matière d’architecture et d’aménagement. Qui va garantir que le système tient compte de l’espace disponible et de l’ensoleillement afin que les habitants ne soient pas confinés dans l’ombre, sans espace public ?

Une grande partie de la charge de travail visant à garantir la diversité retombera sur les entreprises qui construisent des systèmes basés sur l’IA.

Le besoin de créateurs d’IA issus de la diversité

Rien de tel que d’avoir voix au chapitre afin d’influencer l’avenir. En termes d’intelligence artificielle, l’inclusion de nombreux décideurs va requérir une coopération rapprochée avec les entreprises, les écoles, les organismes d’état et d’autres institutions.

Actuellement, aucun organisme d’état ne se consacre exclusivement à cette thématique. AI Now, un groupe open source créé pour apporter des réponses dans ce domaine est en cours de développement. L’administration Obama a publié un livre blanc sur cette thématique, dans le contexte de l’impact du personnel sur l’IA, mais on ne sait pas encore si la politique de l’administration Trump y fera suite.

Cela signifie qu’une grande partie du travail visant à garantir la diversité sera à la charge des entreprises qui construisent des systèmes basés sur l’IA et sur les dirigeants qui forment des équipes de développement. Ainsi, si tout le personnel d’une équipe de développement se ressemble, c’est que celle-ci manque sûrement de diversité. En plus des origines ethniques, il est crucial de prendre en compte des éléments comme la langue ou la nationalité. La vision du monde d’une personne provenant d’un pays moins développé d’Asie sera bien différente de celle d’un Allemand et les deux poseront des questions différentes, mais tout aussi importantes. À partir de cela, il faut sous-diviser d’autres qualités afin d’identifier l’équipe appropriée pour la solution que l’on souhaite trouver avec l’IA.

Les débats sur la diversité sont apparus assez tôt. Et c’est une bonne nouvelle.

C’est le moment pour la diversité de se faire sa place dans l’intelligence artificielle

L’apprentissage automatique et l’IA sont relativement récents, ce qui signifie que ces débats sur la diversité sont apparus assez tôt dans le temps et que leur développement est encore en cours. Les acteurs ne sont encore pas fixes. Et c’est une bonne nouvelle.

Aujourd’hui, il existe une conscience différente autour de la diversité, ce qui est encourageant. Contrairement à il y a 20 ans, le monde comprend ce que « diversité » veut dire. Le chemin sera long avant qu’on ne puisse garantir que les autres visions du monde et que les autres cultures soient prises en compte dans ces systèmes, car la diversité dans l’IA est un problème mondial avec des implications pour tous.

La mise en place de systèmes d’IA complets ne concerne pas que les entreprises occidentales qui résolvent les problèmes des autres, car l’objectif reste que toutes les populations soient à même de résoudre leurs propres problèmes. Encore une fois, cela souligne le fait que les représentants de toutes ces populations doivent avoir voix au chapitre. S’ils ne s’expriment pas sur des points précis, alors ils ne seront jamais pris en compte.

C’est la difficulté qui se pose à la communauté de l’IA. Heureusement, il est encore temps d’agir en ce sens. Cela signifie que, grâce à des efforts stratégiques de diversité, l’IA peut encore être façonnée et conduire à des résultats optimisés.