…et dès qu’on les entendait derrière le rideau, les conversations s’arrêtaient, les feuilles de notes bruissaient encore une fois brièvement, et après quelques raclements de gorge derrière les mains tendues, le silence se faisait. Le son d’un violoncelle a brisé le silence et le public a écouté, tendu. Il n’y avait rien à voir, car le rideau restait fermé et seule la musique se faisait entendre. Cela dura quelques minutes, pendant lesquelles les personnes présentes semblaient absentes et lointaines, car certaines avaient les yeux fermés et se penchaient largement en arrière. Les observateurs auraient pu supposer qu’ils s’étaient endormis s’il n’y avait pas eu leurs mains pour suivre la mélodie. Dès que le jeu s’est terminé, les applaudissements habituels ne se sont pas levés. Des bruits de vêtements, un archet qui claque contre le violoncelle se font entendre, puis les pas disparaissent au loin derrière le rideau. Cela devrait se répéter toute la journée comme un rituel. Des pas, des raclements de gorge, des mouchages, des bruissements, de la musique, puis des cliquetis et des pas qui disparaissent.
Nous avons été témoins d’une procédure de sélection pour les nouveaux membres de l’orchestre et l’audition derrière le rideau devrait garantir un déroulement équitable. Les grands orchestres symphoniques avaient commencé à réorganiser leur recherche de musiciens il y a 50 ans. Les orchestres, pour la plupart exclusivement masculins, étaient jusqu’alors triés sur le volet par des chefs d’orchestre ou des directeurs musicaux tout aussi masculins. Mais les temps avaient changé. Non seulement les membres de l’orchestre avaient exigé et obtenu un droit de regard, mais ils voulaient également intégrer des musiciennes dans leurs rangs. Cependant, la méthode de sélection utilisée jusqu’à présent, qui consistait à faire passer des auditions aux candidats sur une scène ouverte, éliminait presque toujours complètement les femmes. Les préjugés masculins à l’égard des musiciennes ne pouvaient pas être éliminés sur simple commande. C’est pourquoi l’audition derrière un rideau est devenue le répertoire standard de la plupart des orchestres, et le nombre de candidates sélectionnées a augmenté d’un quart. Ce qui semblait beaucoup au premier abord ne l’était pourtant pas, car trop de candidates passaient encore au tamis.
Les femmes n’étaient-elles toujours pas assez bonnes ? Non, le jury masculin avait inconsciemment enregistré d’autres indices en fonction du sexe des candidats. Un pas claquant d’une femme en talons aiguilles ou une démarche trop souple dans des chaussures plates révélaient sans équivoque son sexe. Depuis, les chaussures sont retirées en coulisses afin que les candidats, pieds nus, ne soient pas reconnus.
Si nous, les humains, percevons déjà, consciemment ou inconsciemment, des critères qui renforcent nos préjugés, que dire d’une intelligence artificielle qui, inspirée par le cerveau humain et alimentée par des données générées par l’homme, a accès à encore plus de ces critères et y trouve des modèles qui reflètent implicitement les préjugés ?
Le détaillant en ligne Amazon a lutté pendant près de deux ans avec son IA, qui devait passer au travers d’un flot croissant de milliers de candidatures par semaine et filtrer les bons candidats. Le système a toutefois été rendu suspect par l’absence quasi totale de candidatures féminines. Des recherches ont montré que les dossiers de candidature des centaines de milliers d’anciens employés favorisaient les hommes et l’IA a simplement appris que le volley-ball féminin à l’université ou les prénoms féminins ne correspondaient à aucun modèle des données d’entraînement et qu’ils étaient donc éliminés. Amazon a commencé à supprimer ces critères, mais l’IA en identifiait allègrement d’autres. Le combat est resté sans espoir et Amazon a abandonné. Aujourd’hui, les gens regardent à nouveau les dossiers de candidature, l’IA a été virée.
Le biais – en français : préjugé – de l’IA nous occupera encore davantage, tout comme de nombreuses opportunités, possibilités et risques. Et pour cela, nous devons trouver des moyens de tester et d’évaluer les IA. Il existe de nombreux tests, la plupart seraient spécifiquement conçus pour les humains, d’autres pour les machines.
Voici un petit extrait de mon livre à paraître cet automne, L’intelligence créative : comment ChatGPT et autres vont changer le monde. Il peut déjà être précommandé ici.
