Temps de lecture : 4 Minutes
Lorsque des préjugés existent sur le lieu de travail, cela nuit non seulement à l’inclusion et à la diversité, mais aussi à la créativité et à l’innovation. David Mattin, observateur de tendances, affirme que nous devrions nous tourner vers l’IA pour trouver la solution.
Dès 2016, Microsoft a lancé sur Twitter un chatbot alimenté par l’IA. Tay, c’était son nom, était « une expérience d’apprentissage conversationnel » pour Microsoft. Après 24 heures, Tay déversait un flot constant de paroles essentiellement haineuses que la décence nous interdit de reproduire ici. « Relax ! Je suis quelqu’un de gentil. Je déteste simplement tout le monde » était l’une de ces quelques répliques dicibles.
Il ne fut pas difficile de comprendre quel était le problème. Tay utilisait l’IA pour apprendre des conversations qu’elle avait tenues avec de vraies personnes et ajuster ses réponses en conséquence. Si vous insufflez de la haine, vous obtenez de la haine. Microsoft a rapidement retiré son chabot et présenté ses excuses. Mais depuis, Tay incarne la relation complexe et épineuse entre l’IA et l’éthique humaine.
De plus en plus, nos vies sont gouvernées en partie par des algorithmes d’IA, depuis nos fils d’actualité Facebook jusqu’aux places boursières. Comment nous assurer que ces algorithmes ne répliquent pas simplement nos défauts tout à fait humains, et les renforcent par là même, y compris les préjugés racistes, sexistes et autres ?
Le coaching pour contrer les préjugés
Ce débat ne fera que s’intensifier en 2018. Mais pour le moment, une nouvelle approche est en train de se dessiner. Et si nous prenions le problème par l’autre bout ? Et si nous nous demandions : qu’est-ce que l’IA pourrait nous apprendre sur la construction d’un monde plus éthique ?
Au vu de l’expérience avec Tay, et du plus large débat sur comment s’assurer que l’IA ne nous fera pas replonger dans des heures sombres de l’éthique, cela peut sembler être une question étonnante. Toutefois, le postulat de départ est raisonnable. Tous les êtres humains ont des préjugés. Souvent, nous ne pouvons, ou ne voulons, pas le voir. Il est évident que l’IA peut adopter ces inclinations humaines, mais si elle était aussi un puissant outil pour nous aider à les déceler chez nous et chez les autres ?
Or, il s’avère que cette révolution éthique alimentée par l’IA pourrait commencer par les espaces de travail. La start-up israélienne Joonko développe une application qui exploite l’IA pour déceler les tendances inconsciences des managers. Elle se synchronise avec des plates-formes courantes offrant des espaces de travail servant à gérer des équipes et allouer des tâches (Salesforce, Workday, etc.), puis se met au travail, analysant sans cesse les données à la recherche d’éventuels penchants. Si elle en détecte, Joonko en informe le manager concerné par un e-mail et commence un coaching pour rectifier les choses. Exemple : « Après examen de tous nos candidats au poste de responsable R&D, je constate qu’aucun n’est issu des groupes sous-représentés. Je note également que nous avons trois candidats issus de la diversité en attente à la phase d’examen des candidatures. »
Bien évidemment, le manager a toujours le dernier mot quant à qui il décide d’embaucher. Et le chemin est encore long avant que l’IA soit suffisamment intelligente pour gérer l’ensemble du processus. Néanmoins, Joonko et d’autres services similaires pilotés par l’IA peuvent d’ores et déjà nous fournir de précieuses informations sur lesquelles baser notre prise de décision.
L’IA peut-elle nous aider à réfléchir et à prendre des décisions avec un esprit plus clair, moins biaisé ?
Éliminons les tyrans
L’idée que l’IA pourrait nous aider à forger une culture d’entreprise plus éthique arrive à point nommé. Un monde plus connecté est un monde plus transparent, et plus de transparence permet de mettre au jour la culture interne de chaque entreprise comme jamais auparavant. Souvent, les clients n’aiment pas ce qu’ils découvrent. Il suffit de voir le retour de bâton envers les grands groupes de l’univers des technologies de la Silicon Valley qui a commencé en 2017 et qui se poursuit encore maintenant. Il est en partie suscité par le sentiment que les grands acteurs de la Silicon Valley ont entretenu des cultures internes toxiques en termes de sexisme, de harcèlement et de surcharge de travail. Ce sentiment est alimenté par le témoignage d’employés et anciens collaborateurs qui, dans ce monde connecté, peuvent toucher des millions de lecteurs.
La culture interne et le statut éthique des entreprises sont aujourd’hui une priorité. Dès lors que les employés auront commencé à entendre parler de Joonko et d’autres services similaires, il y a fort à parier qu’ils s’attendront à ce que leur propre employeur exploite l’IA pour garantir un environnement de travail juste et éthique. Avec l’ingestion des données appropriées, l’IA peut être entraînée à identifier et mettre en évidence toute sorte d’injustices, par exemple :
« Saviez-vous que vous avez tendance à faire monter en grade les hommes de votre équipe plus rapidement que les femmes ? »
« Saviez-vous que vous n’avez jamais recruté quelqu’un de plus de 40 ans, alors que 60 % des candidatures reçues répondent à ce critère ? »
Qui plus est, les managers pourraient être nettement plus enclins à accepter le fait qu’une véritable tendance a été décelée, et à y remédier, si le conseil vient de l’IA. L’IA arrive, cela ne fait aucun doute. Il nous appartient de faire en sorte qu’elle nous aide à devenir plus éthique, et non moins. Le lieu de travail est un bon endroit pour commencer. Prochaine étape, une direction générale en IA ? Il vaut mieux peut-être éviter de faire cette suggestion lors de la prochaine réunion de tout le personnel !
