La vision d’un être intelligent omniscient et omniprésent qui constitue l’épine dorsale de notre vie quotidienne a été dépeinte dans des films qui captivent l’imagination de beaucoup. Aujourd’hui, cette vision n’est pas très éloignée de la réalité, et nous la voyons à l’œuvre grâce à l’intelligence artificielle (IA) – qu’il s’agisse d’assistants vocaux alimentés par l’IA comme Alexa, d’aider à résoudre des problèmes de circulation, de permettre le séquençage de l’ADN, de s’attaquer à des problèmes commerciaux et de transformer des secteurs tels que la tech, les soins de santé jusqu’à la logistique et la fintech.
Les technologies actuelles de l’IA auraient le potentiel d’automatiser environ 50 % des activités professionnelles dans les quatre plus grandes économies de l’ANASE – l’Indonésie, la Malaisie, les Philippines et la Thaïlande. Même si l’IA trouve de plus en plus sa place dans notre vie quotidienne, son pouvoir de transformation est sous-tendu par un problème plus profond qui menace le tissu même de notre société – la présence de préjugés en son sein.
Découvrir les racines des préjugés
Une grande partie des capacités de l’IA en tant que système intelligent et cognitif repose sur sa programmation et son entraînement. À la base, l’IA fonctionne sur des algorithmes et des ensembles de données, le moteur de l’économie numérique du 21e siècle. Cependant, l’IA hérite et reflète aussi malheureusement les préjugés existants de ses créateurs à travers les données qui lui sont fournies.
Par exemple, lorsqu’elle est utilisée dans le recrutement, une IA biaisée pourrait être entraînée à présélectionner des candidats potentiels en fonction de profils sélectionnés d’employés très performants, qui peuvent ne pas être représentatifs de la main-d’œuvre de l’entreprise ni considérer la diversité et l’inclusion comme un facteur d’embauche, et potentiellement biaiser la démographie d’embauche.
Les capacités de l’IA ne sont aussi objectives que la qualité des entrées de données, ainsi que les hypothèses autour de ces données. Lorsque ces données ne sont pas soigneusement sélectionnées, l’IA peut non seulement valider les préjugés que nous entretenons, mais aussi les perpétuer davantage. Si l’on n’y prête pas attention, cela pourrait poser des problèmes à la société, étant donné que l’IA a déjà trouvé sa place dans des secteurs tels que les télécommunications, la médecine, le droit et la finance. Par exemple, un système d’IA biaisé pourrait refuser un prêt bancaire simplement parce que l’emprunteur est situé dans un quartier plus pauvre.
Les scénarios possibles sont infinis, bien que la conclusion soit retentissante : les biais dans l’IA doivent être rapidement abordés alors que l’IA en est encore à ses balbutiements, avant qu’elle ne progresse trop pour déraciner les problèmes qui se trouvent à la conception. L’existence de préjugés dans l’IA s’explique en partie par le manque de diversité, notamment de genre, dans l’industrie technologique. Encore plus pour un domaine hautement spécialisé comme l’IA, et il a été constaté que seulement 18 % des cadres de niveau C dans les entreprises d’IA ou d’apprentissage automatique sont des femmes.
L’IA peut-elle être vraiment objective ?
Un agent clé du changement consiste à s’assurer que les données utilisées pour former l’IA sont représentatives de divers facteurs socio-économiques, notamment la race, la religion, la sexualité, l’éducation, le parcours professionnel et le statut financier.
En outre, il est essentiel d’élargir et de diversifier le vivier de talents des personnes travaillant sur la prochaine génération d’IA. Ceux-ci devraient inclure des femmes, des créatifs, des sociologues et diverses industries qui peuvent ensemble identifier les aspects manquants de l’IA et fournir les perspectives nécessaires pour éliminer les préjugés. Apporter les perspectives alternatives des femmes peut stimuler la créativité au sein de l’industrie et cultiver la diversité des genres, et aussi empêcher l’IA de devenir une technologie biaisée et genrée.
L’IA présente une nouvelle frontière passionnante pour la race humaine, et pourrait peut-être être la technologie déterminante qui changera notre monde comme jamais auparavant. Le secteur des soins de santé a été un moteur essentiel de l’IA, avec des percées récentes, notamment le premier stéthoscope alimenté par l’IA au monde, une invention malaisienne qui permet une surveillance et une détection précises des maladies cardiaques et pulmonaires.
Cependant, comme pour toute nouvelle technologie, une approche prudente est nécessaire dans sa conception et sa mise en œuvre. Si l’IA est conçue pour nous faciliter la vie, nos responsabilités et nos obligations éthiques ne peuvent être sous-traitées aux machines. Un cadre mondial et une gouvernance accrue de l’IA sont essentiels pour garantir que la technologie même que nous concevons pour nous aider ne fasse pas le contraire.
Il a été dit que le biais est un trait humain inhérent et impossible à éliminer, cependant l’objectif n’est pas d’éliminer le biais, mais de le réduire à un niveau négligeable. Lorsque nous réunissons les plus grands esprits de l’industrie et impliquons des partenaires de tous les secteurs, des communautés et des personnes de tous les horizons, les efforts visant à utiliser l’IA pour rendre le monde meilleur, en transcendant la race, la religion, la couleur et le sexe, donneront des résultats inégalés pour l’humanité.
