Les biais algorithmiques - oui ils sont bien réels

Les biais algorithmiques existent bel et bien, et leurs implications sont réelles et peuvent être potentiellement graves. Malgré le sentiment d’émerveillement et de mysticisme parfois associé au sujet aujourd’hui, l’intelligence artificielle n’a rien de magique. En soi, l’intelligence artificielle ne peut pas résoudre tous les défis du monde et elle n’est pas non plus réservée à une élite de génies technologiques titulaires de doctorats pour l’utiliser ou la comprendre. Des humains se trouvent derrière les algorithmes et, lorsqu’il est question d’apprentissage automatique, l’un des sous domaines les plus discutés de l’intelligence artificielle, les biais algorithmiques finissent souvent par se manifester.

L’apprentissage automatique correspond à l’utilisation et au développement de systèmes informatiques capables d’apprendre et de s’adapter sans instructions explicites, en s’appuyant sur des algorithmes et des modèles statistiques pour analyser des données et en tirer des inférences à partir de schémas observés. Les systèmes d’intelligence artificielle utilisent ensuite ces schémas pour formuler des hypothèses à partir des données.

‍

Aucun tour de magie

‍
Tout repose sur les algorithmes, les ensembles de données et l’entraînement des données, et non sur la magie. Alors que les études continuent de démontrer l’existence d’une crise de la diversité au sein de l’industrie de l’intelligence artificielle, il devient plus facile de comprendre le rôle que les biais inconscients peuvent jouer dans le développement. Les êtres humains peuvent transférer leurs propres biais implicites aux algorithmes, ce qui entraîne des erreurs systématiques et reproductibles dans les systèmes et les modèles.

Dans le même temps, il ne faut pas sous estimer le potentiel considérable de l’intelligence artificielle à éliminer et corriger les biais existants et à agir comme un catalyseur d’une plus grande diversité. Mais pour que cela soit possible, les bons paramètres doivent être mis en place.

‍

Pourquoi est ce si important

‍
Étant donné que l’intelligence artificielle est utilisée pour résoudre des défis sociaux, médicaux, éducatifs, environnementaux et de nombreux problèmes complexes en entreprise, les biais algorithmiques peuvent avoir des conséquences bien réelles dans la vie quotidienne. Prenons l’exemple des logiciels de reconnaissance faciale utilisés par certaines forces de police pour comparer des photos de suspects à des photos d’archives et à des images de permis de conduire. Des recherches ont montré que les taux de précision les plus faibles concernent de manière constante les personnes de sexe féminin, les personnes noires et les individus âgés de 18 à 30 ans. Dans le domaine de la santé, un manque d’intégrité des données peut favoriser les inégalités en matière de soins. Il convient toutefois de préciser que la plupart des personnes ne cherchent pas volontairement à créer des algorithmes biaisés et que celles qui prennent des décisions concernant les applications commerciales de l’intelligence artificielle ne sont souvent pas conscientes des biais intégrés dans leurs modèles.

Ces constats ne sont pas nouveaux. Toutefois, même s’il nous reste encore beaucoup à apprendre et à accomplir en matière d’intelligence artificielle, certaines mesures concrètes doivent être prises pour faire mieux.

‍

Quatre actions que l’industrie de l’intelligence artificielle doit entreprendre pour réduire les biais

‍

Renforcer la sensibilisation à l’échelle de l’organisation. L’innovation ne doit pas servir d’excuse à l’ignorance. Certes, nous apprenons en avançant, mais ce n’est pas une raison pour ignorer le problème. Il est essentiel que toutes les personnes qui ont une influence sur le développement des systèmes et des modèles comprennent que les biais algorithmiques sont réels. Il faut également les aider à comprendre le rôle des biais inconscients et la manière dont ils peuvent s’infiltrer dans notre travail malgré nos bonnes intentions.

‍

Recruter des profils plus diversifiés. Pour résoudre des problèmes réels à grande échelle, les spécialistes de l’intelligence artificielle doivent refléter la diversité des populations qu’ils impactent. Si vous avez des difficultés à recruter la main d’œuvre diversifiée dont vous avez besoin, échangez avec les personnes qui seront affectées par vos programmes. Consultez les parties concernées afin de comprendre les risques potentiels. Le développement ne peut pas se faire en vase clos.

‍

Cesser de s’appuyer excessivement sur les données historiques. Vous l’avez déjà entendu des centaines de fois, des données de mauvaise qualité produisent de mauvais résultats. La collecte de données repose encore trop souvent sur des données historiques. Or, celles ci posent problème lorsqu’elles ne reflètent plus la réalité actuelle.

‍

Rendre l’intelligence artificielle explicable et transparente. En matière d’intelligence artificielle, les entreprises doivent donner la priorité à l’explicabilité et à la transparence. Nous pourrons instaurer la confiance dans l’intelligence artificielle lorsque nous construirons des systèmes dont le fonctionnement est transparent, afin que chacun puisse comprendre comment ces systèmes parviennent à leurs décisions et à leurs prédictions. Une intelligence artificielle explicable est une intelligence artificielle responsable.

‍

L’intelligence artificielle peut effectivement jouer un rôle dans la correction des biais existants, mais à condition que les éléments nécessaires soient en place pour empêcher les spécialistes de l’intelligence artificielle de transférer leurs propres biais inconscients dans leur travail. L’intelligence artificielle ne fonctionne pas seule. Les professionnels doivent mettre en place une gouvernance appropriée, être conscients de leurs propres biais, s’assurer que des voix diverses participent aux prises de décision, et garantir que les algorithmes soient explicables et transparents.

‍

Lorsque tous ces paramètres sont réunis, l’intelligence artificielle peut véritablement devenir un outil puissant pour lutter contre les biais et contribuer à une prise de décision plus juste au sein des organisations.

‍

‍

‍