Rencontre avec Aurélie Jean : Sans le réaliser nous interagissons et utilisons quotidiennement des algorithmes

Aurélie Jean © Géraldine Aresteanu

Pouvez-vous nous rappeler ce qu'est un algorithme ?

Un algorithme est littéralement une séquence d’opérations à exécuter selon une certaine logique. Aujourd’hui quand on parle d’algorithme on pense algorithme numérique destiné à être implémenté et exécuté par un ordinateur. Mais l’algorithme est bien plus ancien que les premiers ordinateurs. Le mot vient du nom latinisé algorithmi du mathématicien Perse du 9ème siècle de notre ère, Al-Khwarizmi, mais le concept tire ses origines de l’époque d’Euclide, 3 siècles avant notre ère, avec son œuvre Les Éléments.

Parmi les algorithmes computationnels (ou numériques) on distingue les algorithmes explicites qui sont entièrement explicités à la main, des algorithmes implicites dont la logique est construite implicitement par apprentissage sur des données.

Vous avez publié le livre "De l'autre côté de la machine", dans lequel vous donnez de nombreux conseils pour "vivre" avec les algorithmes : pouvez-vous nous expliquer comment les algorithmes nous aident au quotidien ? Avez-vous des exemples concrets d'algorithmes qui impactent notre vie de manière positive ?

Sans le réaliser nous interagissons et utilisons quotidiennement des algorithmes. Dans nos modes de déplacements (en passant notre passe navigo sur la borne du métro par exemple ou en calculant le trajet le plus court basé sur la circulation), pour nous soigner (dans des mesures réalisées sur des tests biologiques ou encore dans la détection de tumeurs sur des radiologies), pour communiquer (pour des traductions simultanées par exemple), ou encore pour apprendre (par des outils d’apprentissage personnalisés en ligne par exemple).

La médecine est à elle seule un magnifique exemple de domaine dans lequel l’IA peut faire de belles choses. Même sur des aspects auxquels on ne pense pas forcément comme le triage fin des patients à l’arrivée aux urgences pour prioriser les patients en fonction de leur état physique et mental, mais aussi dans la création des vaccins contre le COVID19.

Comment faire la différence entre les vraies menaces (notamment éthiques), les fausses promesses et les chances qu'offrent les algorithmes ? Où placez-vous le curseur ?

Tout d’abord les algorithmes peuvent, comme beaucoup d’autres outils, être utilisés pour faire le bien ou pour faire le mal. Faire la différence dépend bien évidemment de sa position sur l'échiquier technologique. En tant que concepteur de ces algorithmes, on doit suivre des bonnes pratiques de développement en cherchant toujours à minimiser le mal qu’on peut faire. Car même avec toutes les bonnes volontés du monde, on peut involontairement insérer un biais dans l’algorithme qu’on conçoit. Il est donc important de s’entourer de gens différents, de réfléchir à 360 degrés et d’imaginer toujours par la méthode contrefactuelle, les pires scénarios de l’utilisation et du fonctionnement de l’algorithme pour pouvoir dimensionner en avance et en conséquence. Du côté des utilisateurs, différencier le bien du mal n’existe qu’à travers une meilleure compréhension des outils et de leurs étapes de construction, pour pouvoir les utiliser de manière éclairée. Je crois beaucoup à cette idée, et dans cet effort j’essaie à la hauteur de mes moyens de démocratiser la science algorithmique en particulier.

On dit que le manque de femmes dans la tech peut biaiser les algorithmes. Qu'en pensez-vous ?

Pour être précis, il faut dire que nous avons tous des biais cognitifs que nous risquons de transmettre aux choses qu’on conçoit, les algorithmes en font partie. On sait aussi que nos biais cognitifs se renforcent quand nous sommes au sein d’un groupe de gens qui nous ressemblent. Cela étant dit, on comprend bien que l’absence cruelle de femmes chez les concepteurs fait prendre le risque aux concepteurs majoritairement masculins, de construire des algorithmes qui oublieraient les femmes quand ils définissent explicitement la logique de l’algorithme ou quand ils choisissent les données d’apprentissage. Cette situation est valable pour toutes les minorités dans cet écosystème comme les personnes de couleur ou les personnes sur certaines tranches d’âges (les plus de 50 ans par exemple). La responsabilité est générale. Comme je l’écris dans mon premier livre 1 , tout le monde est responsable, ceux qui pensent à l’idée de cet algorithme, ceux qui le développent, ceux qui le testent, ceux qui le vendent et enfin ceux qui l’utilisent. Dans cette idée, on doit tous comprendre a minima et à la hauteur de nos moyens respectifs, le fonctionnement de ces outils.

1. De l’autre côté de la Machine - voyage d’une scientifique au pays des algorithmes. L’Observatoire (2019) et Livre de Poche (2020).

Est-ce que vous constatez une évolution en termes de mixité ces dernières années dans le secteur ?

Il y a du changement mais c’est encore beaucoup trop lent. Il faut agir à tous les niveaux : à l’école, en études supérieures, dans l’entreprise ou encore dans la société. On doit absolument faire connaître ces métiers et plus généralement les sciences auprès des plus jeunes mais aussi des parents pour espérer déclencher des vocations. Il y a énormément d’associations qui vont dans ce sens. Aux USA, on a remarqué qu’en parlant aux lycéens des applications, de ce qu’on peut faire avec l’IA, on influence significativement le regard des étudiantes sur cette discipline. Elles réalisent qu'elles peuvent avoir un impact positif en résolvant des problèmes à grande échelle et sur tous les sujets.

J’aimerais beaucoup qu’on inverse la tendance chez les étudiantes après le lycée. Même si 50% des élèves en terminale scientifique sont des filles, elles sont peu présentes dans les filières scientifiques en études supérieures. J’aimerais tellement craquer ce phénomène pour le comprendre et donc l’inverser !

Que diriez-vous aux apprenants qui souhaitent s'engager dans une formation sur les algorithmes / en IA ?

Que les métiers sont très divers et qu’il y a de la place pour tous les talents. Aussi je leur dirai qu’ils doivent apprendre à découvrir et à naviguer dans tous les domaines, dans la mesure où les algorithmes sont utilisés dans quasiment toutes les industries. Aujourd’hui ils peuvent travailler pour un réseau social, demain pour un hôpital et après-demain pour une banque. Développer cette flexibilité et une forte curiosité est fondamental pour arriver à naviguer d’un domaine à l’autre dans sa carrière. C’est aussi un excellent moyen de saisir les meilleures opportunités !

Quels métiers sont aujourd'hui porteurs d'avenir dans ce domaine ?

Je ne sais pas du tout, je dirais tous les métiers liés à la data et au développement algorithmique ! (rires…) … et n’oublions pas que de nombreux nouveaux métiers apparaîtront sûrement dans cet écosystème...donc restons ouverts !