Son excellent ouvrage ‘De l’autre côté de la machine. Voyage d’une scientifique au pays des algorithmes‘ sorti aux Éditions de l’Observatoire, a remporté le Grand Prix des Lecteurs lors du MaXoE Festival 2020 qui vient de s’achever. Son auteure, Aurélie Jean, a accepté de répondre à nos questions.

Nous avons ponctué cette interview de phrases extraites de son livre (Introduction) afin de vous donner un aperçu concrêt de ce qu’il vous invite à découvrir. Vous avez été très nombreux à suivre notre Focus IA, alors n’hésitez pas à poursuivre l’expérience avec cet ouvrage destiné à celles et ceux qui veulent mieux comprendre ces algorithmes qui nous entourent !

Bonjour Aurélie Jean, nos lecteurs ont pu découvrir ‘De l’autre côté de la machine. Voyage d’une scientifique au pays des algorithmes‘ sur MaXoE par le biais de notre présentation à l’occasion de notre Focus consacré à l’Intelligence Artificielle. Votre ouvrage a été sélectionné dans le cadre du MaXoE Festival 2020 et il a remporté le Grand Prix des Lecteurs dans la Catégorie ‘Apprendre et S’instruire’, félicitations ! Pouvez-vous vous présenter et présenter votre ouvrage ?

Aurélie Jean : Tout d’abord merci à tous! C’est le premier prix que j’obtiens pour “De l’autre côté de la Machine”, je suis super excitée! Je suis scientifique numéricienne, je développe des modèles numériques et des algorithmes depuis plus de 15 ans dans de nombreux domaines tels que l’ingénierie, la médecine, la finance ou encore l’économie… “De l’autre côté de la Machine” parle justement de mon parcours, de mes années d’apprentissage et de mise en application d’une science encore trop méconnue, l’algorithmique. J’accompagne le lecteur, pas à pas et destination à destination, pour lui faire découvrir les algorithmes mais aussi les potentiels, les limitations, les bénéfices ou encore les menaces de ces entités mathématiques et numériques qui nous entourent au quotidien. Mon but ultime est de donner les clés au lecteur pour lui permettre de dépassionner les débats et au contraire raisonner sur les sujets d’actualités sur l’intelligence artificielle, souvent mal articulés.

Extrait du livre « Le pays des algorithmes n’est pas encore la destination préférée des Français, mais il me semblait nécessaire de changer cette tendance, et Gaspard [NDLR: Gaspard Kœnig,
directeur de collection] était déterminé à m’aider à réparer cette injustice. »

Le ‘pays des algorithmes’ que vous présentez est un univers totalement inconnu de la grande majorité des gens. Un espace fait de data collectées, traitées, analysées, interprétées, exploitées de manière souvent opaque pour l’utilisateur final qui en est pourtant la première source, souvent malgré lui. Dans votre ouvrage très pédagogique vous décrivez ces systèmes et vous nous poussez à nous interroger sur l’utilisation de ses données et d’une certaine manière sur notre propension à céder si facilement à l’utilisation d’applications qui nous prennent bien plus qu’elles ne nous donnent. Comment reprendre le contrôle et retrouver notre libre arbitre ? Est-ce qu’il ne faudrait pas plus éduquer au numérique pour que la prise de conscience soit à la portée du plus grand nombre ?

Comme vous le soulignez justement, les algorithmes sont construits et/ou fonctionnent grâce à de la data représentant le phénomène ou le scénario à simuler. Comprendre les mécanismes même de base de la conception et du fonctionnement de ces algorithmes permet à chacun de transformer sa posture vis à vis des applications, logiciels et autres technologies d’intelligence artificielle, pour défendre ses droits et tout simplement avoir le choix. L’éducation au numérique est fondamentale et peut être intégrée dès l’école maternelle à travers des méthodes sans écran (comme la méthode COLORI), mais aussi au sein des études supérieures et dans le milieu professionnel. La formation continue prend encore plus de sens aujourd’hui, à l’heure où les innovations technologiques s’accélèrent.

Extrait « Ces deux mondes, réel et virtuel, sont séparés par un modèle, une représentation mathématique et algorithmique de la réalité. Comprendre le fonctionnement de ce modèle, c’est comprendre ce qui relie ces deux mondes »

L’éducation au numérique mais aussi une meilleure compréhension des mathématiques et notamment de l’arithmétique. Le fameux exemple du triage de pommes de votre enfance que vous présentez dans votre ouvrage est essentiel à cette compréhension globale. D’abord car il fait appel à la division euclidienne (que l’on apprend à l’école) qui n’est autre qu’un algorithme. Et puis parce ce principe de réduire au maximum le nombre d’opérations d’un algorithme rend son exécution plus rapide. Si on ne va pas tous pour autant se lancer dans les mathématiques appliquées, comment est-il possible de se familiariser avec ces sciences numériques (cela inclut le codage) pour mieux appréhender leur utilisation ? Dès le plus jeune âge, à l’instar de ce que propose l’école COLORI par exemple que vous connaissez bien ? Vous êtes collaboratrice extérieure pour le Ministère de l’Éducation Nationale, avez-vous déjà discuté de projets de vulgarisation scientifique ?

Il y a de nombreux vecteurs d’apprentissage du numérique, le code informatique en est un. Comme je le dis souvent, on n’apprend pas à coder pour se former à être développeur mais avant tout pour assimiler des notions en sciences informatiques ou encore en algorithmique. Il faut sortir de la formation professionnalisante quand on pense programmation informatique, d’ailleurs on apprend à écrire un texte jusqu’en terminal sans pour autant devenir écrivain ou journaliste! COLORI est une méthode que je soutiens, j’ai la chance d’appartenir à son board à la demande de mon amie et fondatrice Amélia Matar. COLORI forme les tout petits (3-6 ans) à se familiariser avec les sciences informatiques à travers des jeux en bois, des dessins, des histoires, et plus généralement des jeux éducatifs qui emballent garçons et filles! J’ai la chance d’être collaborateur extérieur pour la Direction du Numérique de l’Éducation Nationale, où je travaille entre autres sur les matières à enseigner, le développement de l’appétence des enfants dans les sciences ou encore dans l’étude de l’usage d’outils d’intelligence artificielle dans la salle de classe.

Extrait « Pour le grand public, l’algorithme est indissociable du monde numérique. Et pourtant, l’histoire de cette discipline remonte bien avant les applications pour smartphone, ou même les premiers micro-processeurs. Elle date des cours de logique d’Euclide, 300 ans avant notre ère ! »

Lorsque vous étiez chez Bloomberg, vous avez contribué à la mise en place d’un algorithme d’automatisation d’articles de presse factuels pour permettre d’informer rapidement les journalistes de certaines fluctuations de données notamment économiques. Ce qui leur a permis selon vous d’avoir plus de temps pour rédiger des articles de fond. En mai dernier, Microsoft (vous avez été la marraine de la première promotion de l’école d’Intelligence Artificielle de Microsoft France) a annoncé qu’il allait désormais s’appuyer sur l’IA pour afficher les news sur son site MSN.com. Avec cette fois pour conséquence, le licenciement d’une cinquantaine d’employés. Le gain de temps est au coeur de l’utilisation des algorithmes, pour le meilleur comme pour le pire diront certains. A-t-on les moyens d’empêcher ces effets pervasifs de l’utilisation des algorithmes ?

Je ne connais pas bien le cas de Microsoft et du site MSN, cela étant dit on peut tendre à raison vers une certaine automatisation rédactionnelle mesurée. Jamais on ne pourra remplacer un journaliste dont le travail s’appuie sur de la recherche et de l’investigation, d’analyses ou encore d’écriture affinée, et qui fait appel à son intelligence émotionnelle et de situation, ou tout simplement à son expérience. Au contraire il y a des actualités factuelles sans raison de validation et sans valeur ajoutée éditoriale, comme la météo, les résultats sportifs en live ou encore l’évolution d’une action en bourse (ce que j’ai fait chez Bloomberg par exemple), dont la sortie automatique d’un article contenant un titre et une phrase peut au contraire aider le journaliste. Les médias se transforment et une place de plus importante se développera autour de la vérification de la véracité des actualités par exemple et pour lesquels nous aurons besoin aussi de journalistes spécialisés. De nouveaux métiers vont apparaître c’est certain. De manière générale l’automatisation n’est pas mal en soi, mais son utilisation abusive sans chercher à se projeter plus intelligemment dans le futur, est une erreur selon moi. Il est aussi idiot d’appliquer une automatisation massive sans réflexion profonde sur les tenants et les aboutissants, que de rejeter l’idée même d’automatisation. Tout est dans la nuance… comme toujours!

Extrait « En choisissant de travailler sur les algorithmes et la modélisation du monde, je travaille depuis quinze ans sur ce fameux miroir, entre réel et virtuel. Ce miroir est aujourd’hui un véritable enjeu de civilisation, car il devient si net qu’il faudra s’armer de connaissances pour ne pas s’y perdre »

Dans votre ouvrage vous parlez des biais algorithmiques, vous dites que les algorithmes ne sont pas coupables, ils ne sont ni racistes ni sexistes. Pour autant ils ne sont pas neutres et cette absence de neutralité s’exprime par deux biais cognitifs : explicite et/ou implicite. Pour faire simple : lors de la programmation ou par des données (non actualisées) traitées par l’algorithme. Joy Buolamwini du MIT a mis en exergue le biais concernant la (mauvaise) reconnaissance faciale des personnes à la peau noire. Il y a aussi l’exemple du biais sexiste de l’Apple Card à son lancement. Comment éviter ces biais algorithmiques ? Par une plus meilleure représentativité des développeurs eux-mêmes (sexes, âges, origines…) ? Est-ce que c’est quelque chose que vous expérimentez sur vos propres algorithmes ?

Dans mon livre je donne un exemple où j’aurai pu introduire un biais ethnique dans mon modèle, mais que j’ai évité grâce à mon directeur de recherche qui avait plus d’expérience dans le sujet d’application, les traumatismes crâniens. De manière générale, on peut éviter ces biais par des solutions techniques et des solutions non techniques. Techniquement on peut tester la représentativité des data de calibration ou d’apprentissage en testant d’une part la taille de l’échantillon (en diminuant la taille de l’échantillon initial) mais aussi la nature de la data (en variant les valeurs de 10 à 30% par exemple), et analyser l’influence de ces changements sur la réponse de l’algorithme. On peut également faire des tests unitaires sur l’algorithme en testant la réponse de sortie que l’on connait pour des données d’entrée spécifiques. Parmi les solutions non techniques, il y a l’importance de co-développer les algorithmes avec les gens du métier pour éviter une approximation sur la compréhension du phénomène à simuler, voire un malentendu. Dans le cadre de l’Apple Card, je suis persuadée que si les ingénieurs de Goldman Sachs avaient travaillé en étroite collaboration avec les gens du métier on aurait pu éviter une telle erreur. On peut également profiter des bénéfices d’équipes plus diverses, que ce soit sur l’âge, le genre, l’ethnicité, le background culturel et tant d’autres choses, afin de pouvoir réfléchir à 360 degrés sur les spécifications des outils.

Extrait « Le biais algorithmique, c’est ce qui vient fausser les algorithmes et qui, sans qu’on s’en aperçoive toujours au premier abord, peut entraîner des discriminations écartant ou défavorisant une catégorie d’individus »

Votre parcours académique (Sorbonne Université, ENS, Mines Tech, MIT…) et professionnel (vous êtes entrepreneure, cheffe d’entreprise…) est impressionnant, d’autant plus que vous faites partie des encore trop rares femmes de la ‘Tech’ à être médiatisée. Vous avez eu l’occasion de soulever ce problème de la représentation des femmes dans ce domaine à de nombreuses reprises, déclarant ‘On ne peut pas espérer devenir ce que l’on ne voit pas’ ce qui est valable non seulement pour les femmes mais toutes les minorités ou groupes ignorés. Un manque de représentativité que l’on retrouve donc sans surprise dans les biais des algorithmes évoqués précédemment. Seulement on ne peut pas rectifier la société comme on rectifierait un algorithme, pour autant vous dites qu’il a y des femmes dans le milieu de la tech (preuve en est avec la Journée de la femme digitale) et vous les inviter à venir sur le devant de la scène. Avez-vous des retours suite à ces incitations ? Et pourquoi n’intéressent-elles pas plus les média ?

Le phénomène est complexe. Tout d’abord il y a encore trop peu de femmes dans ce milieu ce qui bien évidemment limite leur exposition publique. Cela étant dit, même lorsqu’elles sont identifiées, on les contacte bien souvent pour ne parler uniquement des femmes dans la tech et les sciences, et pas de ce qu’elles font, je trouve cela dommage. Je refuse de venir parler uniquement de la féminisation de ces métiers, je viens parler de mon travail et cela doit être vu comme un levier pour donner l’envie aux autres femmes et bien évidemment pour parler de la féminisation de ces métiers. Il y a de plus en plus de femmes qui parlent (dont Dipty Chander que j’admire!)  et j’encourage les hommes à mettre en avant ces femmes, à en parler, car si nous nous appuyons que sur les femmes scientifiques et ingénieures pour le faire nous aurons du mal à “scaler”. Francis Nappez (co-fondateur de Blablacar) et les membres de son association Tech Rocks s’engagent activement dans la mise en avant et le soutien des femmes de la tech. Les hommes ont un rôle fondamental dans ce combat social et économique, ils sont nos meilleurs avocats.

Extrait « C’est un peu ça aussi, le MIT : un lieu où sciences, ingénierie, danse, voile et échecs cohabitent librement et sans préjugés. Un lieu où tout le monde trouve sa place, loin des stéréotypes, avec une atmosphère d’ouverture aux autres qui aura joué un grand rôle dans mon parcours »

Vous parlez beaucoup de culture scientifique, du fait que tout le monde a besoin d’apprendre à coder mais nous en sommes loin. Nous utilisons des outils dont nous ne connaissons pas les fonctionnements et en encore moins les finalités. En parallèle l’IA permet aussi de mieux soigner, elle peut être prédictive. Même si elle peut aussi avoir des dérives dans des pays (pas forcément totalitaires) et devenir un risque pour la démocratie en manipulant les opinions (illustré par Cambridge Analytica). Ce que l’on fait de l’IA pour aussi avoir pour conséquence de segmenter les populations avec des algorithmes de catégorisation. Le RGPD européen permet de mettre en lumière le principe éthique et une certaine forme de régulation notamment par la minimisation de la donnée. Comment voyez-vous les avancées de l’IA ? Dans quels domaines est-elle encore sous-exploitée ? Se donne-t-on les moyens de la rendre vertueuse ?

Albert Einstein disait  “La science est un outil puissant. L’usage qu’on en fait dépend de l’homme pas de l’outil”. Cette phrase est largement applicable à l’IA et ses nombreux domaines d’application. Il faut des régulations intelligemment construites et une meilleure connaissance du fonctionnement des outils par les utilisateurs. La loi seule ne peut pas fonctionner il faut y ajouter une sorte de contre-pouvoir chez nous utilisateurs qui avons entre nos doigts le choix le plus démocratique: choisir ou pas d’utiliser un outil. Par cette nouvelle dynamique, les acteurs de la tech auront alors une obligation d’explication et de transparence sur le fonctionnement de leurs outils. Le bond que nous allons vivre en IA et en particulier dans les techniques d’apprentissage, est l’utilisation généralisée de données non labellisées, on parle aussi de méthodes non supervisées. La labellisation prend un temps significatif et limite donc parfois la taille des données d’apprentissage. Elle peut également être à l’origine de certains biais algorithmiques. La non labellisation va nous ouvrir de grandes perspectives mais peut aussi diminuer le niveau d’explicabilité des algorithmes apprenants, cela aura des conséquences sur les lois à venir.

Extrait « Naviguer dans le monde des algorithmes et de la modélisation numérique est pour moi un cadeau : celui de comprendre, par la virtualisation des phénomènes, les mécanismes de la vie, de tout système, d’ailleurs, vivant ou inerte »

On termine cette interview par une question rituelle : MaXoE est un média indépendant et multi-thématiques, pas de frontière entre les bandes-dessinées, les livres, la musique, le cinéma ou encore les jeux-vidéo. A quels jeux (vidéo) jouez-vous ? Quelles sont vos lectures (anciennes ou récentes) ? Vos films ou séries préférés ? Et du côté de la musique, vous écoutez quoi ? Un conseil sur un événement, une exposition à voir ?

Je déteste les jeux vidéos (rires…)!

Je suis en train de lire les livres de mes amis Mathieu Gallet “Le nouveau pouvoir de la voix”, et Grégory Pouy “Insoutenable paradis”.

Il y a deux superbes séries que j’ai récemment découvertes, Succession de Jesse Armstrong, et Validé de l’excellent Franck Gastambide. Je suis contente de voir que la France est capable de faire des séries du niveau de Validé! J’attends la saison 2 avec impatience!

Je réécoute en boucle l’album de Nicolas Godin ‘Concrete and Glass’… j’aime la fraîcheur de cet album ainsi que la sensibilité artistique de Nicolas que j’ai la chance de connaître un peu. Et bien évidemment la BO de Validé!

Coté événements, j’attends avec impatience l’exposition Bijoux Indiscrets au Regard Moderne à partir de mi-décembre pour découvrir les petites peintures érotiques enfermées dans des boîtes à bijoux, de mon amie artiste Aurélie Galois.

Extrait « Contrairement aux idées reçues sur les fans d’informatique, je n’ai aucune appétence pour les jeux vidéo (à part, peut-être, Tetris… C’est dire mon piètre niveau dans ce domaine), je ne suis pas passionnée par les films de science-fiction et encore moins par les robots. Au fond, je suis à l’opposé de ce qu’on imagine d’un développeur »

Merci beaucoup d’avoir répondu à nos questions et au plaisir de vous accueillir à nouveau sur MaXoE ! 🙂