#IA – Comment l’homme éduque l’Intelligence Artificielle

Home Blends & Trends 27 novembre 2019

Ah, l’ Intelligence artificielle… Perçue aujourd’hui comme le summum de l’évolution technologique et algorithmique, l’expression peut faire rêver, ou bien faire peur ! Revenue sous le feu des projecteurs depuis 2016, l’IA est aujourd’hui sur toutes les lèvres, même si le terme est parfois employé à tort et à travers. Dans son rapport de 2018 Donner un sens à l’intelligence artificielle, Cédric Villani écrit que l’objectif de l’IA est de « comprendre comment fonctionne la cognition humaine et la reproduire ».

Le terme d’Intelligence Artificielle laisse donc penser qu’un ordinateur pourrait être lui-même pourvu d’intelligence. Mais est-ce vraiment le cas ? Est-il vraiment possible de répliquer la complexité du cerveau humain sur une machine, aussi sophistiquée soit-elle ? 

L’intelligence : quésako ? 

Pour répondre à ces questions, il nous faut déjà définir ce qu’est l’intelligence. On cantonne parfois l’intelligence à la simple mémoire. Mais ce n’est bien sûr pas suffisant, sinon un simple placard à archives pourrait être intelligent ! L’intelligence se définit, selon le Larousse, comme « l’aptitude d’un être humain à s’adapter à une situation, à choisir des moyens d’action en fonction des circonstances ». C’est donc la qualité avec laquelle un individu s’adapte et agit en adéquation avec son environnement qui peut être considérée comme de l’intelligence. 

Cependant, ces décisions ne sont intelligentes, que si elles suivent un raisonnement logique, démontrable, et ne sont pas prises au hasard. Pour cela l’individu fait appel à son expérience liée à la pratique ou à la théorie (expérience extérieure transmise par l’apprentissage autonome ou bien par son entourage), où la mémoire entre effectivement en jeu. Et cela, l’ordinateur en a. Prendre des décisions à partir de millions de cas passés, cela aussi l’ordinateur sait très bien le faire grâce au machine learning (si vous voulez en savoir plus, n’hésitez pas à consulter notre série d’articles sur le sujet !). Similaire à l’apprentissage humain, le machine learning permet à l’ordinateur de prendre des décisions contextualisées grâce à un historique de données et un modèle mathématique. Sur cette base, on pourrait donc considérer que l’IA est bien intelligente, puisqu’elle possède une mémoire importante et est capable de prendre des décisions en fonction de son environnement…

 

L’Intelligence Artificielle, pour le meilleur…

Rappelons tout d’abord que les algorithmes de machine learning au coeur de l’IA sont développés par des individus dans le but de répondre à une tâche précise. On fournit pour cela à l’ordinateur une multitude d’exemples dans lesquels chaque action possible a été réalisée un grand nombre de fois, et on précise ensuite l’ensemble des critères à observer ou qualifier. Le rôle de l’ordinateur est ensuite de trouver le lien entre les critères, les actions et le résultat pour effectuer un choix.

Tout comme un enfant, l’IA apprend pour pouvoir ensuite agir par elle-même. Nous parlions par exemple dans cet article d’un enfant qui apprend à différencier les fruits, mais nous pourrions aller plus loin en imaginant qu’il apprend à reconnaître les fruits comestibles ou non. Cette connaissance, transmise de génération en génération, est renforcée par l’expérience personnelle de chaque individu à la génération suivante. 

Sur Netflix par exemple, chaque profil utilisateur est unique, puisqu’il est optimisé grâce à un algorithme pour offrir une expérience personnalisée, mixant découverte et contenus déjà visionnés par l’utilisateur. Bien sûr, l’intervention humaine est très importante, mais une fois l’apprentissage effectué, l’intervention de l’homme n’est plus utile et l’ordinateur peut agir… seul ! L’idée est donc d’automatiser une tâche, plutôt complexe et chronophage pour l’homme.

Et les décisions prises automatiquement par un ordinateur se trouvent en réalité tout autour de nous, et ce dans de nombreux domaines : les divertissements et loisirs (AlphaGo, musique composée par ordinateur), les voitures autonomes, la justice ou encore la santé… 

Et il ne s’agit bien sûr pas (toujours) de supplanter l’intervention humaine : l’IA peut au contraire souvent se mettre au service de l’humain, “ l’augmenter ”, comme par exemple lors des décisions de justices dans des cas de délits mineurs en Estonie ou encore pour aider les médecins à détecter des anomalies dans les radiographies de leurs patients. Un petit pas pour l’IA, mais un grand pas pour l’homme !

Et pour le pire ?

Mais si l’Intelligence Artificielle possède un beau palmarès d’applications réussies, elle peut aussi lui attribuer de graves échecs. L’algorithme de classification de Google Photos identifiant des afros-américains en tant que gorilles avait notamment fait scandale, ou encore le chatbot de Microsoft, supprimé 24 heures après son lancement sur Twitter pour propos racistes… Cela peut-il être imputé à un manque d’intelligence de l’ordinateur ? Ou à un cruel manque d’éthique ?

En réalité, plusieurs facteurs peuvent amener à la construction d’un modèle algorithmique erroné :

  • Une mauvaise qualité de données (les échantillons d’entraînement ne sont pas représentatifs de toute la population dans le cas de Google par exemple), ou des données biaisées (difficile d’entraîner un algorithme de sélection de candidats à l’embauche non sexiste si le processus de sélection historique était lui-même sexiste) 
  • L’oubli de critères essentiels par manque d’informations sur le sujet traité, ou manque de compréhension d’un point de vue business
  • Une erreur dans la création du modèle lui-même 

Ces exemples nous montrent donc que ces échecs sont surtout imputables à l’homme derrière l’algorithme… de la même manière qu’un parent est considéré légalement responsable de son enfant lorsqu’il est mineur ! Avec la conscience de ces biais, inhérents mêmes à la profession (notons par exemple que seuls 22 % des professionnels de l’IA sont des femmes !), il est possible de retravailler les algorithmes au fur et à mesure pour les rendre plus intelligents. Pour faire face à ces problèmes éthiques, les chercheurs travaillent donc aujourd’hui sur la prise en compte des enjeux éthiques liés à leurs algorithmes. Pour cela, les performances d’un algorithme ne sont plus seulement mesurées au global sur des données historiques mais par catégorie de données (par exemple hommes / femmes dans le cas de la reconnaissance faciale) et seul un algorithme capable de garantir un niveau de précision équivalent sur chaque catégorie sera considéré comme pertinent.

“ Il est donc illusoire d’imaginer une IA qui ne soit pas biaisée, comme si elle pouvait émaner d’un état de nature. En ce qu’elle découle des humains, elle est par conséquent plongée dès l’origine dans un état de culture : celle de ceux qui l’ont développée. ”

Caroline Lair, Co-fondatrice de Women in AI

L’Éducation artificielle, plutôt que l’Intelligence Artificielle

Sans intervention humaine, l’ordinateur est ainsi limité par sa capacité de généralisation et dans sa gestion des biais, qui soit existent dans les données de départ, soit sont induites par l’homme lors du développement de l’algorithme. De la même manière, un humain complètement isolé ne pourra pas tirer profit de l’expérience des autres, de la confrontation des idées, et ne sera pas en mesure de généraliser sa connaissance et de rationaliser ses décisions. 

Enfin, l’Intelligence Artificielle est également limitée par l’encadrement légal, et c’est tant mieux ! Le RGPD en Europe, par exemple, restreint le type d’informations que peut recevoir et traiter un algorithme, en limitant notamment la durée de vie des cookies, ou en demandant un consentement éclairé des utilisateurs. Ces mesures impactent directement la mémoire de notre algorithme, et donc son intelligence. 

Aujourd’hui, la collecte de données personnelles (en ligne ou non) est en effet très réglementée. Exit le stockage de données illimité et sans demande explicite de consentement. Or, sans sauvegarder cette donnée, l’information ne pourra jamais venir nourrir notre IA, contrairement à un vendeur en magasin qui peut au fil du temps accroître son expérience personnelle et sa connaissance client. 

Finalement, c’est l’interaction entre les humains et la transmission de connaissance qui rendent les ordinateurs intelligents. On peut donc dire que l’IA en tant que telle n’existe pas car aujourd’hui, l’interaction n’a lieu que dans un sens, de l’homme vers la machine. Loin de posséder une quelconque conscience morale, l’IA n’en est encore qu’à ses balbutiements. Il serait donc plus juste de parler d’éducation artificielle plutôt que d’Intelligence Artificielle, car c’est l’humain qui va éduquer la machine mais la réciproque n’est pas (encore) vraie !

Vous reprendrez bien une tasse de thé ?