L’Intelligence artificielle peut-elle penser ?

À propos de Hubert Krivine : L’IA peut-elle penser ?, préface de Guillaume Lecointre, De Boeck, 2021, 15.90 €

Patiemment Hubert Krivine remet l’ouvrage sur le métier. Celui de défendre sans s‘en cacher, mais sans dogmatisme aucun, la vertu du bien penser. Des adversaires il n’en manque pas, mais parmi ceux-là on trouve celles et ceux peut-être les plus redoutables, parce qu’ils avancent sous couvert de la science la plus avancée, la plus sujette à la révérence puisqu’elle est censée nous ouvrir les portes de l’avenir. On vous présente L’Intelligence Artificielle (IA), obscur objet de crainte et de désir. Qui peut en effet ne pas se couvrir de cendres et admettre sa défaite devant la combinaison de la puissance de calcul des Big Data et de « l’intelligence » ?

Débat techno-scientifique, mais, comme toujours avec l’auteur, la politique n’est pas loin. C’est bien ce qu’a saisi à la perfection son préfacier, Guillaume Lecointre, qui conclut :

« Là où le service public doit redistribuer un service à tous (santé, éducation, justice, entre autres) dans la conscience d’un bien partagé, l’IA dans les services publics va tous nous faire entrer à coups de marteaux dans les cases. La machine apprenante dont on ne sait même pas où elle est, exaspérante parce qu’hyper-performante restera incapable de prendre en compte la complexité de notre situation. Déjà révoltés que leurs intérêts ne soient plus défendus ni par aucun député ni par aucun parti politique, en plus d’être dirigés par des technocrates dont le seul sens est de plier tout le monde aux  lois des marchés et aux restrictions des dépenses publiques que prétendument elles imposent, les Misérables de demain, déjà télé-administrés, télé-éduqués par QCM télé-consulteront en ligne un arbre décisionnel médical, et subiront une télé-justice expéditive à base de corrélations issues de banques de données massives. Hubert, j’ai adoré ton livre, mais comme je suis un ringard technophobe, je retourne à mes cétartiodactyles ».

Mais voilà : on a beau haïr le monde qu’on nous propose, le rejet ne suffit pas. Encore faut-il jauger de la véracité de ce qui est annoncé. Et Hubert Krivine, dans une entrée toujours parfaitement accessible au lectorat non spécialisé (pour rappel l’auteur est physicien), nous invite à un parcours le plus équilibré possible. Après tout et « si les autres avaient raison » ?

Intelligence ?

Mais dans IA, si le « A » ne fait pas de doute, que dire du « I » ? L’auteur sait bien qu’il faut redoubler de prudence et ne prétend pas régler une définition qui agite les humains depuis si longtemps.

« Nous n’allons pas nous hasarder sur le terrain déjà bien labouré de la définition de l’intelligence en général. Elle peut aller 1) de la capacité d’un être vivant (voire d’une machine) à s’adapter aux signaux et aux modifications de l’environnement jusqu’à 2) la faculté de représentation mentale, abstraite ».

Il donne d’une manière convaincante dans un petit espace un tour d’horizon de la question pour aboutir à l’essentiel : il y a, grosso modo, deux types d’IA aux prétentions distinctes :

« L’usage est de distinguer une IA faible – ou, mieux dit, étroite – d’une IA forte – ou générale. La première doit résoudre un problème ou prendre une décision dans un cadre bien défini (jeu de go, conduite automatique de trains, reconnaissance d’image, traduction…), c’est-à-dire toutes choses égales par ailleurs. C’est la seule réellement existante aujourd’hui. La seconde n’a pas à répondre à une requête bien définie, mais viserait à émuler le cerveau humain. C’est elle qui assurerait la fameuse « singularité », ou le triomphe de la machine sur l’Homme.

Par exemple, l’IA faible vous indiquera le meilleur itinéraire pour aller de chez vous à un point B. L’IA forte vous dirait, en tenant compte de votre situation géographique, financière, psychologique, de la météo et de l’opinion de votre conjoint, quel point B choisir et quand le faire ».

Mais le problème est que nombre de spécialistes et encore plus le grand public assimilent les mécanismes de la première (« faible ») à l’élaboration scientifique en général. Celle-ci surgirait de la compilation d’un nombre important de régularités, puis, si on de la chance, de corrélations. Et alors quelle puissance énorme que donne la machine dans ces processus, elle qui est capable de traiter un nombre gigantesque de ces données ! Sauf que, si ce processus peut effectivement être bien présent dans l’élaboration scientifique, il ne rend absolument pas compte des ruptures et des apports produits par la science contemporaine (que l’on date traditionnellement – mais ça se discute – des travaux de Galilée). Des corrélations il y en a d’ailleurs dont on ne sait que faire. L’auteur en rappelle quelques-unes :

« taux de divorces dans le Maine versus consommation de margarine par tête ; consommation de fromage par habitant versus nombre de gens morts la même année pour s’être empêtrés dans les draps »…

Comme le rappelle Krivine, des gens qui voient tomber des pommes il y en a depuis la nuit des temps ! Mais (à supposer que ce soit bien le déclic chez Newton…) cela ne conduit pas automatiquement à la mécanique du savant anglais ! L’induction n’est qu’une partie (parfois absente, parfois même un obstacle) de l’élaboration scientifique. S’y ajoutent d’autres étapes indispensables pour faire science : la causalité, la compréhension et l’explication, puis la théorisation. Et de cette dernière, retour possible aux autres niveaux. C’est ce que l’auteur développe avec grande clarté dans son premier chapitre.

Certes toutes les sciences ne sont pas logées à la même enseigne dans ces processus. Pour rependre des termes parfois un peu réducteurs, il y a des sciences « molles » et des sciences « dures », plus un nombre considérable d’intermédiaires. Passeron (1991), dans Le Raisonnement sociologique. L’espace non-poppérien du raisonnement naturel distingue ainsi l’espace non poppérien du raisonnement sociologique (il appelle « sociologie » toutes les sciences humaines), et montre très finement ce qui le différencie des sciences nomologiques (qui donnent lieu à l’étude de lois, SJ). Il insiste en particulier sur la nature historique (les objets comme les chercheurs sont évolutifs historiquement, SJ) des premières, qui interdit de définir à proprement parler une liste finie et stable de variables à analyser. Cela n’empêche nullement de penser scientifiquement l’homme et ses sociétés, et de bâtir cette pensée en étroite relation avec les données empiriques. Mais plus il sera possible de stabiliser théoriquement l’objet de la modélisation et d’en séparer le chercheur (ce qui n’est jamais aisé, ni peut-être définitivement possible), plus on se rapproche des sciences « dures », où la théorie permet de créer « du nouveau » intellectuellement. Comme Le Verrier qui, à l’aide des observations et des travaux de Newton, prévoit l’existence d’une planète inconnue (Neptune).

Ceci donne un des intérêts majeurs de l’ouvrage d’Hubert Krivine. On y trouve nombre de descriptions des apports et limites de l’IA, mais lui, en plus de reprendre la distinction entre IA faible et IA forte, la fonde sur la description de mécanismes de l’élaboration scientifique  et de sa nature. Et de plus, c’est à saluer aussi, il le fait avec une grande prudence ! Bien malin rappelle t-il qui peut prédire l’avenir à coup sûr. Après tout Gutenberg pouvait-il mesurer les effets de qu’il inventait ? Et les scientifiques du CERN ceux des débuts de l’Internet ? Evidement le monde n’est plus le même après l’imprimerie et après le Net. Déjà l’IA « faible » bouleverse certaines des conditions de l’élaboration scientifique elle-même (et l’auteur en donne nombre d’exemples). Donc, peut-être y aura-t-il des surprises (bonnes ou mauvaises, c’est affaire de sentiment…). Mais pour l’instant, non, la marche vers l’IA « forte » n’est en fait même pas entamée. Et (retour au préfacier) prétendre aligner tant de pratiques humaines sur des données si peu sûres a tout du choix purement idéologique.

Et puis, plus compliqué encore, il y a la comparaison non avec les sciences mais avec l’intelligence humaine en tant que telle. Krivine y fait des incursions avec la prudence qui s’impose. Mais bon comment se fait-il qu’un enfant n’ait besoin que de 2 ou 3 photographies pour caractériser ce qu’est un hippopotame  quand la machine doit en passer par des milliers d’essais et d’erreurs ? Une vieille question étendue au travail humain, déjà abordée par Marx (une référence certainement bien connue de l’auteur…)

« Une araignée fait des opérations qui ressemblent à celles du tisserand, et l’abeille confond par la structure de ses cellules de cire l’habileté de plus d’un architecte. Mais ce qui distingue dès l’abord le plus mauvais architecte de l’abeille la plus experte, c’est qu’il a construit la cellule dans sa tête avant de la construire dans la ruche. Le résultat auquel le travail aboutit, préexiste idéalement dans l’imagination du travailleur. Ce n’est pas qu’il opère seulement un changement de forme dans les matières naturelles ; il y réalise du même coup son propre but dont il a conscience, qui détermine comme loi son mode d’action, et auquel il doit subordonner sa volonté. » Karl Marx, Le capital (1867), trad. J. Roy, Éd. Sociales, 1950.

Et c’est ce que nous montre excellemment l’auteur. L’IA faible se base pour l’essentiel sur du connu (ou qui pourrait l’être si on avait ses capacités de calcul, comme l’exploration d’un nombre énorme de cas au jeu de Go). Mais inventer du nouveau, c’est autre chose.

*

Un livre indispensable si on ne veut pas se laisser embarquer dans le flot ininterrompu qui veut nous convaincre que l’on peut se passer au final de l’humain dans l’humanité.