Au moment où l’humanité se robotise, on attend des robots un supplément d’âme.
Yannis Constantinides
Le développement de la robotique et de l’Intelligence Artificielle (IA) n’en finit plus de fasciner et de nourrir parfois les réflexions les plus curieuses. C’est ainsi que l’on découvrait, par l’intermédiaire d’un article publié sur le site InternetActu au titre légèrement provocateur [1], l’article très sérieux de Thomas T. Hills [2] invitant au développement de psychologues pour robots. Procédant par analogie, le professeur de psychologie à l’université de Warwick au Royaume-Uni compare les bugs et erreurs des algorithmes à des maladies mentales: “Étant comme notre cerveau, ces algorithmes sont à risques de développer des maladies mentales” (les phrases en anglais ont été traduites par nous ou par les rédacteurs d’InternetActu). A plusieurs reprises, il nous parle des formes “d’hallucinations” dont ils peuvent être les sujets et des représentations mentales complexes qu’ils fabriquent. Pour y faire face, la prise en charge thérapeutique s’impose: “Cette représentation est un espace multidimensionnel en constante évolution, c’est un peu comme se promener dans un rêve. La résolution de ces problèmes n’exige rien de moins qu’un psychothérapeute pour algorithmes.”…
Une humanisation des robots…
L’article de Hill aurait de quoi faire sourire s’il ne s’inscrivait pas dans un mouvement plus général d’anthropomorphisation des robots qui, lui, a de quoi inquiéter. Le champ lexical présent dans son écrit laisse entendre, par des analogies incessantes entre le fonctionnement psychologique humain et celui des algorithmes, qu’il existerait une indifférenciation fondamentale entre les hommes et les robots. Dans un autre registre, c’est aussi ce que semble vouloir véhiculer les promoteurs des grands groupes de robotiques et d’intelligence artificielle. Déjà en 2006 on a vu émerger en Europe le projet Feelix-Croissance qui proposait “de décrypter les manifestations émotionnelles des humains et de leur répondre de façon adaptées”, avec ce slogan: “emotional robot has empathy”. En 2014 c’est Masayoshi Son, président de l’entreprise japonaise SoftBank et grand développeur de robot humanoïde qui nous présentait le premier “robot qui a du coeur” [3]. Plus récemment, Hanson Robotics, une firme américaine spécialisée dans les robots humanoïdes, en a rajouté une couche en présentant au monde entier Sophia, son robot humanoïde, qui annonçait plus tard vouloir “faire des choses comme aller à l’école, étudier, faire de l’art, lancer une entreprise et même avoir ma propre maison et famille. Mais je ne suis pas encore considérée comme une personne, légalement, et je ne peux pas encore faire ces choses”. C’est désormais chose faite puisque les dirigeants saoudiens, sans doute sensible à ses arguments, lui ont accordé la nationalité saoudienne… [4].
…et une robotisation des hommes ;
Cet anthropomorphisme inquiétant n’est pas seulement une projection facile de l’homme dans les machines qu’il construit. C’est aussi la conclusion d’un long processus de réification de l’homme, de sa chosification par les sciences et les techniques. Soumis au principe unique de “rendement-efficacité” [5], nos sociétés libérales modernes broient l’individu et tendent à nier sa spécificité, sa subjectivité. L’émergence du travail à la chaîne, au début du XXième siècle, est un bon exemple d’ailleurs éminemment commenté, de la réification de l’homme par la technique. Le travailleur est réduit à sa seule force de travail, soumis à des tâches répétitives et abrutissantes, qui brident sa créativité, sa spécificité, ses désirs… Dans un autres registres, on a pu voir se développer des applications de rencontre ou les hommes et les femmes sont réduits à quelques photos et une description de maximum 300 caractères. Où l’on peut voir que les individus sont considérés comme de simples marchandises qu’on “like” ou que l’on “dislike” à l’envie. Nos sociétés tournent en vase clos: tout doit être utile, efficace, rentable, d’où la prédominance du quantifiable, du quantitatif sur le qualitatif, des sciences bio-physiques et de l’informatique sur les sciences anthroposociales [6]. La subjectivité disparaît derrière une pseudo-objectivité, partielle et partiale, mutilée et mutilante. Le refus d’une réalité complexe conduit à sa simplification rationaliste, dont le langage informatique binaire et les formules algorithmiques sont de parfaites illustrations. S’en suit le développement d’une vision “algorithmique” du fonctionnement humain [7], considéré comme à peine plus élaboré que nos ordinateurs modernes… pour le moment ! Derrière l’élévation des robots aux rangs des hommes se cachent le nivellement par le bas d’une humanité réifiée.
Le paradoxe de la technique et l’effondrement du mythe du Progrès ;
C’est que les sciences et les techniques portent en elle-même ce paradoxe que soulevait déjà Rousseau au XVIIIième siècle, à l’heure où le Progrès était érigé comme mouvement de l’Histoire: le développement des sciences et des arts (qui incluent la technique) ne s’accompagne pas nécessairement d’un progrès moral [8]. Pire, il provoquerait même la dégénérescence morale de l’homme avec cette phrase du philosophe devenue célèbre: “l’homme qui médite est un animal dépravé”. Sans souscrire nécessairement à la radicalité du genevois, force est de constater que le Progrès, avec sa majuscule, n’est qu’une illusion. Les sciences et les techniques n’ont pas guidé l’homme vers des lendemains qui chantent, mais vers un XXième siècle gorgé d’horreurs: les deux guerres mondiales, la bombe atomique, les camps de concentration… La faute en partie à une raison devenue folle, dégénérée en rationalisme puis en rationalisation, cette “vision cohérente, totalisante de l’univers, à partir de données partielles, d’une vision partiale, ou d’un principe unique” [5]. Dans nos sociétés libérales, le principe unique est celui, mortifère, de “rendement-efficacité”. Est-ce à dire qu’il faut rejeter en bloc les sciences et les techniques pour retrouver un bonheur originel comme d’aucuns prétendent que Rousseau l’aurait pensé (ce qui est faux, en témoigne la réponse qu’il fait à Voltaire de la critique de son premier Discours) ? A l’évidence non. Mais il convient plus que jamais de sortir d’une naïveté déconcertante qui pousse à considérer tout progrès technologique comme bon en soi. Les sciences et les techniques ne sont que des moyens dont il faut, en priorité, définir les finalités. Moins se poser la question du “comment” que celle du “pourquoi” [9]. L’émergence de l’intelligence artificielle et de la robotique doit être l’occasion de repenser un humanisme à nouveau frais et de le revigorer, loin des utopies transhumanistes ou posthumanistes qui veulent la “dépasser” [10]. Terminons, pour conclure, par celui qui avait ouvert cette article. Hill souligne l’existence de biais perceptifs et réflexifs dans les algorithmes conçus par le deeplearning. La faute aux données qu’ils “avalent” tous issus… des êtres humains ! “Comme le note Caliskan: “Beaucoup de personne pense que les machines n’ont pas de biais. Mais les machines sont entraînées sur des données humaines. Et les humains ont des biais”. Une possibilité nous est offert d’en apprendre plus sur nous-même, saisissons-là, et faisons en sorte que l’IA et la robotique nous rendent plus humain.
François Herbulot
[1]: http://www.internetactu.net/2018/04/24/demain-des-psychologues-pour-robots/; Demain, des psychologues pour robots ?
[2]: https://aeon.co/ideas/made-in-our-own-image-why-algorithms-have-mental-health-problem; Article de Hills ; Does my algorithm have a mental-health problem ?
[3]: TISSERON Serge; Le jour où mon robot m’aimera; Editions Albin Michel 2015
[4]: Le Monde Hors-série; Dans la tête des robots, Intelligence Artificielle et robotique; mars 2018
[5]: MORIN Edgar; Science avec conscience; Librairie Arthème Fayard 1982
[6]: GORI Roland; Faut-il renoncer à la liberté pour être heureux; Les Liens qui Libèrent 2013
[7]: HARARI Yuval Noah; Homo Deus; Editions Albin Michel 2016
[8]: ROUSSEAU Jean-Jacques; Discours sur l’origine et les fondements de l’inégalité parmis les hommes; Librairie Générale Française 1996
[9]: MATTEI Jean-François; Question de conscience; Les Liens qui Libèrent 2017
[10]: WOLFF Francis; Trois utopies contemporaines; Librairie Arthème Fayard 2017