L’Homme programme-t-il la disparition de l’humanité ?

    Ces dernières années nous vivons une accélération sans précédent de l’innovation dans trois domaines que je choisis de distinguer ici tout en précisant qu’ils sont fortement interconnectés : le domaine scientifique (méthodes de recherche et découvertes entre autres), le domaine technologique (robotique, matériel informatique, objets connectés divers…) et le domaine de la collecte d’informations généralisée (internet, réseaux sociaux, big data…). Chaque domaine sert de catalyseur pour les avancées dans les deux autres et leurs interactions profondes, guidées par les promesses infinies des algorithmes et  de l’Intelligence Artificielle, nous font entrer dans l’ère du « tout numérique ». Les avancées sont telles qu’il semble impossible, même pour les meilleurs experts, de différencier prévisions rationnelles et prophéties relevant du fantasme.

Si l’on ne veut pas être taxé de rétrograde, de pessimiste ou de « décliniste »  mieux vaut être un fervent défenseur des nouvelles technologies et de la modernité sous toutes ses formes. Personne ne peut échapper aux publicités ventant les mérites des algorithmes censés nous faciliter la vie, des objets connectés qui deviendront indispensables, de l’intelligence artificielle qui nous ouvrira de nouveaux horizons… Comment avons-nous fait pour vivre dans l’obscurantisme le plus total jusqu’à maintenant ?

    On peut noter un profond déséquilibre entre d’un côté la mise en avant, dans les média, de la vision dominante et de l’autre le traitement souvent minimisé, dans ces mêmes média, de toute forme de critique. La plupart des journaux télévisés ont leur rubrique « Geek », les salons et forums « high tech » se multiplient dans le monde entier, Facebook est devenu le premier médium d’information et la Silicon Valley passe pour le nouvel eldorado ; à l’inverse, à moins de faire des recherches personnelles précises, il est difficile d’entendre la parole des contradicteurs, leurs discours étant vite assimilés à de la science fiction. Le seul questionnement à l’origine d’un débat relativement équilibré s’intéresse à l’évolution du marché du travail et au risque d’un chômage de masse dans un avenir peut-être pas si lointain.   

     Au lieu de rêver en voyant les publicités des dernières avancées des entreprises comme IBM ou Microsoft, je suis plutôt pris de cauchemars. Que dire de ces articles tous plus effrayants les uns que les autres : installation de lits connectés dans des résidences universitaires à Rennes pour prévenir les détériorations ; l’entreprise belge New Fusion ou l’américaine Three Square Market qui proposent à leurs salariés l’implantation de puces sous-cutanées pour ouvrir les portes, se connecter au poste de travail, utiliser la photocopieuse… ; l’utilisation, par la police de grandes villes américaines, du programme PredPol (« predictive policing »), un algorithme permettant de prédire la localisation et la temporalité de certains crimes. Même si vous ne vous destinez pas au grand banditisme, j’espère que vous avez de bons amis hackers parce qu’il ne restera plus qu’eux pour vous sauver la mise.

J’ai bien peur que l’idée de « progressisme » ne soit l’une des plus grandes fraudes intellectuelles de l’histoire de l’humanité (ou une de ces belles idées les mieux perverties)  avec le « capitalisme » et le « libéralisme ». Ces trois concepts associés sans modération (le« technologisme » semble être une bonne synthèse) créent une bombe à retardement inimaginée, les considérations financières et l’enrichissement prenant toujours l’ascendant sur les considérations écologiques. Le compte à rebours est déjà en marche depuis longtemps mais il s’accélère dangereusement (pathologies liées à nos modes de vie, réchauffement climatique, catastrophes naturelles plus fréquentes…). Et ce ne sont pas les déclarations d’intention et les postures de principes lors de belles campagnes de communication agrémentées de slogans bien sentis qui vont changer quoi que ce soit. Ces trois champs de pensée, sous couvert de l’atteinte d’une liberté individuelle absolue nous mènent tout droit vers l’asservissement volontaire le plus total. Nous risquons d’atteindre très vite la plus haute expression de la servitude volontaire énoncée par Etienne de La Boétie au 16^ème siècle ("Discours de la servitude volontaire"). Et ne comptons pas sur les « politiques » pour endiguer le phénomène ; le « progressisme » par exemple, est la seule idée qui remporte l’assentiment de tous les mouvements et  partis ayant pignon sur rue.

Exemple simple avec l’invention Facebook par l’un des plus grands « technologistes » actuels Mark Zuckerberg ; comment expliquer rationnellement que des milliards d’individus acceptent de donner tant d’informations personnelles tout à fait volontairement. Il a réussi là où la plupart des services de renseignement mondiaux ont échoué, et, comble du paradoxe, il s’enrichit de manière indécente au cours de la manoeuvre et son influence dépasse celle des plus grands organismes de presse.

Des chercheurs comme Stephen Hawkins ou des entrepreneurs illuminés comme Elon Musk, loin d’être ignorants dans le domaine, ont été fermement critiqués et raillés dès lors qu’ils ont osés émettre des doutes face aux dérives potentielles de l’IA.   Cet engouement généralisé me semble démesuré et tout à fait inquiétant. Il ne s’agit pas de tout rejeter en bloc mais il serait peut-être nécessaire de s’accorder une petite respiration, un temps de réflexion avant de se laisser submerger. L’idée de « rupture » est souvent avancée et valorisée, il ne faudrait pas que ce soit la fin.

    Mes motifs d’inquiétude ne portent pas seulement sur des projections à long terme, je note un certain nombre de contradictions et de non-sens dans l’utilisation que l’on fait actuellement du matériel numérique déjà « démocratisé ». Matériel qui me parait concourir au déclin de notre humanité au quotidien. Nous sommes en train de modifier notre rapport à nous-mêmes ainsi qu’aux autres, mettant en jeu directement nos capacités de sociabilisation. Quelques exemples me semblent particulièrement frappants.

    Un secteur des plus importants engage directement notre responsabilité de citoyens et de parents : la santé et le développement des nourrissons et des enfants en bas-âge. Il existe des initiatives commerciales pour le moins affligeantes : les « babyphone » qui sont passés en quelques années du « talkie walkie » basique au dispositif de surveillance haut de gamme relié par bluetooth ou wifi placé pendant plusieurs heures au plus près des enfants, de même  chez « Happiest baby » vous pouvez commander pour 1160 dollars un landau connecté qui permet d’endormir votre nourrisson à votre place et qui est relié directement à votre smartphone ; ou encore Castorama qui propose un « papier peint connecté  qui raconte des histoires à votre place » en scannant certains motifs à l’aide d’une tablette ou d’un mobile adapté ; bonne nouvelle, cette invention a même gagné le concours de création de dispositifs digitaux Adfight. Quid des gestes d’affection, de l’expression du visage, de la chaleur humaine ? Les travaux du psychanalyste René Spitz ou de la biologiste Ines Varela Silva ont montré qu’une part importante des décès de nourrissons placés dans des orphelinats était dû à une carence affective et sensorielle sévère (aucune stimulation tactile et aucune marque d’affection). Et nous voudrions, par manque de précaution, développer ces carences affectives dans nos propres foyers ?

    Dans le même registre, sur le plan scolaire, comment justifier logiquement qu’il soit recommandé d’intégrer de plus en plus le numérique à l’école, de la maternelle au baccalauréat ? (voir le plan numérique pour l’éducation sur le site officiel de l’éducation nationale : education.gouv.fr) Aucune remise en cause n’est annoncée par le nouveau gouvernement alors qu’en mai 2017 dans une tribune publiée par le journal Le Monde un collectif de professionnels tentaient d’alerter l’opinion publique sur les risques de la surexposition aux écrans (tous types confondus : tablette, smartphone, ordinateur, console, télévision) pour les bébés et les jeunes enfants. Sont mis en cause le manque de stimulation de l’entourage et la captation de l’attention par les appareils, facteurs à l’origine de troubles du comportement et de retard de développement en l’absence de déficience neurologique. Au delà de l’aspect médical, comment ne pas voir, avec l’utilisation de ce type d’ustensiles dans le milieu scolaire, le risque de creuser des inégalités en favorisant les élèves qui ont accès à tous ces dispositifs au sein de leur milieu familial ?

Autre réflexion portant sur l’aspect neurologique avec la reconnaissance de neurones miroirs mis en avant par Giacomo Rizzolatti et Corrado Sinigaglia leur ouvrage (« Les neurones miroirs »). Ces neurones ayant une composante principalement motrice présentent une spécificité : ils se mettent à fonctionner autant lorsqu’on réalise une action que lorsqu’on l’observe ; dès lors, leur importance est claire non seulement pour l’aspect purement moteur (on apprend en observant ses semblables) mais aussi pour celui de la compréhension des actions d’autrui (je comprends ce qu’implique une action pour autrui car je suis capable de la comparer par rapport à mon expérience motrice personnelle, nous pouvons rapprocher cela d’une certaine forme d’empathie). Cela rend donc l’observation des actions de nos semblables et l’interaction directe avec eux indispensables à la mise en place d’un répertoire moteur  efficace et reconnaissable socialement, c’est à dire constitutif de notre identité d’être humain. C’est là un point qui me semble de première importance et qui peut expliquer en partie la spécificité de notre espèce ; en effet, le développement et l’adaptation de ces circuits neuronaux au court du temps pourrait aider à expliquer l’évolution  de  toutes les pratiques humaines : de l’acquisition du langage (motricité du visage et forme de la bouche reproductible en observant l’émission d’un son par un pair) à la maîtrise des techniques les plus élaborées et socialement significatives (gestes sportifs, artisanat, agriculture,  expression corporelle, création artistique…). On peut aisément s’inquiéter du degré d’interactions sociales qui diminue chaque jour. L’importance des réseaux sociaux m’apparaît alors comme un réel fléau, de même que la disparition inéluctable d’un grand nombre de professions qui deviennent inutiles selon certains car remplaçables par de nombreux dispositifs « modernes ». Nous pouvons citer l’accueil et tenue de caisse dans les magasins et la grande distribution ou la présence aux guichets des entreprises de service publique, autant de tâches qui peuvent être facilement supplantées par des bornes d’accueil, des achats par internet ou de manière plus extravagante par des robots d’un nouveau genre. Là il ne s’agit pas de science fiction, cela existe déjà au Japon. France info relayait déjà, en avril 2015, la présentation de « la première hôtesse humanoïde à l’œuvre dans un très chic magasin de Tokyo ». Il n’est pas rare d’entendre la critique selon laquelle les français seraient moins prêt « culturellement » à accueillir ce genre de dispositif : par peur irrationnelle et inquiétude non justifiée. Que pèse cette diminution des interactions sociales humaines à l’œuvre au quotidien face aux pressions financières (gain de productivité, de temps, d’argent) ? On nous explique donc la nécessité d’avoir recours à des robots et autres machines pour la réalisation d’actions « simples ». En revenant sur l’importance des neurones miroirs, je me demande comment on peut imaginer qu’un enfant, qui évolue dans le monde que l’on nous prédit, va être capable, derrière son écran d’ordinateur, sous ses lunettes de réalité virtuelle ou en s’adressant à un robot, d’apprendre et d’intégrer la base des relations sociales  humaines. Encore plus loin, comment aborder ce paradoxe ahurissant : l’être humain crée des robots à son image qui vont influencer l’acquisition par nos enfants de schèmes moteurs incomplets et non totalement reproductibles car pas assez humains. En somme, nous en serions réduits à imiter des machines inventées pour nous imiter.

    Le phénomène de Réalité Virtuelle est aussi parfaitement représentatif de cet engouement extravagant pour les nouvelles technologies, pour nombre de spécialistes c’est seulement un secteur porteur : j’ai en mémoire cette photographie présentant Mark Zuckerberg qui entre dans la salle du Mobile World Congress de Barcelone traversant une foule d’individus cachés derrière leurs fameuses lunettes. Quel contraste saisissant entre le seul individu en mouvement ne boudant pas son plaisir et la masse de ses congénères sans défense et inactifs. Si notre futur ressemble à cela, il faut se mobiliser dès à présent, dans le cas contraire il n’y aura pas beaucoup de choix entre le rôle de grand horloger et celui de petit rouage remplaçable ; personnellement aucun  de ces rôles ne me conviendrait. Des casques de Réalité Virtuelle sont déjà commercialisés pour se combiner avec un smartphone ou pour des consoles de jeu nouvelle génération, or je n’ai pas trouvé d’information concernant des tests mesurant les dangers potentiels de ce type d’appareils. L’un des buts est d’être le plus immersif possible pour vivre l’action la plus intense sans courir de risques physiques, mais quand est-il des risques psychiques ? Nous savons tous et malheureusement pour certains, par expérience, qu’un évènement traumatisant a des répercussions à plus ou moins long terme tant sur le plan physique que psychique, les deux étant d’ailleurs  indissociables « dans le réel ». Quelle idée de risquer de créer de nouveaux états traumatiques sans aucune assurance que nous serons capables de les appréhender efficacement ? Il n’y aura plus vraiment de lien entre expérience psychique « irréellement » vécue et expérience physique réelle, le corps est en quelque sorte trompé. Il est déjà très difficile de vivre en prétendant atteindre un certain équilibre, comment espérer atteindre cet équilibre en multipliant les expériences de vie en dehors de l’expérience du corps ; on s’éloigne clairement de  l’unicité du corps et de l’esprit.  Comment prendre la juste distance par rapport à des faits « irréels » ? Pour illustrer ces propos on peut évoquer le court métrage d’Alejandro G. Iñarritu « Carne y arena » présenté au festival de Cannes en mai 2017 : le spectateur équipé d’un casque de réalité virtuelle, en immersion totale, vit la course d’un migrant tentant de rejoindre les Etats-Unis à travers le désert nord-méxicain. Une expérience rapportée comme poignante et émouvante pour certains mais qu’on peut donc imaginer comme traumatisante et éprouvante pour d’autres. Pendant les 6 minutes 30 de film, aucune possibilité de se mettre à distance, comment être sûr de ne pas occasionner des blessures mentales ?

Quelles magnifiques perspectives avec cette réalité virtuelle ! Pourquoi ne pas continuer à défricher « les poumons verts » de notre planète, faire des dernières forêts protégées des sanctuaires privés inaccessibles aux communs des mortels et proposer en même temps des balades en forêt dans un monde virtuel. Certains imagineront bien de nouvelles start-up créant des machines destinées à renouveler l’O2 ou promotionnant l’implantation « artificielle » de végétaux en milieu urbain au dessus des couches de bétons des nouvelles villes connectées.

    Cette question de la mise à distance avec l’utilisation de nouveaux engins intéresse aussi le domaine militaire et les conséquences sont autrement plus dramatiques et déjà observables. Avec l’usage des drones lors des conflits armés, on touche à un problème très sensible : le meurtre et la responsabilité engagée.  A l’inverse de l’expérience précédente il s’agit, avec ce type d’appareil, d’opérer à une mise à distance inconsidérée pour le « pilote » qui semble jouer sur une console de jeu vidéo ; on observe une inadéquation totale entre l’action anodine derrière un écran à des milliers de kilomètres et la conséquence de celle-ci. Que dire après la décision de la ministre des armées en septembre 2017 d ‘engager le processus d’armement des drones de renseignement et de surveillance de l’armée française ?  (voir le film d’Andrew Niccol, « Good Kill »,  lire le témoignage au Courrier International de Brandon Bryant, ancien pilote de drone dans une unité spéciale de l’armée de l’air américaine). En terme de prise de distance, le juste milieu n’est-il pas celui de notre expérience physique ?

  L’obsolescence d’un certain nombre de pratiques et par extension l’obsolescence de l’Homme lui-même paraît inéluctable si une réflexion sérieuse n’est pas menée. Je propose un parallèle entre l’être humain et les deux idiomes que sont le latin et le grec. Ces deux langues sont dites « mortes » car inusitées, ce qui ramène à l’idée d’inutilité pour certains, or je ne suis pas loin de penser que ces langues sont devenues « obsolètes » du fait de plusieurs décennies voir siècles de dénigrement et d’indifférence. Si l’être humain devient « inutile » à force d’être inusité on pourrait le qualifier donc de « mort » ; ne serions-nous pas en train faciliter voir d’accélérer « la mort de l’Homme ». Espérons que derrière nos écrans et même dedans (réalité virtuelle oblige) nous réussissions à subsister en bons « morts-vivants ».

    Les étapes sont franchies à un rythme vertigineux sans pour autant que l’on puisse entrevoir de limites, pourtant les plus enthousiastes ne veulent pas s’arrêter là et, loin de s’émouvoir de la victoire de l’IA sur l’Homme au jeu de go en 2016 (Alphago contre Lee Sedol),  des réussites du robot « Todai » aux examens d’entrée de la plus prestigieuse université  de Tokyo, de la puissance de calcul des futurs ordinateurs quantiques ou encore de la place de plus en plus présente des algorithmes dans nos vies (choix des universités, recrutement des salariés), ils prônent une forme de fusion entre homme et machine ou la possibilité d’utiliser les dernières avancées dans le domaine de la génétique pour « améliorer » l’être humain.  Elon Musk, avec son nouveau projet Neuralink espère développer une interface cerveau-ordinateur pour améliorer nos capacités cognitives ; Laurent Alexandre (fondateur de Doctissimo) ou Ray Kurzwell chez Google pensent qu’il sera possible de vaincre la mort grâce à l’essor de la biotechnologie ; les idéologues transhumanistes parlent d’ « humain augmenté » et certains scientifiques comme le généticien Radman Miroslav se verraient bien utiliser la nouvelle technique CRISPR-Cas9  (« ciseau génétique ») pour modifier avec précision l’ADN : « Faut-il être l’esclave du hasard de la nature ? Est-ce que c’est juste ? » (interview publiée sur lexpress.fr le 03/08/17). Tout simplement effrayant. Il serait dangereux de penser pouvoir en finir avec le principe  fondamental d’incertitude qui régit toute existence humaine. C’est pourquoi les débats relatifs aux aspects éthiques et légaux sont vitaux.  Sans réflexion ni mesure, l’être humain risque de subir le même sort qu’Icare lors de son ascension vers le soleil et j’espère que les Dédale de notre temps (scientifiques, inventeurs, penseurs…) sauront mettre en garde contre ces excès d’impudence à l’égard de notre nature.

    Pour ma part, je n’ai aucune envie de mettre le cours de mon existence entre les mains de systèmes de calcul pensés par un petit nombre d’individus ; il est d’ailleurs intéressant de noter qu’ un ensemble de programmes dirigeant les composants et ressources d’un appareil informatique est appelé « système d’exploitation ». J’ai bien peur que par manque de vigilance l’être humain ne devienne une de ces ressources.

    L’ère du numérique, le transhumanisme comme seul horizon, acquérir l’immortalité comme plus grande obsession, ce n’est pas l’humain augmenté mais l’humain disparu, très peu pour moi, j’aimerais pouvoir dépérir tranquillement en toute conscience en essayant de passer le relai au mieux aux prochaines générations. C’est pourtant ce qui se passe depuis des millénaires mais c’est vrai que je dois être un peu rétrograde finalement !

P.M.