Cosmo [†] Orbüs

Le transhumain sera-t-il un monstre ?

La science-fiction regorge d’exemples de machines monstrueuses, de cyborgs sans âme et d’intelligences artificielles démoniaques, calculatoire et cynique ; à vue de nez, autant que de machines capables de s’éveiller à la conscience et aux sentiments humains. Skynet likes this. Le transhumain science-fictionnel est souvent présenté comme une figure de la monstruosité – figure dont Robocop et Dark Vador sont probablement les exemples les plus connus.

L’image d’Épinal ne colle pourtant pas avec le discours transhumaniste réel, des technoprophètes américains ou de l’école française plus soft représentée notamment par l’AFT Technoprog. Ces transhumanistes de la vraie vie défendent le projet de l’amélioration humaine par la technique en vue de rendre la vie meilleure.

Vers le post-humain

Le transhumanisme est un projet foncièrement politique qui fait de l’augmentation humaine un but en soi. Il promeut l’avènement de l’évolution suivante de l’espèce humaine (post-humanisme) par la maîtrise des sciences et des techniques. Ce qui implique notamment le passage d’une médecine curative à une médecine « d’augmentation » censée répondre aux défis du monde. Les pistes d’explorations sont légion puisqu’on parle de guérir toutes les maladies, le sommeil (lol) et jusqu’à domestiquer la mort en « allongeant radicalement l’espérance de vie en bonne santé » (amortalité) à défaut de devenir immortels.

Les monstres cyborgs de la science-fiction semblent donc hors-sujet, car c’est bien l’évolution de l’humanité par le haut que nous promet le projet transhumaniste. Le transhumain du futur serait plus proche d’un surhomme nieztschéen que d’un monstre de Frankenstein.

Cette vision de la vie s’appuie pourtant sur une conception simpliste de l’humain. Comme une jauge qu’il suffirait de remplir. Car avant de parler d’augmentation humaine, il me semble primordial de poser la question de l’aune à laquelle on se proposerait d’améliorer l’espèce. J’en ai déjà parlé : l’intelligence (par exemple) comme toutes les facultés humaines, n’est pas binaire. Ce qui nous est présenté comme une amélioration tient en réalité plutôt du design, c’est à dire du formatage au service d’une fonction à remplir. Ce qui veut dire qu’on ne peut pas améliorer l’humain en général (par rapport à quoi ?) mais seulement l’orienter dans certaines directions. Les espèces animales n’ont pas à être hiérarchisées, aucune n’est « améliorée » par rapport à une autre. Il n’y a qu’adaptation par rapport à des contraintes et des environnements.

Les transhumanistes veulent prendre le contrôle de l’évolution, pour s’affranchir d’une sélection naturelle longue et non maîtrisée. Mais à vouloir orienter consciemment les choses, comment peut-on imaginer s’extraire de nos biais et présupposés civilisationnels ? Dans ce contexte, la neutralité de l’orientation qu’on donnera à nos futurs transhumains est inenvisageable. (Notons au passage que le design de la nature n’a rien d’une fiction ; nous « améliorons » déjà nos animaux d’élevage, nos plantes, et nos environnements en fonction des objectifs qu’on souhaite les voir remplir : produire du lait en telle quantité, résister à tel parasite etc.)

D’innombrables questions restent en suspens, et notamment : Qui va choisir qu’augmenter ? Qui aura droit à ces évolutions ? Dans quel but / pour remplir quelle fonction seront-elles développées ?

Vous avez dit « augmenté » ?

A bien des égards, nous sommes déjà des transhumains. Sans s’appesantir sur les technologies correctives (lunettes, prothèses, médicaments…), nous pouvons déjà remarquer les pouvoirs sur-humains dont nous dotent les technologies. L’exemple le plus évident est notre tentacule de plastique personnel, pseudopode portatif et connecté, téléphone « intelligent » et part intégrante (intégrée ?) de notre personnalité, j’ai nommé le smartphone.

Le smartphone n’est pas qu’un objet, c’est une partie de nous. On ne le prête pas, on ne le laisse pas et il se configure automatiquement avec nos contacts, nos mails, nos préférences et nos applications (personnalisation de masse). Nous sommes tous des nomophobes à divers degrés, trop habitués à bénéficier des pouvoirs nouveaux vendus par cet ustensile « intelligent ».

Il est d’ailleurs intéressant de noter comme aujourd’hui tout est prétendument devenu « intelligent », depuis la voiture qui se pilote elle-même au frigo qui envoie un texto quand votre brique de lait est périmée, du bracelet connecté capable de compter vos pas et votre rythme cardiaque en passant par la smart-city qui n’est jamais qu’une ville grêlée de caméras de surveillance et de bornes wifi. Sont dits « intelligents » les dispositifs qui optimisent, calculent, chiffrent, et intègrent dans des processus quantificateurs (marchands ?) tous les aspects de la vie. Il y a ici un glissement sémantique du concept d’intelligence qui le réduit à la seule intelligence du chiffre – héritée d’une conception rationalisante, économique du monde.

Loin d’échapper à la règle, le smartphone en est l’exemple le plus criant. Véritable assistant personnel qui nous obéit littéralement au doigt et à l’œil, cet ustensile nous propose essentiellement d’accroître notre impression de contrôle sur le monde, en mettant à distance nos peurs existentielles : la solitude, l’ennui, le fait de ne pas maîtriser. Ce qui passe par l’accès à des pouvoirs sur-humains, mais également des capacités humaines, qu’il rend plus rapide, plus fiables, plus sûrs qu’elles ne l’étaient auparavant. Le smartphone et tous les pouvoirs vendus par l’Internet des objets répondent extrêmement efficacement aux défis qui nous sont proposés (imposés), et accompagne à la perfection l’individualisation croissante de nos sociétés. Dans le monde du travail, par exemple, avec la « freelancisation » qui accompagne la disparition du salariat et les nouveaux modes d’organisation du travail comme l’uberisation. Il accompagne la grande atomisation des acteurs qui incite à la compétition du tous contre tous et de la « startupisation » de l’individu encouragé à se considérer comme un centre de coûts et de profits à tous niveaux de son existence, cherchant l’optimisation et la rentabilité : optimisation des dépenses, profitabilité d’un régime, d’une pratique sportive, et même de son « capital sommeil ». Votre grasse mâtiné du dimanche matin est-elle efficace ?

Dans une perspective spinoziste, on pourrait remarquer que cette focalisation sur le résultat – et donc l’attrait pour des pouvoirs immédiats et efficaces – s’accompagne d’une diminution de notre puissance d’agir sur le monde. On délègue notre compétence propre à une machine capable de faire mieux que nous. Et si l’augmentation se payait d’une part de diminution ?

Nous avons pourtant tout à apprendre à… apprendre.

A se focaliser sur le résultat, on mésestime complètement les apports de l’apprentissage lui-même. De la même manière qu’un étudiant travaille sa discipline personnelle, sa volonté et ses méthodes de révision pendant qu’il prépare un examen, tout ce que nous apprenons et faisons au quotidien dans tous les domaines participent intimement de notre construction en tant qu’individus. (C’est pour ça qu’il est insupportable de sortir son smartphone pendant une discussion pour vérifier tel ou tel fait sur Wikipédia : c’est la discussion elle-même qui est féconde, pas une hypothétique vérité stérilisante imposée aux participants.)

Où passe le bagage cognitif forgé chemin faisant ? Se focaliser sur le résultat attendu est oublier totalement comme ce chemin fait de nous ce que nous sommes, comme notre façon de vivre, notre travail, nos centres d’intérêts et nos discussions nous façonnent et nous constituent.

A déléguer toutes les tâches que nous réalisons aux machines, nous prenons le risque de nous réduire d’autant. Le transhumain est un assisté, une boule d’émotions sans la capacité cognitive à faire le lien entre les choses, à former des concepts, à créer des idées et à utiliser une matière grise qu’il aura entièrement déléguée à la machine. Or, déléguer ses capacités à la machine, c’est accepter la soumission totale à son UX, son design, à ses fonctionnalités, à sa manière d’ordonner et de réfléchir ; c’est se soumettre à ce qu’elle nous propose et à ce qu’elle nous impose ; c’est à dire à ce que ses concepteurs (privé ou publics) veulent en tirer.

Le transhumain est une poule pondeuse

Car la technologie n’est jamais neutre, et nous devons sans cesse nous demander quels objectifs elle poursuit. Objectifs pour nous, utilisateurs, mais objectif surtout pour ceux qui ont investis des sommes astronomiques et des milliers d’heures de développement pour la concevoir.

Comme le dit l’adage : « si c’est gratuit, c’est que vous êtes le produit ». On pourrait ajouter, en reliant à la théorie du digital labor d’Antonio Casilli que « si c’est gratuit, c’est que vous bossez pour lui ». Facebook n’est gratuit que parce qu’il doit rendre son service accessible et irréprochable aux utilisateurs en vue d’en entretenir un vivier-cible aussi large que possible à vendre à ses annonceurs. L’objectif, pour Facebook, est donc de nous rendre dépendants à sa plateforme. Facebook est une trayeuse automatique mondiale, trayeuse monétaire pour les annonceurs mais aussi trayeuse à données personnelles pour les utilisateurs.

Comme le citait Tristan Nitot dans le premier débat du Mouton Numérique, l’objectif de Google d’ici les prochaines années c’est que l’utilisateur se réveille le matin et demande « Google que dois-je faire aujourd’hui ? » Une politique confirmée récemment par la firme annonçant la fin programmé du moteur de recherche pour passer dans un « âge de l’assistance« . Quand on sait à quel point Google et ses cadres sont actifs dans le domaine du transhumanisme et investissement dans la recherche « d’amélioration » humaine, on peut se demander si le transhumain qu’on nous promet ne serait pas, plutôt qu’un surhomme nieztschéen ou qu’un monstre de Frankenstein, plus proche d’une poule pondeuse transgénique élevée en batterie.

~ Antoine St. Epondyle

A propos
monstruosité transhumanismeLe 6 avril 2017, je suis intervenu à la journée d’étude Monstruosité / Transhumanisme à l’INSA Limoges. Cet article est le texte de mon intervention (et c’est plus facile d’exprimer ce que je veux dire à l’écrit croyez-moi).

Vidéo complète

12 commentairesVous en pensez quelque-chose ?

  • Encore un article bordé de nuances.

    Vu que tu remets le sujet de l’abrutissement de la technologie sur la table, je rappelle juste que quand une technologie nous dispense d’apprendre un truc, ce temps d’apprentissage n’est pas perdu par l’usage de la technologie. Ce n’est pas du temps qui se traduit automatiquement en oisiveté. C’est peut-être même du temps passé à faire des choses plus stimulantes. L’apprentissage n’est pas synonyme d’intelligence, et l’absence d’apprentissage n’est pas synonyme de diminution. C’est parfois même une preuve d’intelligence de ne pas perdre son temps à apprendre des choses inutiles (par exemple le nom des 800 pokémon).

    Et pour « l’idée insupportable de sortir son smartphone pour checker Wikipédia », j’avoue que je ne comprends pas. Toutes les discussions ne sont pas des discussions d’idées, il est normal, voire même enrichissant, de s’appuyer sur des vérités (historiques, scientifiques, sociologiques). En quoi consulter une vérité est-il dommageable à une discussion, ou plutôt à TOUTES les discussions comme tu le laisses entendre ?

    Quand à l’âge de l’assistance, ça me fait toute de suite penser aux grecs et à l’esclavage. On a tous envie d’être assisté et de déléguer des tâches chiantes à quelqu’un d’autre. Mais c’est peut-être mieux si c’est une machine non ? Tu vas me dire « déléguer, c’est se diminuer », et c’est dommage, car l’absence de nuance (une fois n’est pas coutume) rend le propos complètement irrecevable. Faisons la liste, dans notre environnement quotidien (logement, ordinateur, eau, électricité), de ce qui n’a pas été délégué, ça ira plus vite. Décidément, on arrête pas de décliner.

    • C’est génial les enfants qui par cœur connaissent les 800 pokémons sans avoir été augmentés en mémoire avec des nanomachins…
      Je reste impressionnée par les dons des humains.
      Je ne sais pas les dons qu’auront les transhumains ?
      Ils en seront peut-être privés au nom d’une certaine dictature ou inquisition technologique ?
      Privé de leurs dons à cause d »élèments intracorps ?
      En dehors de ce que représente la technologie dans le domaine médical. Il serait surement préférable de na pas avoir autant de tâches contre-humaines à effectuer que l’on délègue aux machines…

    • Toutes les discussions ne sont pas des discussions d’idées, il est normal, voire même enrichissant, de s’appuyer sur des vérités (historiques, scientifiques, sociologiques). En quoi consulter une vérité est-il dommageable à une discussion, ou plutôt à TOUTES les discussions comme tu le laisses entendre ?

      C’est une de mes lubies, peut-être pas totalement à propos ici en effet. Il n’empêche, c’est la discussion en elle-même qui est féconde et dans mon expérience personnelle (qui ne veut pas généralité, on est d’accord) le smartphone-checking est juste un moyen d’asséner qu’on à « raison » pendant une discussion là ou une hypothétique vérité n’est pas le sujet. Bref, asséner un chiffre ou une info seule, sans contexte, est souvent vu comme une avancée dans la discussion alors même que ça la stérilise.
      Ceci dit, le smartphone n’est qu’un accélérateur. On pourrait tout à fait imaginer le même processus avec un type qui sortirait un dico.

      Quand à l’âge de l’assistance, ça me fait toute de suite penser aux grecs et à l’esclavage. On a tous envie d’être assisté et de déléguer des tâches chiantes à quelqu’un d’autre. Mais c’est peut-être mieux si c’est une machine non ?

      Si. Et d’ailleurs je fais partie de ceux qui considèrent l’automatisation du travail comme une bonne chose – si tant est qu’on ait quelque-chose à proposer aux gens rendus par elle inutiles. Pour reprendre les mots de Catherine Dufour : « avec les robots on pensait avoir les loisirs, on a eu le chômage ». Vaste débat.

      Tu vas me dire « déléguer, c’est se diminuer », et c’est dommage, car l’absence de nuance (une fois n’est pas coutume) rend le propos complètement irrecevable.

      Je dis, plus haut, « déléguer c’est accepter de se soumettre ». Et je le maintiens.
      Pour le coup il y a ici une nuance, qui fait que tu caricature un brin.

      Décidément, on arrête pas de décliner.

      Décliner à quel sujet ?

      • Déléguer c’est se soumettre, c’est quand même vachement individualiste comme propos. Toute coopération inclue une part de délégation. Coopérer c’est se soumettre ? Moi je veux bien croire qu’il y ait une satisfaction à tout savoir faire tout seul (se chauffer, se nourrir, se protéger), mais je ne vois pas en quoi déléguer est une soumission. L’entraide, le partage sont aux contraires des moyens d’émancipation et de surmonter des situations qui nous dépassent. Tu n’as jamais eu besoin de quelqu’un ? Et si oui, tu t’es senti soumis ? Ta liberté en a pris un coup ? Pour moi c’est l’inverse. On dirait que pour toi la technologie est un moyen d’asservissement des masses car le travail de millions sert les intérêts d’une minorité. Et si ce point de vue est défendable, et justement pointé dans l’article, c’est quand même occulter qu’internet permet, aussi et à l’inverse, au travail de quelques-uns de servir des millions de personne. L’existence même de ce blog en est la preuve formelle. Quelle est ta part de soumission à utiliser WordPress par rapport à la libereté d’expression (et le large auditoire) qu’il te procure ?

        La technologie est un sujet complexe, et je déplore que tous tes articles ne présentent que des points de vue binaire et péremptoirement tranchés, là où une argumentation plus nuancée qui traduit la multiplicité et l’entremêlement des causes et des effets me paraîtraient plus pertinents. Tu dis souvent que le cyberpunk s’inspire de la réalité, j’ai plutôt l’impression que ta vision de la réalité s’inspire du cyperpunk.

        • En l’occurence, on parlait de délégation à la technologie. Et oui, déléguer à la technologie c’est soumettre ça façon de faire au fonctionnement qu’elle induit par son ergonomie. Je ne parle pas de délégation entre individus, où pour le coup je n’ai rien à dire et ou ton procès me semble hors-sujet.

          D’ailleurs, en parlant de « la technologie » en général dans ces articles, je parle encore et toujours selon le prisme du transhumanisme comme projet. C’est le dénominateur commun de mon discours sur « la technologie ».

          Après oui, ce sont des billets d’opinion.

          • Ah et dernière chose :

            Quelle est ta part de soumission à utiliser WordPress par rapport à la liberté d’expression (et le large auditoire) qu’il te procure ?

            La soumission à WordPress est totale tant que je ne décide pas d’en changer (ce qui reste possible, mais chiant). Je ne peux organiser mes articles, mon site, ma façon de publier, d’écrire et – in fine – de penser mon rapport à cette écriture et cette publication, que dans le cadre que m’offre le logiciel.

            Ce cadre est large, tant mieux pour moi, et pour la communauté.

            Bien entendu que cela m’apporte beaucoup, en l’occurence de la capacité d’expression et de diffusion. Ça ne change rien au fait que (comme sur Twitter avec ses 140 caractères ou c’est encore plus évident) je suis contraint par le système technique qu’est WordPress. Ou Internet.

            Je ne dis pas que ces technologies sont forcément néfastes et dangereuses. Je n’ai jamais écrit ça, nul part. C’est un avis réactionnaire et technophobe que je ne partage pas.

            Je dis, partout, que la technologie induit un rapport au monde. Quelle qu’elle soit, transhumaniste ou pas. Et que ce rapport est pensé par ceux qui la conçoivent – pour servir leurs objectifs et les nôtres dans une moindre mesure. Dans le cas de WordPress, c’est un logiciel libre et gratuit, open-source. Les objectifs de ses concepteurs sont louables à mon sens.
            Mais j’utilise aussi Google Chrome, Android &co, suffisamment pour ne pas considérer cet « âge de l’assistance » ou la Google-tech nous irrigue en continue pour nous apporter des « réponses » sans passer par un moteur de recherche, comme quelque-chose d’inquiétant. Pas seulement en soi, mais en tant que tendance de fond de l’évolution actuelle de la technologie, dont le transhumanisme est un paroxysme (encore très théorique). Je mets donc le doigt sur cette tendance parce qu’elle ne me plait pas. Et ça n’enlève rien à ce que la technologie à de merveilleux par ailleurs.

          • En fait je ne vois pas pourquoi la délégation entre individus serait si différente (voire hors-sujet) de la délégation à la technologie. La technologie n’est pas vivante, elle n’a pas d’âme, pas d’intention, pas plus qu’un marteau n’aime taper sur des clous. Déléguer à une technologie, c’est, à mon avis, déléguer à un individu, même s’il n’y a pas besoin de le rencontrer. Lors d’une construction d’une maison, ce n’est pas la grue qui construit, c’est le grutier. Pour un site internet, ce n’est pas le serveur, mais le développeur qui construit. Pour WordPress, ce sont quand même des gens derrière, qui te proposent un service, comme un artisan te propose de construire une charpente. Le fonctionnement induit par l’ergonomie, c’est avant tout un être humain qui l’a pensé et qui te le propose. Alors oui, on n’est pas totalement libre quand quelqu’un nous rend un service, et je veux bien admettre qu’on est libre que quand on est indépendant. Mais en quoi est-ce propre à la technologie ?

            Mais tu as sûrement raison, ce que tu critiques c’est l’excès de technologie et le transhumanisme. Et en même temps, je pense que tu brouilles ton discours parce que tu en profites pour critiquer la société telle qu’elle est aujourd’hui, alors qu’elle n’est pas transhumaniste, ou en tout cas pas au sens des transhumanistes eux-mêmes. Pourquoi se cacher derrière l’épouvantail transhumanisme dans ce cas ?

            Et je ne te reproche pas de donner ton opinion. C’est juste que cette opinion est complètement vierge de nuances et de contre-points de vue, au point qu’on ne sait plus trop où est la limite entre fantasme, impression et argumentation.

            • D’accord sur le fait que la technologie ne vient pas de nul part : elle est conçue par quelqu’un. Peut-être que c’est parce que ce « quelqu’un » est moins visible ici que dans le cas de ton grutier (et le sera de moins en moins) et que les technologies sont de plus en plus présentées comme « autonomes » (algorithmes et IA) et « neutres » (« elle ne sont que ce qu’on en fait » = FAUX), que je trouve ça important de préciser tout ça.

              On n’est pas libre que quand on est indépendant. A mon sens, la liberté n’est pas d’agir sans contrainte (impossible) mais de connaître et d’agir sur nos contraintes. Ce n’est pas trop le sujet par contre ici.

              La « société » est un épouvantail et bien trop gros pour en critique quoi que ce soit. Je ne sais pas quoi dire de « la société ». Je parle du transhumanisme – et par lui attaque pas mal de trucs de « la société » parce que c’est l’une des tendances qui m’intéressent particulièrement, tout simplement. Mais oui, ça appartient à un ensemble que j’en profite pour égratigner un peu si possible.

              Enfin, mon article n’est pas « vierge de nuance » même si en effet il ne donne pas de contre point de vue. Je laisse défendre leurs idées à ceux qui le font mieux que moi (et pour cause). Seulement, il s’inscrit dans une série plus longue (ici). Et s’il t’a paru survoler certaines thèmes c’est parce qu’ils sont explorés (ou le seront) dans d’autres articles. Mais bon, ça reste le texte d’une intervention de 30 minutes donc forcément incomplet.

              Je note le point sur « la différence entre fantasme, impression et argumentation » comme un truc à améliorer. C’est noté ! ;)

    • « …L’apprentissage n’est pas synonyme d’intelligence, et l’absence d’apprentissage n’est pas synonyme de diminution… » C’est certainement vrai pour mémoriser le nom des 800 Pokémons ( j’ignorais qu’il y en avait tant que ça ) mais je crois que funkyboum se trompe complètement pour le reste. Il n’y a que l’apprentissage (.de la lecture ou de l’écriture…d’un instrument de musique…ou de l’audition…de tous les travaux manuels…) qui apporte de l’intelligence.

  • …(C’est pour ça qu’il est insupportable de sortir son smartphone pendant une discussion pour vérifier tel ou tel fait sur Wikipédia : c’est la discussion elle-même qui est féconde, pas une hypothétique vérité stérilisante imposée aux participants.)…
    D’habitude, je vous lis avec plaisir et placidité mais là j’ai bondi de ma chaise. Je comprend que le smartphone-wikicheck peut être utilisé comme stratégie d’interruption ou de divertissement par un interlocuteur qui a une volonté de disruption. Cependant, je pense que la vérité n’est pas stérilisante. Au contraire, elle peut être une « destruction créatrice » (pas dans le sens économique), et ce, même si cela créé soudainement un silence dans la discussion…
    …comme là ^_^

    • Bonsoir Pascal,
      Merci de me suivre avec plaisir et placidité. :) Ça fait plaisir.

      Si j’en crois ton commentaire et celui de funkyboun ci-avant, alors la smartphone-interruption ne choque apparemment que moi. Bon, je note. N’empêche que ça me donne une idée d’article pour expliciter ce qui me gène là-dedans, et qui n’est peut-être pas le sujet ici (c’est vrai).

      Au plaisir. :)

  • Je viens prendre la défense d’Antoine, non pas parce qu’il n’est pas capable de se sortir tout seul des arguments que je viens de lire mais parce que je trouve, comment dire un peu spécieux les arguments de Pascal et Funkyboum. Où sont-ils déjà à ce point dépendants des Objets connectés qu’ils ne peuvent plus admettre leur addiction ? Ils vont m’en vouloir d’écrire cela mais tant pis. J’ai déjà commenté le propos de Funkyboum à propos de sa croyance en la déconnexion entre Intelligence et apprentissage, je ne reviens pas dessus. Pascal lui argue du fait que sortir son smartphone pour vérifier l’exactitude d’un propos est de nature à faire progresser le dialogue. Et si c’était simplement une méthode pour essayer de clouer le bec à son interlocuteur et mettre fin au dialogue….Pour pouvoir profiter en toute sérénité du plaisir narcissique d’être le meilleur. Au XIXè siècle, on aurait appelé ça un grossier personnage.

Laissez un commentaire ici plutôt que sur Facebook.