Cosmo [†] Orbüs

Transhumanisme : La technologie n’est jamais neutre

Cet article fait partie de la série Le transhumanisme est-il un humanisme ? (3/5)
transhumanisme-humanisme

« Phantom Limb ». Photo par Omkaar Kotedia. En savoir +

Un mythe tenace est resservi à toutes les sauces dans les débats entre les « technoprogressistes » et nous autres technocritiques. Ce mythe, c’est la neutralité supposée de la technique.

L’outil sert à quelque-chose

« Le couteau, m’a-t-on souvent dit, le couteau est neutre en tant que tel. On peut s’en servir pour tartiner du beurre ou pour tuer. » Si l’on s’en tient au « couteau » comme concept (un outil manuel permettant de couper), nous serons probablement tous d’accord. Mais à regarder la plupart des couteaux, justement, on se retrouve très vite dans autant de cas particuliers. Bon courage pour tartiner votre beurre avec un poignard commando sans massacrer votre biscotte ; ou pour assassiner qui que ce soit avec un couteau à beurre. Bref, la technique est toujours orientée vers un usage, et même un simple couteau peut avoir pour fonction d’être… polyvalent. Comme un médecin généraliste.

S’il est vrai qu’on peut « hacker » la technologie (la détourner de son usage premier), elle offre d’autant moins de prises aux détournements qu’elle est spécialisée. Avec la « plateformisation » des logiciels, des galaxies entières de systèmes épars sont absorbées par quelques mastodontes technologiques. A force d’User Experience (UX) l’utilisation de ces nouvelles technologies devient de plus en plus facile et offre une expérience toujours plus lissée, ergonomique… et sans détournement possible (jusqu’au Dash Button d’Amazon, le nec plus ultra en la matière). Tout devient une app : un logiciel monotâche.

La Technologie (avec un grand T), n’est pas qu’un concept abstrait dont nous, l’humanité, ferions « ce que nous voulons ». Cette Technologie n’existe qu’à travers ses incarnations matérielles : Internet (qui est physique), le smartphone, la voiture électrique, la kalachnikov… Autant d’exemples que la technologie est toujours le fruit d’une réflexion appliquée, dans le but de répondre à un usage. Ainsi la kalachnikov n’est-elle pas neutre : elle est conçue pour tuer et, comme tout les outils bien pensés d’un point de vue ergonomique, elle porte en elle une invitation à s’en servir.

Celui qui paie décide de tout

Le projet transhumaniste s’appuie sur les avancées récentes et futures dans des domaines scientifiques variés : nanotechnologie, biomédecine, intelligence artificielle, génétique, robotique… pour imaginer « l’amélioration » des êtres humains. Pour divers qu’ils soient, ces domaines partagent le point commun d’être très pointus, et donc de nécessiter de gros moyens industriels et scientifiques. En résumé : ils coûtent monstrueusement cher.

Aucune structure, qu’elle soit privée au publique, n’investira les milliards que requièrent ces champs d’études sans en attendre de retour sur investissement. Politiques, financiers, concurrentiels, médicaux… s’ils ne sont ni bons ni mauvais, les objectifs poursuivis ne sont en tous cas pas neutres non plus. Dans le grand design de l’être humain qui s’annonce, il y a fort à parier que le génome et les améliorations seront markettés, vendus, alloués (pour deux enfants augmentés achetés, le troisième à moitié prix ?) et que ceux qui détiendront le pouvoir d’investissement décideront quelles technologies développer, dans quelles directions, et lesquelles tuer dans l’œuf. Comme le note Serge Latouche en parlant de Jacques Ellul :

« La recherche de puissance se heurte au seuil de la rentabilité. Dans une économie capitaliste de marché, tout ce qu’il est possible de faire ne sera pas fait (en tous cas pas dans un avenir prévisible), si ce n’est pas rentable. Pour la même raison, tout ce qui a été découvert ne sera pas utilisé. »¹

Si c’est gratuit…

A l’heure des technosystèmes omniprésents, et spécialement dans le cas des services « gratuits », nous devons nous demander : « quel est l’objectif de ce service ? ». Objectif pour nous, les utilisateurs, mais surtout pour celui qui nous y donne accès. Souvent, lorsqu’un service est gratuit c’est soit que nous sommes le produit, soit que nous travaillons pour lui, soit les deux.

En voulant prendre la main sur l’évolution de l’espèce, les transhumanistes risquent d’en donner les clés à ceux-là mêmes qui privatisent – aujourd’hui – les semences OGM parce qu’ils les conçoivent, et brevettent le vivant sous couvert de mettre à disposition du marché une nature « améliorée ». C’est ce que Bernard Stiegler appelle un « néodarwinisme socio-économique », où ce n’est plus l’adaptation à l’environnement qui est le moteur de l’évolution, mais les besoins et stratégies d’acteurs privés.

Ces mêmes acteurs n’auront plus qu’à installer leurs trayeuses à pognon, data, compétence, sur les nouveaux cyborgs bien heureux de « s’améliorer » comme ils « améliorent » déjà leur footing, leur sommeil, leur « capital santé » et leurs ébats sexuels pour suivre la course folle qu’ils s’infligent – que nous nous infligeons à nous-mêmes. Et Bernard Stiegler de conclure :

« Il n’y a que quelques lettres de différences, entre transhumanisme et transhumance : l’art de s’occuper du bétail. »²

~ Antoine St Epondyle

¹ Serge Latouche, Jacques Ellul contre le totalitarisme technicien, in Les précurseurs de la décroissance
² Bernard Stielger in BiTS, Arte

A lire :

A propos
transhumanisme-bioéthiqueLe 31 janvier 2017, je suis intervenu au Forum Européen de Bioéthique de Strasbourg. Autour du thème « Le transhumanisme est-il un nouvel humanisme ? », j’ai pu y développer mes idées face à l’asso transhumaniste Technoprog. Cet article est une partie de mon argumentaire.

Vidéo complète et sommaire

Dans la même série
<< De quoi l’homme augmenté a-t-il peur ?Corps est âme >>

13 commentairesVous en pensez quelque-chose ?

  • Dans le système actuel (on peut imaginer en changer, en passant), tout se fera évidemment contre argent. A l’instar des smartphones, ni plus ni moins : concernant d’abord les plus riches, mais au final largement diffusés. Petite exception pour la santé publique, dont le champ évolue avec les attentes de la société.

    Ceci étant dit, la critique doit se faire au cas par cas pour chaque technologie. Pour les outils de contrôle obsessionnel, je suis d’accord avec ta critique. Fort heureusement, la technologie ne se limite pas à ça :)

    Les prothèses copyrightées, c’est un très bon exemple :

    1) Si on rejette l’idée en bloc ou qu’on l’ignore, ça se fera quand même, et en version « Apple / iTunes ».

    2) Si on s’intéresse au sujet, des revendications de transparence quant à leur fonctionnement vont apparaître.

    Alerter les gens sur les risques de dérives iTuniennes ? Je suis tout à fait d’accord. Mais cette critique peut s’appliquer (par exemple) à de nombreux aspects d’Internet. Or, nous ne rejetons pas Internet (formidable outil) pour autant ! Mon avis est le même pour le transhumanisme.

    • On se rejoint donc là dessus. (Je ferai un article de conclusion sur les « conditions » pour un transhumanisme dépouillé des problèmes que j’y vois, notamment à travers l’open-source mais pas seulement, car il a des (grosses) limites.)
      Concernant le smartphone, c’est un outil totalement ambivalent en ceci qu’il prend au moins autant qu’il donne. Et ce qu’il donne (ou vend) c’est un pouvoir qui diminue d’autant nos compétences propres. J’écrirais aussi là dessus, patience. :) Pour le smartphone finalement, c’est l’exemple le plus parlant de ce que j’appelle une loi de Moore sélective : on nous rend accessible ce qu’on veut bien, ce ne sont certainement pas les citoyens qui choisissent mais les entreprises qui commercialisent. Et en l’occurrence, le meilleur choix commercial était pour elle de diffuser largement ces équipements… sans penser une seconde aux transformations sociétales qui pourraient en découler. Un instant de faiblesse et c’était le concurrent qui raflait quelques années d’avance.

  • L’utilisation « par défaut » de certains produits peut être aliénante, mais cesse de l’être si on prend un minimum de recul. On peut regarder ce qui passe à la télé avec un regard mort, ou sélectionner ce qu’on regarde. On peut scroller son fil Facebook à l’infini, ou se limiter à ce qui nous intéresse et sans y passer trop de temps.

    La but de Facebook est bien entendu de faire en sorte que les gens passent le plus de temps possible sur Facebook (et donc voient plus de pubs, et donc leur ramènent plus d’argent). Mais c’est la logique capitaliste qui veut ça : ce n’est pas non plus un complot mondial avec pour but conscient de décérébrer les gens. Il faut avoir conscience de ce que Facebook peut nous offrir (de la mise en réseau, de l’échange) et de ce qu’il peut nous prendre (du temps de vie sur des « top 10 lolcats »).

    Donc pour moi, c’est davantage une question d’éducation des gens par rapport à la technologie. Rien de très élitiste, juste prendre un peu de recul par rapport à l’utilisation qu’on en fait. Et je suis faillible, il m’arrive par moment de regarder un « top 10 lolcats » :) (valeur « détente »)

    • Oui tu as raison.
      Pas de complot mondial, on est d’accord. « Juste » l’économie de marché » qui fait que les acteurs cherchent à consolider leurs positions et leurs PdM.
      Une émancipation pourrait venir de l’éducation en effet, je pense qu’il y a urgence à apprendre (et pas qu’aux enfants) à utiliser ces services intelligemment. Le propos de mon article est d’appuyer sur le fait que, malgré ce qu’on peut en retirer bien sûr, ils n’en demeurent pas moins profondément orientés.

      • Oui, il faut toujours se demander ce que le fournisseur gagne en proposant tel ou tel service. Analyser le business-model de Facebook est tout à fait légitime et pertinent.

        Bien entendu, ça arrangerait le fournisseur de pouvoir transformer le consommateur en pompe à fric amorphe. Mais ça ne veut pas dire qu’on ne peut pas trouver un équilibre où le fournisseur et le consommateur (averti) trouvent chacun leur compte.

          • Mais quelle proportion de la population est vraiment prête à s’engager dans une telle reflexion ? On en arrive toujours à la même conclusion, bien utilisé, l’outil *est* utile, sans être forcément aliénant. Mais n’y a t-il pas une prémisse utopiste dans le fait d’espérer qu’une proportion suffisamment grande de la population puisse adopter cette attitude de recul ?

            • Probablement que si.
              Et en même temps, on pourrait répondre que le niveau d’alphabétisation d’aujourd’hui aurait paru utopiste à la France du XIXème siècle… Là ou surgis un vrai problème, c’est quand les gens croient maîtriser les technologies parce qu’ils en connaissent l’usage – et non le fonctionnement. Dans certains cas, on le leur cache (code caché, app, plateformisation…) dans un but d’optimiser leur « expérience » en demandant le moins d’effort possible (c’est l’UX), ou parce qu’on poursuit d’autres objectifs qu’on préfère ne pas leur laisser comprendre (Digital Labor). Dans d’autres, on leur donne les possibilités de prendre le contrôle sur la techno, notamment dans le cas de l’open-source, du mouvement maker etc… mais ces initiatives sont-elles généralisables ? Sont-elles capables d’inverser une tendance à s’appuyer sur le fait que « ça marche » ?

              Je pense instinctivement au domaine automobile, ou les garagistes sont de plus en plus démunis face à une « électronicisation » croissante des dispositifs. La voiture devient ordinateur plus que mécanique, pour cloisonner le marché des constructeurs (et de leurs garages affiliés). Bref, on retire consciemment ce pouvoir de ceux qui l’avaient au préalable, on privatise la maintenance mécanique des véhicules. Bon exemple d’intérêts privés (ceux du constructeur) en conflit avec ceux des tiers (les garages) et des utilisateurs finaux qui 1/ payent plus cher et 2/ délèguent une partie de leurs compétences à une technique dont ils n’ont pas idée de comment elle marche.

  • Attention quand même à la rhétorique de l’exagération à outrance. C’est vrai que pour critiquer un aspect, tu l’étires toujours au point d’en donner une version post-apocalyptique. Tu reproches aux transhumanistes de voir sur des échelles de temps trop longues pour être réalistes, et pourtant on dirait que tu fais exactement pareil en imaginant toujours le pire…

    Cela a un peu tendance à décrédibiliser le propos à force (ça me fait penser à la manif pour tous où l’un des arguments était : le mariage homosexuel et ensuite ? La zoophilie ? La pédophilie ? Le nazisme ?). Le fait de se poser la question « et ensuite ? » en extrapolant à tous les fantasmes n’est pas un argument, juste une angoisse déguisée.

    Quand à la phrase en gras : aucune structure publique ou privée n’investira dans un projet non-rentable, d’une je ne suis pas tout à fait d’accord, car toutes les entreprises privées, et encore moins publiques ne sont 100% rentables dans toutes leurs activités (il y a même certaines entreprises privées qui dédient un budget à des actions humanitaires ou d’investissement dans des start-up tout sauf sûres d’être rentables). Et enfin, pour remettre le sujet sur la table, les acteurs privés et publiques ne sont pas les seuls acteurs de notre monde technologique et économique, et tous les projets open source sont la preuve flagrante que des projets non-rentables et d’envergure peuvent transformer notre monde, et souvent dans le « bon » sens.

    • Le retour sur investissement n’est pas forcément financier : il peut être politique, d’image, médical, humanitaire… en tous cas il n’est pas neutre, c’est à dire qu’on ne te donne pas une « technique » ou « science » dans l’absolu que tu utiliserais à ta guise, mais une incarnation de celles-ci, orientée vers un but. But pour toi, l’utilisateur, mais aussi (surtout ?) but pour la structure qui l’a conçue.
      Les mouvements libristes et open-source sont dans cette mouvance aussi : ce sont des mouvements profondément militants (donner accès à tous). Qu’on soit d’accord avec leurs idées est une chose, en tous cas ce n’est pas moi qui serai contre, mais leurs technologies poursuivent des objectifs elles-aussi. Et d’ailleurs avec un souhait d’impacter la société bien plus conscient que les boîtes privées d’ailleurs. Même la course aux étoiles poursuivait des objectifs politiques pendant son âge d’or, la Guerre Froide.

      Toutes les entreprises et structures étatiques ne sont pas 100% rentables. Mais on parle ici de centaines de milliards investis à terme dans ces industries. Qu’il y ait de la déperdition soit, mais globalement ils en attendent quelque-chose.

      Je ferai un article sur la possibilité d’un transhumanisme open-source.

      Enfin, je ne dramatise pas. L’expression de Stiegler est un peu enflammée avec l’utilisation du terme « bétail », mais on en est déjà là : Bayer-Monsanto privatise en effet le vivant qu’il conçoit et brevette sous licence ; Facebook et les applis de Quantified Self ont déjà des trayeuses à data tout comme Uber et ses dérivés sont des trayeuses à compétences. Il faut s’en rendre compte avant d’espérer récupérer un brin de pouvoir sur ces technologies qui impactent déjà nos vies.

  • Avant tout, merci pour cet article très intéressant !
    Pourrait-tu par contre détailler ce que tu appelles la « plateformisation » des logiciels ? Après l’avoir googlé (enfin duckducké) je n’ai trouvé que des définitions relativement différentes, et portant toutes sur des sujets précis et distincts…

    • question similaire que j’ai oublié d’inclure au précédent commentaire : qu’est-ce que tu entends précisément par « technosystème » ? (évoqué juste en-dessous du sous-titre « Si c’est gratuit… »)

  • Salut Jean-Pierre, merci pour ton intérêt.

    Point vocabulaire (tu as raison de me reprendre, je jargonne !) :

    + La « plateformisation » est utilisée ici selon son sens dans l’histoire du web : on est passé d’un flot de sites indépendants (codés à la main dans le web 1.0) à un nombre bien plus petit de « plateformes » de fourniture de services. Par exemple, BlogSpot, Tumblr, WordPress.com, Medium… pour la blogosphère. Ebay, Amazon pour le e-commerce… Ce n’est pas critiquable en soi car ces plateformes sont souvent de grande qualité quant à la puissance du service rendu. J’ai moi-même commencé sur WordPress.com après OverBlog. Mais ces mastodontes, par leur hégémonie, ont un pouvoir énorme sur leurs utilisateurs. Par exemple, Medium superpose des pubs sur tes articles, et si Facebook décidait de rendre payantes certaines de ses features, nous n’aurions rien à dire.
    Ainsi le service rendu à titre gracieux (en tous cas pas contre de l’argent) se paie d’une mise sous tutelle de l’utilisateur qui devient dépendant de la plateforme qui possède le service mais aussi le trafic. Il suffit de voir comment les Youtubeurs hurlent lorsque YouTube saque leurs vidéos pour infraction aux droits d’auteur ou modifie ses règles de monétarisation. Ils n’auraient pas ce problème s’ils hébergeaient leurs vidéos eux-mêmes sur des blogs, mais bien sûr ça serait aussi beaucoup plus compliqué d’attirer un trafic nombreux et d’en tirer des sous. L’indépendance est le choix que je fais, moi, et je ne suis pas le seul. Du coup je plafonne à quelques milliers de lecteurs mensuels (ce qui est déjà énorme) et je ne touche strictement que les ventes de mon livre. Par contre, je suis aux commandes de mon site (et je le répare tout seule en cas de pépin, d’ailleurs…).

    + Le « technosystème » est une référence à la pensée de Jacques Ellul et son « système technicien », c’est à dire le fait de considérer que l’informatique nous fait passer de l’outil technique au « milieu technique ». En son temps, le sociologue prévoyait déjà comme toutes nos vies seraient un jour irriguées de technique, ce qui implique qu’on ne peut pas « être contre » elle en général puisqu’elle structure notre civilisation. Par exemple l’électricité et l’eau courante sont aujourd’hui partout (et les routes pour les voitures), et leur production et acheminement modifie en profondeur l’organisation de notre monde. Il en est quasiment de même pour le réseau aujourd’hui.

Laissez un commentaire ici plutôt que sur Facebook.