Synthèse des articles1 de Rodhlann JORNOD, juriste, philosophe et doctorant à l’Institut de criminologie de Paris, auteur de Matière et contingence, L’Harmattan, 2011 par Mathieu BIETLOT
La singularité technologique est un concept qui voit dans certaines avancées scientifiques la prévision d’une croissance explosive et exponentielle de la connaissance humaine. L’appréhension de la singularité se trouve trop souvent teintée d’une inquiétude qui fausse les prévisions des possibles conséquences d’une telle croissance de la connaissance humaine. Il semble particulièrement léger de ne pas questionner l’idéologie motrice des changements qu’augure la singularité technologique, et encore plus imprudent de ne pas chercher à prévoir l’impact social de l’accélération du progrès scientifique. Notre société se trouve à l’orée de considérables transformations politiques qui reposeront sur les avancées technologiques.
SINGULIÈRE SINGULARITÉ
Cet étrange terme singularité correspond à l’avènement d’une courbe exponentielle de l’évolution de la connaissance. La singularité technologique fait référence à la singularité gravitationnelle : zone de l’espace-temps où les quantités permettant de calculer le champ gravitationnel deviennent infinies et où les connaissances scientifiques actuelles ne peuvent plus s’appliquer. La singularité technologique annoncerait un évènement à nul autre pareil dont l’historicité fausserait toutes les analyses des sciences humaines et sociales. La civilisation humaine connaîtra, grâce à une découverte scientifique, une croissance telle que tous les fondements de notre société ne pourront plus être pensés avec leurs valeurs actuelles.
Ce “trou noir” de l’histoire a été popularisé par l’auteur de science-fiction Vernor Vinge. Des chercheurs ont ensuite approfondi la question. Les prévisions relatives à l’avènement de ce point varient entre 2020 et 2050.
MÉSESTIME DU FUTUR
Empreint de fiction, l’imaginaire collectif est saisi d’effroi à l’idée d’une intelligence surhumaine. Des robots, des ordinateurs contrôlant le vivant, d’implacables machines étouffant le sensible, ainsi s’esquisse la vision apocalyptique de telles découvertes scientifiques. Il est toutefois nécessaire de comprendre l’intelligence artificielle comme une technologie capable de reproduire les mécaniques de l’intelligence humaine, à travers des phénomènes tels la perception, l’apprentissage, l’interaction sociale, la mémoire, le jugement critique pouvant mener à la création. Mais cela doit être appréhendé avec la conscience d’une intelligence artificielle façonnée par l’intelligence humaine.
Les prédictions de possibles dystopies qui ne cessent de voir dans la science l’origine du mal confondent vraisemblablement les moyens et les causes. Les condamnations que peut provoquer la singularité technologique ne sont que les miroitements du jugement inconscient porté sur la société actuelle. Étrangement, cette vision d’horreur correspond dans la fiction à un glissement d’une société néolibérale à une technotyrannie.
Il paraît totalement erroné de considérer un progrès scientifique sans estimer l’évolution de tout le cadre dans lequel ce progrès a lieu. La singularité technologique équivaut à une remise en cause totale de l’épistémologie classique qui entraînera une transformation conséquente de l’environnement humain.
Les découvertes scientifiques sont perçues au fil de leur arrivée sans volonté réelle de saisir la portée politique de leurs évolutions à venir. Le progrès scientifique continue d’être compris comme le résultat des évolutions sociales et politiques du collectif, sans se risquer d’y percevoir la source même de transformations sociales. L’invention des caractères mobiles de l’imprimerie par Gutenberg au XVe siècle a permis de diffuser largement le savoir, mais n’est-elle pas également la source des transformations de la société du XVIe siècle, du protestantisme ou encore de l’économie moderne ?
Face à un évènement historique tel que la singularité, il devient difficile d’établir une quelconque projection à partir des données disponibles puisque le cadre même qui permet de les envisager est remis en question.
L’HUMAIN SERA LE PREMIER ROBOT
Penser le futur questionne la possible maîtrise du comportement de l’intelligence artificielle avec l’établissement de principes premiers et de lois protectrices de l’humain, comme avec les trois lois de la robotique établies par l’écrivain de science-fiction Isaac Asimov :
- un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
- un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.[3]
Il est également nécessaire de se rappeler que l’homme restera au centre de ses propres créations et, animé par son désir d’élévation, le développement d’une intelligence surhumaine se focalisera en particulier sur l’augmentation des capacités cérébrales. Des projets comme le blue brain de l’École Polytechnique Fédérale de Lausanne suggèrent la virtualisation du cerveau humain et potentiellement du phénomène cognitif. Des émotions humaines dans l’artificiel deviennent même envisageables. Ainsi, l’humain se virtualiserait et l’ordinateur s’humaniserait. Artificiel et biologique se rejoindraient en une même entité.
IDÉOLOGIE CONTRE IDÉOLOGIE
Le réel problème que posera la singularité technologique sera la manière selon laquelle la croissance du savoir se répercutera sur les transformations sociales. Somme toute, quelle idéologie conduira la révolution technologique ? Dopé aux nootropes (drogues qui augmentent les capacités cognitives), sublimé par un exocortex, se projetant vers de nouvelles dimensions, la possibilité de l’homme augmenté s’envisage, mais que sera-t-il politiquement ?
Les théories qui structurent le concept de singularité technologique sont principalement teintées de libéralisme. La pensée anglo-saxonne a pris le risque de se confronter avec sérieux à ce concept et la plupart des écrits à ce sujet émanent de chercheurs anglo-saxons. Le transhumanisme a fait sienne la singularité technologique, et ce courant théorique n’est pas neutre politiquement. Il vacille d’une forme de libéralisme à l’autre, de la social- démocratie au libertarianisme. Un penseur comme Kurzweil en est un bel exemple ; transhumaniste, libertarien, il a participé à la mise en place de la Singularity University avec Google. Cet établisse- ment, qui cherche à comprendre inter-disciplinairement l’impact de l’accélération de la technologie sur l’humanité, est une illustration du retard de la recherche européenne à ce niveau. Le danger principal de l’emprise de l’idéologie anglo-saxonne sur cette thématique serait peut-être sa forte teinte utilitariste. L’utilitarisme devient dangereux lorsque l’être humain dans son individualité semble être un frein néfaste à l’humanité et pourrait devenir inutile pour la machine.
Un transfert de l’axe de réflexion du productivisme à l’eudémonisme pourrait être le début d’une révolution de l’approche idéologique de la technologie (certains économistes ont fait ce choix en se tournant vers le bonheur national brut plutôt que vers le produit intérieur brut). Les luttes sociales et les conflits d’intérêts présents dans les domaines scientifiques et industriels doivent entrer dans le débat afin d’envisager une possible pensée de la croissance technologique centrée sur le bonheur – un eudémonisme transhumain et une intelligence artificielle amicale plutôt qu’utilitariste.
LES PRÉLUDES D’UNE INTELLIGENCE COLLECTIVE
De la démocratie à la cognition en passant par les interactions sociales, tous les fondements sociaux seront renouvelés. Les liens entre les humains sont déjà en train d’être redessinés par les réseaux sociaux qui créent l’ébauche d’une intelligence collective. L’interconnexion des individus crée un réseau structurant la réactivité d’une société face à un évène- ment. Une empathie collective commence à être de plus en plus visible avec une diffusion accélérée de l’information grâce à des outils comme Twitter. Cette interconnexion pourrait se représenter comme une toile qui propagerait à son ensemble toute vibration ressentie. La présence à portée de main d’outils tels que Wikipédia permet d’externaliser la mémoire, de libérer l’intelligence de la tâche du souvenir et de lui offrir l’opportunité de se transformer, comme le pense notamment Michel Serres. L’intelligence collective se trouve encore à un stade de passivité avec une satisfaction de la simple réaction. Ce niveau qui pourrait être qualifié d’émotif fait place peu à peu à une rationalité agis- sante qui utilise une cognition distribuée.
Dans le domaine politique, des logiciels ont ainsi pu créer de nouveaux modèles, avec notamment la démocratie liquide qui assemble les forces de la démocratie directe et représentative. De la création technique émerge ainsi la création poli- tique. Dans le domaine économique, la finance participative (crowdfunding) décentralise la levée de fonds en supprimant une intermédiation classique ralentissant l’innovation. Les avancées technologiques telles que l’imprimante 3D bouleversent l’économie contemporaine en permettant aux individus de se réapproprier les moyens de production. Une importante déstabilisation du modèle économique industriel et libéral s’annonce pour les années à venir.
Les choix ne sont pas vastes : soit ce modèle économique se transforme en remettant en cause ses valeurs fondatrices, soit un nouveau modèle économique émerge, soit le modèle actuel tente de faire prévaloir les intérêts d’un petit nombre sur l’intérêt commun en imposant davantage de restrictions.
L’interconnexion des individus que présagent déjà les réseaux informatiques laisse poindre la société du cerveau global, où tous les êtres seront reliés tel un système nerveux qui formera un tout agissant. En des nuées électroniques, se révèlent les contours d’une société cybernétique où les interactions permettront l’autorégulation d’entités interconnectées et constitueront l’identité même d’une humanité transcendée.
LA QUESTION ENVIRONNEMENTALE
Une interrogation politique que posera l’accélération de la croissance technologique sera aussi celle de l’écologie transhumaine. Les nombreux problèmes environnementaux que pose le modèle contemporain de production pourraient s’accroître avec les avancées technologiques de notre époque (augmentation par exemple de la pollution de l’espace). La gestion des déchets devient alors une question cruciale liée aux avancées scientifiques. Un courant comme le technogaïanisme voit dans le progrès technologique non une menace mais une voie vers la possible restauration de l’écosystème terrestre ; des découvertes scientifiques comme la photosynthèse artificielle ou la fusion nucléaire iraient dans ce sens. Les perspectives environnementales sont éminemment idéologiques, tantôt si une approche anthropocentrique est choisie, tantôt si le respect de la biosphère prime. Cette opposition peut être perçue dans le courant de l’écologie profonde qui abandonne le primat des intérêts humains de l’écologie classique pour les replacer dans le cadre plus large des intérêts du vivant. Une exploitation des matières premières se trouvant dans l’espace, comme par la capture d’astéroïdes notamment à des fins minières, annoncent des solutions à la surexploitation des ressources terrestres. L’éminent Stephen Hawking offre même à des chimères de la science-fiction son autorité scientifique lorsqu’il prédit l’avenir de notre humanité avide de progrès dans la colonisation de l’espace.
L’EXPLOSION DÉMOGRAPHIQUE
Un autre point idéologique fondamental que pose la singularité technologique est la question de la démographie. Une accélération des découvertes médicales, comme la régénération d’organes grâce à des cellules souches voire l’impression d’organes, pourrait accroître considérablement l’espérance de vie. Des chercheurs prédisent même une quasi-éternité de l’humain (même si la longévité n’est que de quelques siècles, l’esprit pourrait être téléchargé dans un androïde se substituant au corps). La démographie a toujours été un moteur des transformations sociales à travers l’histoire, et l’explosion démographique qui risque de se produire avec l’accroissement de la longévité transformera inévitablement l’humanité. Aubrey de Grey parle de Methuselarity pour décrire une époque où la mort ne surviendrait plus que par accident ou homicide. L’humain devient un Mathusalem en puissance. Les conséquences d’une telle croissance démographique pourraient être nombreuses : des guerres entre des populations sur le déclin et des populations s’accroissant (fluctuations pouvant correspondre à l’accès aux soins des populations), des formes de gérontocratie, ou encore le développement de la recherche spatiale afin de coloniser des planètes voisines.
Face à un temps qui s’annonce où le savoir créera du savoir, où l’augmentation de l’humain le mènera vers une refondation de ses valeurs, où la science s’affirmera comme le moteur de densification sociale et politique, la nécessité de la réflexion s’impose dans l’espoir de diriger cette explosion future de la connaissance vers le bien commun.
[1] “La singularité technologique : en route vers le transhumain”, “Nébuleuse appréhension de la singularité technologique”, “A l’aube d’un séisme politique nommé singularité” publiés sur https://iatranshumanisme.com
[2] Dans un article de 1993 qui fut largement diffusé : “The Coming Technological Singularity : How to Survive in the Post-Human Era” et qu’on trouve aisément sur Internet.
[3] Isaac Asimov, “Le cercle vicieux” in Les Robots, trad. de l’américain par P. Billon, éd. Opta, 1967 (1942).
