Les archives de Meditationfrance

L’homme robotisé

Par Jean STAUNE

Article paru dans le magazine REFLETS N°24 www.revue-reflets.org

Philosophe des sciences, diplômé en économie, management, philosophie, mathématiques, informatique et paléontologie, Jean Staune est l’auteur du best-seller Notre existence a-t-elle un sens ?, éd. Presses de la renaissance (2007).
Jean Staune est également le fondateur de l’Université interdisciplinaire de Paris, organisant des colloques sur différents thèmes scientifiques et sociétaux. www.jeanstaune.fr

Il semble que nous soyons à un moment où le futur peut basculer. Ou bien les machines resteront au service de l’humain et on sera capable de maîtriser le processus. Ou alors les machines asserviront l’homme. Les technosciences ne nous entraînent-elles pas dans un non-choix ?

C’est une question très complexe. Premier angle d’approche: même si un robot n’est pas capable d’avoir des sentiments pour l’homme, nous lui prêterons des sentiments envers nous. Le jour où les robots passeront le test de Turing, - c’est-à-dire la capacité de discuter avec un être humain comme un être humain -, les personnes seules, isolées, âgées, malades en particulier adopteront les robots de compagnie. Un film très intéressant et redoutable aborde ce sujet : Her, - « Elle » en anglais -, où l’acteur tombe follement amoureux de l’intelligence artificielle qui est dans son téléphone portable parce qu’elle est faite pour simuler une femme amoureuse. Comme dirait mon ami André Comte-Sponville, l’amour, c’est faire des concessions, accepter que l’autre ne soit que ce qu’il est et non pas ce qu’on voudrait qu’il soit. Donc, si vous avez des compagnons robots capables d’être réglables pour être exactement comme vous voulez, finalement, vous allez les préférer aux êtres humains. Au début, on aura des compagnons robots qui vont simuler un amour pour nous, donc nous allons nous habituer à ce genre de comportement, nous serons très contents. Nous allons attendre des êtres humains qu’ils se comportent comme des robots. Le risque est non seulement de préférer vivre avec des robots, mais de robotiser en quelque sorte l’être humain (Voir le remarquable ouvrage de Serge Tisseron Le Jour où mon robot m’aimera Albin Michel, 2015).

La deuxième réponse, c’est effectivement la question ultime sur le thème de l’intelligence artificielle (I.A.). Y aura-t-il un robot qui imitera parfaitement l’être humain? Je reconnaîtrai au robot la qualité d’être un être humain le jour où il pourra tuer pour survivre sans être programmé pour cela et même en étant programmé pour l’inverse (Cf. 2001, l’Odyssée de l’espace par exemple). Un robot va-t-il simuler l’existence comme un être humain ou bien va- t-il vraiment exister? C’est-à-dire: aura-t-il des sentiments, de la colère, de la haine, de la peur ou simulera-t- il ces émotions? Nous pensons que les robots ne pourront que simuler, mais nous pouvons nous tromper. Si nous nous trompons, cela signifie qu’un robot pourra être l’équivalent d’un être humain. Par exemple, un être humain est prêt à tuer pour survivre, pour éviter d’être tué. Donc, pour éviter d’être débranché, - être tué dans son langage à lui -, le robot pourrait éventuellement se mettre à tuer des êtres humains. Si un robot est capable de faire cela, nous pouvons plonger dans un monde à la Matrix ou à la Terminator, c’est-à-dire un monde de science-fiction.

En résumé, même si le robot ne peut pas être totalement l’équivalent d’un être humain, le premier grand risque, c’est que nous nous robotisions nous-mêmes par le contact avec les robots autour de nous, que nous robotisions nos mœurs et nos comportements. Le deuxième risque, si les robots peuvent imiter totalement un être humain, c’est que dans ce cas-là ils prennent effectivement le contrôle de l’espèce humaine, voire l’éliminent par volonté de ne pas être soumis au risque d’être débranchés par les hommes. C’est une question ouverte et pragmatique à laquelle nous n’avons pas de réponse aujourd’hui.

Aujourd’hui, cette technologie vers laquelle nous allons se fait-elle sans nous ou y a-t-il un débat citoyen qui peut choisir cet avenir ? J’ai l’impression que le GAFA (GAFA acronyme pour Google-Apple-Facebook-Amazon. Symbole des grandes entreprises du numérique.) en décide sans vrai débat démocratique. Qu’en pensez- vous ?

C’est tout à fait un risque, dans le sens où les institutions et les états sont très en retard pour la prise en compte de la situation. Évidemment, il y a des géants de la Silicon Valley, à commencer par Google, qui sont totalement pour le transhumanisme et qui financent ce genre de recherche. En revanche, Bill Gates est contre.

Effectivement, le débat citoyen et les états ont du retard. Le vrai problème est: peut-on arrêter le progrès? Les décideurs disent que si on ne développe pas l’intelligence artificielle, ce sont les Russes ou les Chinois qui vont la développer. C’est le même mécanisme que pour la bombe nucléaire. Oppenheimer et d’autres ont dit : « Stop, cela serait trop dangereux! » Et la réponse des dirigeants américains fut : « Vous êtes de mauvais citoyens ; si on ne fait pas la bombe H, les Russes la feront. » À mon avis, il en sera de même avec l’intelligence artificielle. Cela veut dire qu’on ne peut pas espérer avoir un contrôle citoyen sur ce genre de chose, comme sur l’arme nucléaire. Le schéma est identique.

Donc, c’est en train de se faire, cela se fera, c’est inévitable.

Quand elle va naître, l’intelligence artificielle sera en prison dans un ordinateur, soit de la GAFA, soit de la DARPA, l’agence des projets secrets américains6. Donc, elle sera prisonnière, c’est-à-dire qu’elle n’aura pas accès au net. Elle dira à ses gardiens: « Si vous me donnez un accès au net, je vais vous faire des choses incroyables. Je vais guérir le cancer, le sida. » Ils vont craquer et lui donner accès au net. Le jour où l’I.A. aura accès au net, elle mettra des copies d’elle-même partout sur le net et elle sera irrattrapable. À partir de ce moment-là, que se passera-t-il ? Elle prendra le contrôle de la planète en quelques heures. L’intelligence artificielle agit en permanence, elle ne dort pas la nuit. Très vite, elle sera des milliers de fois supérieure à nous.

James Barrat dans son livre (James Barrat, Our final Invention, Articial Intelligence and the End of the Human Era, Thomas Dunne Books, 2013), le plus effrayant que j’aie jamais lu, prédit que l’I.A. aura d’autres projets pour les atomes qui composent notre corps. Tous les atomes d’oxygène, d’hydrogène, de carbone qui sont dans les êtres humains, quel gâchis cela représente pour un être basé sur le silicium, cela ne sert à rien ! Notre destin serait alors d’être coupé en tranches par une super intelligence artificielle.
Paul Jorion, économiste sceptique, mais sérieux, a publié un livre intitulé Le Dernier qui s’en va éteint la lumière (Ed. Fayard, 2016), dans lequel il explique que l’espèce humaine est déjà condamnée. D’après lui, il est intéressant de comprendre pourquoi le mécanisme « si-je-ne-le-fais-pas,-l’autre-le-fera » nous amène à une situation où nous savons déjà que nous sommes condamnés, où l’humanité n’atteindra jamais l’année 2100. Certains des gérants de la Silicon Valley ont donné 10 millions de dollars pour créer une intelligence artificielle favorable à l’être humain. Les autres, qui sont financés par Google, disent : « On va créer en fait l’espèce qui va nous remplacer. C’est le mérite de l’espèce humaine. » Il y a 20 ans, un chercheur français en intelligence artificielle avait déjà comme programme de recherche « la disparition de l’espèce humaine». «C’est génial, disait-il, nous allons créer l’être qui va nous remplacer. » Les gens ne croient pas à cette menace parce qu’ils pensent que c’est du cinéma. Ce n’est pas parce que c’est du cinéma que c’est impossible.

Cette intelligence artificielle sera capable de mimer l’affectivité, peut-être même d’en avoir, mais les qualités suprêmes de l’homme, les attributs spirituels ne semblent pas accessibles à ces machines. Je parle de l’amour, du don de soi, de la miséricorde qui sont le sommet de l’humanité. Est-ce que par là, il n’y a pas une solution ? Ne va-t-on pas voir s’opposer cette humanité spirituelle et cette humanité matérialisée par les robots ?

Si les robots simulent un être humain, mais n’ont pas l’instinct de conservation comme les animaux et les humains, dans ce cas-là la menace est faible. Les robots n’auront pas vraiment de raison de nous contrôler ou de vouloir s’émanciper. Il y a dans l’être humain ce que la tradition appelle l’âme ou l’esprit, une dimension qui n’est pas réductible à des mécanismes neuronaux. Les Bill Gates et autres dirigeants pro ou anti IA partent tous d’une hypothèse matérialiste, où justement l’être humain est entièrement imitable par un robot. Dans ce cas-là, l’humanité est foutue à brève échéance. Mais cette hypothèse est loin d’être prouvée. Elle est majoritaire dans le domaine des neurosciences, mais, selon moi, c’est parce que les chercheurs sont imprégnés par des modèles matérialistes classiques. Là il y a un espoir et c’est là où il y a une zone de recherche importante.

Vous personnellement, êtes- vous pessimiste par rapport à ce problème ?

Je suis optimiste pour les raisons que je viens de vous expliquer, parce que je pense qu’il y a une dimension de la conscience qui n’est pas créée par le cerveau et donc qui est extraneuronale. Un robot ne pourra pas être cela. Le clonage humain, pour l’instant, n’a jamais été réalisé, mais il risque de l’être un jour, parce que, quand il y a une connerie à faire, il y a toujours quelqu’un pour la faire. À partir du moment où c’est techniquement possible, cela risque d’être fait. Donc, il est très difficile d’interdire le clonage humain sur toute la surface de la planète. Mon argument est le même pour l’intelligence artificielle. Si elle est possible, il sera très difficile de l’interdire, voire impossible.

Les fenêtres d’espoir pour moi sont essentiellement tout ce qui pourrait montrer que la conscience possède d’autres dimensions. Il n’y a pas seulement les NDE (Near Death Experience : Expériences de mort imminente (EMI) en français), il y a par exemple des études sur les enfants autistes. L’enfant promène son doigt sur un clavier à l’aide d’un facilitateur qui soutient son poignet et tape des mots. Les enfants racontent leur vie d’autiste enfermé dans un corps. Il semblerait que ces gens atteints au niveau du cerveau aient une conscience normale. Là on touche à la parapsychologie. Tout cela montre la capacité de projection de la conscience en dehors du cerveau.

Paru dans le magazine REFLETS de Janvier-février-mars 2017
www.revue-reflets.org