Le Fantasme de l’Intelligence Artificielle Consciente ?

Le début de ce XXIème siècle est radicalement traversé par une double révolution numérique, celle d’une part de l’intrication de l’information et de l’organisation, et d’autre part de l’imbrication des sciences cognitives et des techniques informatiques.

La révolution numérique de l’information s’esquisse et se manifeste au travers de moyens qui avaient été à peine imaginés 50 ans plus tôt. Tant et si bien que nous avons le sentiment, « nous les simples humains » de vivre une accélération phénoménale du temps, une accélération effrayante par l’ampleur du “système technicien1 qui se dessine…

Dans à peine une décennie, serions-nous ainsi capables d’entrevoir, d’imaginer les nouvelles possibilités organisationnelles et « technoscientifiques » qui n’ont pas encore été imaginées à ce jour.

Soyons nonobstant assurés que la science et la technique déploieront dans quelques années de nouveaux prodiges qui fascineront l’homme, le submergeront au point que cette même technique est en passe demain, probablement de le dominer.

Cette domination de la technique sur l’homme est hélas et inévitablement fortement prévisible, si l’homme ne tente pas de mettre les curseurs, les limites nécessaires pour entraver le développement de technologies susceptibles de noyer ou de vampiriser son âme. Une des technologies fascinantes qui n’est pas en réalité nouvelle, puisque née dans les années 50, connaît une évolution dont l’ampleur avait déjà été pressentie dès l’origine de sa conception. En effet en 1958, Herbert Simon2 prix Nobel d’économie, fut le pionnier de l’intelligence artificielle (IA). L’économiste avait notamment appréhendé la manière dont les activités humaines peuvent être automatisées. Dès les années 50 l’homme démiurge était ainsi sur le point de donner naissance à une forme de léviathan technologique sans conscience, “une science sans conscience”.

Reproduire l’Intellect humain

Pour Herbert Simon, la faisabilité de reproduire l’intellect humain, n’était pas impossible, dès lors que le processus cognitif de l’être humain est appréhendé, décrypté, analysé en profondeur puis maîtrisé. Pour le prix Nobel de l’économie, l’IA copiant ainsi le cerveau humain, son réseau neuronal, rend dès lors possible la modélisation de l’intelligence de l’être humain, en conséquence de l’améliorer, de corriger également la part d’irrationalité de l’esprit humain. Herbert Simon pensait même que la puissance de calcul de l’IA rendrait ainsi parfaitement capable de penser et de créer, y compris de réaliser des œuvres d’arts, de démontrer des théorèmes originaux en mathématiques, de composer de la musique, de dominer l’homme cérébralement dans des jeux ou la part d’intelligence est largement convoquée comme les échecs ou le jeu de GO.

Plusieurs génies de la littérature ont été en mesure d’ailleurs d’anticiper cet avenir dystopique, de l’imaginer comme le fit Georges Bernanos en 1945, quand l’essayiste écrivit ce livre quasi prémonitoire « La France contre les robots », ou bien Jacques Ellul, qui écrivit cet essai sur le système technicien qui fut un ouvrage référence dénonçant les interconnexions croissantes d’un monde informatique qui était seulement à ses balbutiements. Jacques Ellul, dans son analyse du monde technique, était allé au-delà de la simple critique du pouvoir des machines informatiques, il dénonçait à travers elles toutes les méthodes d’organisation de la vie sociale qui découleraient de leur usage. L’univers de l’intelligence artificielle, concept que n’appréhendait pas Jacques Ellul au moment où il écrivait ses essais sur la technique, est bien une plongée dans le monde de la vie sociale, prétendant la structurer, l’ordonnancer, l’architecturer.

Or, lorsque l’on appréhende l’œuvre du sociologue et économiste Herbert Simon pionnier de l’intelligence artificielle, nous découvrons qu’il s’intéressait aux sociétés à leur organisation sociale et économique, aux hommes et à la façon dont ils interagissent. Nous comprenons dès lors aujourd’hui les perspectives susceptibles d’être mobilisées via l’intelligence artificielle, pour exploiter et gérer des masses de données, pour structurer et organiser le pilotage de ces mêmes data, au moyen des techniques d’intelligence artificielle qui bouleverseront l’ensemble des secteurs d’activités touchant à la vie sociale et consumériste au point de les contrôler et de superviser la totalité des être humains addictes ou assujettis aux technologies.

La mathématisation de la pensée

Mais au-delà des avancées de cette technologie puissante en termes de capacités de calculs, c’est le fantasme des bricoleurs du génie technoscientifique qui est inquiétant et qui est ici l’objet de notre réflexion que nous souhaitons décliner dans cet article.

En effet Herbert Simon défendait la thèse d’une Intelligence artificielle capable de penser, l’économiste soutenait effectivement l’idée que l’IA dite « forte », serait capable d’imiter la raison humaine.

Herbert Simon avait une conception philosophique matérialiste de la vie, puisqu’il considérait que l’ordinateur, tout comme le cerveau humain, sont des systèmes comparables, proches, capables de manipuler des symboles physiques. De fait et de par sa capacité à gérer des symboles, la programmation informatique rendait selon lui possible, tout comme le cerveau, de manipuler des données, d’intégrer par exemple la lecture d’un texte en langages codés, de comprendre, décrypter puis d’analyser une situation, de déduire des solutions, des scenarii, ce qui a été réellement possible avec l’Alphago, le programme qui a battu l’un des meilleurs joueurs de GO au monde, un jeu pourtant intuitif et imposant une intelligence créative.

Le fantasme d’assurer « l’infaillibilité du raisonnement » avait été imaginé trois siècles plus tôt par le philosophe Leibnitz qui avait conçu un rêve incroyable, oui incroyable à l’heure des algorithmes, à l’heure de l’intelligence artificielle, celui de mathématiser la pensée et de créer une machine à raisonner (Le calculus ratiocinator). Le rêve de Leibniz philosophe du XVIIème siècle (siècle où la technique n’était pourtant pas dominante) était de transformer l’argumentation en théorème, de convertir une discussion en un système d’équations et de proposer à un débatteur en cas de difficulté argumentative, le recours à un « calculus ratiocinator »3. Leibnitz décrivait ainsi le processus de la pensée humaine comme la simple manipulation mécanique de symboles, une idée reprise plus tard par le prix Nobel d’économie Herbert Simon, quand celui-ci conçut le concept d’Intelligence artificielle.

L’au-delà de l’humain

Dans ce futur univers dystopique, l’euphorie de certains prophètes de la technoscience de la Silicon Valley prédisent l’avènement de la singularité, l’homme cyborg, l’homme augmenté connecté à des puces informatisées, lui permettant d’accroître ses capacités cognitives. L’au-delà de l’humain est même imaginé puisque l’homme serait remplacé par sa machine, capable de conscience, ces machines conscientes feraient preuve d’adaptabilité, elles seraient la suite d’une évolution darwinienne de l’humain à l’humanoïde.

Or nous y voilà, au cœur de notre sujet, le fantasme de la conscience qui serait la faculté susceptible d’être embrassée par une machine dont les pouvoirs cognitifs auraient été décuplés. Au point que rien ne distinguerait la machine dotée d’une IA forte et l’homme. Ce concept d’humanoïde doté de conscience a été mis en scène dans un film « Ex Machina »4 sorti sur nos écrans en 2015, film d’Alex Garland. Dans ce film un brillant codeur en informatique nommé Caleb va faire une expérience profondément perturbante, puisqu’il va devoir interagir avec un humanoïde apparaissant sous les traits d’une femme prénommée Ava, capable d’autonomie réflexive et émotionnelle. Pour s’assurer que cette machine est oui ou non dotée de conscience Caleb va faire subir à l’automate IA un test, le test de Turing5. L’automate va ainsi confondre, troubler et dérouter le codeur en informatique, le persuadant que seule une vraie femme est dissimulée dans la machine, car rien ne saurait distinguer l’homme et l’humanoïde en raison de leurs facultés cognitives, respectives à rentrer en dialogue.

Le fantasme de l’IA consciente

Ce film « Ex Machina » nous renvoie à un texte fameux et prémonitoire du Philosophe Henri Bergson, texte écrit tenez-vous bien en 1888, puis énoncé lors d’une conférence à l’université de Birmingham sur la conscience en 1911. Le livre d’où est extrait le texte date de 19196. Nous publions un court extrait de cette réflexion afin de comprendre la portée prémonitoire, intuitive, démonstrative de la pensée du Philosophe.

 » Pour savoir de science certaine qu’un être est conscient, il faudrait pénétrer en lui coïncider avec lui, être lui. Je vous défie de prouver par expérience ou par raisonnement, que moi qui vous parle en ce moment, je sois un être conscient. Je pourrais être un automate ingénieusement construit par la nature, allant, venant, discourant ; les paroles mêmes par lesquelles je me déclare conscient pourraient être prononcées inconsciemment. Toutefois, si la chose n’est pas impossible, vous avouerez qu’elle n’est guère probable. Entre vous et moi il y a une ressemblance extérieure évidente ; et de cette ressemblance vous concluez, par analogie, à une similitude interne. Le raisonnement par analogie ne donne jamais, je le veux bien, qu’une probabilité ; mais il y a une foule de cas où cette probabilité est assez haute pour équivaloir pratiquement à la certitude. « 

Voilà pourquoi l’IA n’est d’après nous qu’un pantin, un automate, certes savamment programmé une forme de Golem, mais un artifice d’être inachevé dépourvu de libre arbitre émotionnel, une créature humanoïde inachevée, une figure des temps modernes de type Frankenstein mais sans aucun doute incapable de survivre à des conditions hostiles.

L’IA cette « puissance cognitive », cette pensée « calculante », cette matière de flux animée par des algorithmes, ce réseau de neurones artificiels, a la prétention d’être la copie dupliquée d’un modèle vivant, s’inspirant en tout point d’un cerveau humain.

Pourtant cette raison artificielle reste factice, et demeure en quelque sorte une contrefaçon de l’esprit, ce que j’appelle un pantin animé de manière totalement maquillée, car en réalité cette raison ne saura jamais totaliser la complexité de l’être humain et la subtilité de son esprit, être émotionnel dont justement l’âme émotive est la condition même de sa puissance créative ou réflexive. Ainsi pour reproduire Mozart, encore fallait-il un Mozart à imiter !

Quand bien même, l’homme ne serait pas un génie, l’émotion dans sa faculté de toucher, de ressentir, de vivre, d’aimer, est la condition même de la conscience, un être infiniment complexe et subtil, capable de se mouvoir et d’aller sur des champs là où il n’a pas été programmé, codé. L’être humain est aussi capable de se jouer des normes et du formatage pour lequel on aimerait le conditionner. La conscience c’est la vie, la conscience est reliée à la vie qui l’anime, la vie est une rupture avec la matière inanimée quand bien même cette dernière serait animée par un flux de matières et de programmes savants, œuvre d’un démiurge qui veut donner la vie à sa créature morte, son Golem.

Pour reprendre le propos7 de René Descartes « même si l’organisme est une machine, si l’animal est une machine, ces machines sont infiniment complexes et subtiles que toutes celles que l’homme ne sera jamais capable de construire car elles sont faites de la main de Dieu » …effectuant des gestes subtils, levant les obstacles hissés par les contingences, surmontant les difficultés posées par le monde de la matière. Cette ingéniosité de la vie naturelle nous émerveille et résulte d’un donné du libre arbitre de la vie, de l’intelligence vivante et non artificielle.

En revanche les opérations de calculs qui nous fascinent relèvent de modèles mathématiques, de l’inférence bayésienne, modèles de calculs statistiques qui autorisent la possibilité de modéliser des choix en début de processus et d’emmagasiner l’expérience apprise au fil des expériences apprises et mémorisées. Je comprends cependant les arguments adverses qui indiquent que tout cela relève bien d’une analogie avec l’esprit humain, dans sa dimension de libre arbitre et intuitive.

Mais en réalité, même si l’Intelligence artificielle introduit de facto et en apparence une dimension d’arbitraire et d’intuition, cela reste du calcul donnant l’illusion de faire face à une machine qui réfléchit. Tout ceci chers amis lecteurs, relève bien en réalité de combinaisons savamment codifiées, programmées et mémorisées au fil des expérience (voire l’IA Alphago …). L’IA est bel et bien construite autour de méthodes de calcul puis d’encodage, et non de la conscience. Une machine serait-elle ainsi capable d’inférence et de se projeter dans de nouveaux univers de connaissances ? Permettez moi d’en douter. La voit-on ainsi remettre en cause Darwin et évoquer un Dieu créateur, en fait, la machine est déjà savamment conditionnée à penser comme l’homme pense, enfermée dans des présupposés théoriques, incapables de nouvelles intuitions comme celles abordées par ces génies humains qui ne possédaient pas de visions claires de notre histoire contemporaine et de sa dimension technique, mais pourtant étaient parvenus cependant à l’esquisser, à ébaucher les contours d’un devenir, comme le fit le philosophe Henri Bergson ou le mathématicien Leibniz La conscience à l’opposé de l’IA, pense également au sens de vivre, il est donc impossible selon nous d’imposer à une conscience une autre motivation qu’elle-même à moins de la conditionner…

Contrairement à un intellect artificiel, cette sensation de soi, ce sentiment d’être, sont à la fois mystérieux et uniques, vivre en conscience, c’est vivre son altérité face au monde. La conscience ne se fabrique pas, elle est un donné de la vie, une vie qui va agir, interagir et donner du sens pour assurer au-delà de l’existentiel, cette dimension du bien-être. L’IA serait-elle en mesure d’agir pour elle-même, de se motiver pour son propre bien être ? Puis s’il fallait ajouter cet autre argument, la conscience propre à l’être humain c’est en effet la recherche d’un bien-être dans sa plénitude et sa capacité à le préserver autour de soi, ce qui revient à la dimension de l’amour et du désir qui est intrinsèquement liée selon nous à la conscience.

Aux antipodes de l’amour et de la conscience, l’Intelligence Artificielle n’est en réalité qu’une série de programmes codés. Nous le répétons à nouveau, l’IA est construite autour de méthodes bayésiennes très utilisées en statistiques et dans les sciences qui relèvent du datamining, permettent d’imaginer des hypothèses, de scenarii de mouvements, de choix. Ainsi, l’intelligence artificielle dupliquée ne serait ici qu’une série de moules, d’uniformisation des pensées, des outils industriels préconçus du raisonnement, des méthodes de réactions aux décisions fondées sur des paramètres préétablis. Mais en fin de compte le risque est bien une emprise de l’Intelligence artificielle sur les décisions réfléchies de l’homme sacrifiant sans doute la dimension réflexive relationnelle, le triomphe d’une raison froide, en fin de compte sur la raison relationnelle…

Pourtant La conscience n’est pas comparable à l’intelligence artificielle puisqu’elle est la faculté sensible de se percevoir, de s’identifier, et de penser non dans le sens de calculer, de combiner mais d’interagir avec le monde et de partager des émotions, la conscience n’est ainsi pas enfermée par le calcul,. Nonobstant, loin de nous de nier les facultés de calculs propres à notre cerveau, mais cette faculté de calculs ne se réduit, ni se résume à la conscience. Si certes l’homme peut « artificialiser » et dénaturer le sens de soi et imiter la dimension d’un esprit humain, cela restera pour autant de la mécanique calculatoire incapable de désir par elle même, de volonté auto produite et de se mettre par elle même en mouvement..

Si l’on poussait le raisonnement à l’absurde et affirmer qu’il serait possible à la machine d’être dotée de conscience, quel créateur adorera alors cette machine ? Sera-t-elle amoureuse, quel projet familial développera-t-elle ? L’IA est en réalité le résultat d’un découplement, d’une dissociation en réalité de l’intelligence et de la conscience, bien incapable dès lors d’être connectée à la transcendance et d’être reliée à l’autre dans un rapport empathique, même s’il était prouvé que deux machines reliées peuvent interagir. Une différence particulièrement sensible sur le plan strictement ontologique doit être ici soulignée : une machine est reliée à la matière, alors que l’homme est reliée à la vie et de fait à son Dieu, lui-même qui “recherche des adorateurs en esprit et en vérité”, autrement dit en conscience.

L’IA est un en réalité un vide d’esprit, une absence spirituelle, une frustration pour un objet humanoïde conçue artificiellement qui ne saurait être reliée à la transcendance. Certes l’IA sera une machine dotée de l’apparence d’un corps mais sans réelle conscience humaine sans âme, sans vie réelle, sans esprit, en supposant même qu’on parvienne à construire un robot androïde dont la complexité s’approcherait de celle de l’homme, il lui manquerait toujours cette dimension ontologique et cette ouverture à la transcendance qui ne peut jaillir spontanément que de la seule interaction des causes immanentes, qui résulte de la nature même de cet être fait à l’image et à la ressemblance de Dieu. La beauté de l’homme ne réside-t-elle pas dans ses imperfections, qui en font un être complexe et d’une complexité insondable pour le simple coeur humain ?

L’IA est ainsi conçue en langage binaire, c’est le langage informatique, l’IA ne connaît que le Oui et le Non, l’homme est au-delà du binaire, la vie de l’homme est faite de nuances, d’erreurs, d’incertitudes, de sensibles, de ressentis. Pour nous, la conscience relève du monde vivant et non d’une mécanique binaire. La conscience n’est donc pas seulement l’intelligence c’est à dire le monde de la connaissance, la conscience c’est aussi une relation intériorisée qui embrasse tout l’homme capable d’interagir avec le vivant et le renvoyer à une dimension émotionnelle.

Un Ordinateur pourrait-il alors s’apparenter à une dimension biologique quelconque, la réponse est évidemment non, catégoriquement non ! Une IA sophistiquée dotée d’une dimension cognitive forte s’adosse de fait à un fonctionnement mécanique programmé par l’homme et de flux de particules et à ce jour la conscience suppose la conscience de l’autre, une forme d’attirance aimante, qui ne résulte pas de la seule aimantation de deux objets.

Ainsi cette prétendue raison qui forme l’encodage de l’Intelligence Artificielle, n’est en réalité habitée que par la seule dimension de la mathématisation de la pensée, une forme d’abstraction sans âme, dénuée d’esprit, vide de conscience, privée de l’amour, dégagé de capacité relationnelle dans un sens fort..

Heidegger pensait lui-même que “le succès des machines électroniques à penser et à calculer » conduirait à la « fin de la pensée méditative »… Nous pourrions de facto donner raison au Philosophe Heidegger, si en effet l’homme devait cesser de s’émouvoir pour emprunter le pas d’automates ne réagissant plus à la lobotomisation de la faculté de rêver, d’imaginer, de créer, de s’étreindre, de rire, d’aimer, car la conscience intense de soi c’est cela et c’est bien au-delà de penser, de cogiter, de raisonner, de traiter, d’analyser, de faire des choix.

Le « Je pense donc je suis » ne définit pas d’après moi toute la dimension de la conscience, le « je pense » est d’abord une information qui ne se résume pas un état de conscience, la conscience ne se réduit pas à la dimension du langage, de ce qui nomme. Enfant je ne maitrisais pas encore le langage, la faculté de former des phrases, mais j’avais le sentiment déjà d’être, « d’être soi », d’exister et c’était l’étreinte de ma mère qui éveilla ma conscience à la vie, son regard, son amour, son geste affectueux, les mots doux qu’elle m’adressait m’étreignant dans ses bras .

La machine peut-elle ainsi s’éveiller à la conscience sans l’étreinte de l’amour, non définitivement non, car cet objet sans filiation naturelle et passé qui n’est, pas étreint, ni embrassé, ni aimé, n’a pas été enfanté dans le mystère, conçu dans l’amour, n’a pas de faculté à s’éveiller mais à rester plutôt inerte, mécanique.

La conscience de soi relève d’un mystère et n’appartient pas à la dimension de la raison, c’est un donné de l’esprit, un donné de la transcendance qui n’est pas celle de la matière.

Il nous faut ainsi préférer les sentiers de la conscience aux autoroutes du monde des algorithmes, car la conscience ne vit toutes les dimensions de la densité que lorsqu’elle est dans les chemins de traverses et non dans les pas de l’automatisme séquencé.

La perte de conscience de l’être humain

Ce que nous avons à craindre, ce n’est pas tant la conscience factice d’une machine, mais davantage la perte de conscience de l’être humain.

Cette perte de conscience se produira le jour où l’homme abandonnera à la machine ses facultés de direction et de choix, en s’imaginant que la machine, cette intelligence virtuelle est infiniment plus perspicace, clairvoyante ou pénétrante que ne pourrait l’être son esprit. Cette perte de conscience se déclenchera lorsque une partie de l’homme bradera à la machine sa conscience afin que cette dernière effectue les comportements mécanisés d’un automate susceptible de lui faire obtenir un gain précieux de son temps,  “libérant” l’humain à d’autres tâches qui ne pas en douter seront les tâches futures, accomplies sans fin et demain par d’autres machines plus performantes  l Serons nous demain seulement des êtres passifs, “des zombies vides de substance …participant aux flux  dématérialisants et énivrants du cyberespace” comme le souligne le philosophe Jean-MicheL BESNIER dans son livre l’homme simplifié.

Mais voici déjà que des milliers et des milliers d’hommes abandonnent à la machine, à ce monde digital et numérique, la direction de leur vie en remettant la destinée de leur existence à un système, une forme de divinité virtuelle et planétaire qui choisira leur emploi, leur alter égo, leurs activités du soir. L’homme se dessaisissant peu à peu de ses tâches corvéables, devient lui même addicte de ses robots domestiques. Une forme de nonchalance docile, se profile dans cet horizon du “système technicien” où l’homme cède comme un petit poucet toutes les données de sa vie et se laisse peu à peu asservir par une créature qui lui échappe, qui prend le pouvoir au fil de l’eau . Ce monde moderne a précipité l’homme dans une multiplicité de dépendances, de jougs serviciels le liant et le subordonnant, grignotant peu à peu son autonomie. Une dictature douce est finalement en train de s’imposer.

Une entité mystérieuse se dresse au crépuscule d’une humanité qui rêve à l’enfantement d’un automate Golem ayant une assise sur la conscience humaine, pilotera ainsi leur vie, l’organisera et planifiera harmonieusement leurs activités, ne laissant ainsi rien au hasard.

La liberté est abdiquée au profit d’un pseudo confort techno numérique qui est en réalité, une servitude, d’une conscience paresseuse qui s’envole dans l’abîme privant ainsi l’homme d’une quête de sa conscience reliée à Dieu. En définitive l’IA est l’ultime système orwellien aspirant les données de nos vies sociales et comportementales contrôlant puis assujettissant l’homme au pouvoir d’une “pseudo conscience” qui réfléchit pour eux mais les ankylose en les privant de leur libre arbitre, la motivation qui les met en mouvement.. Pire demain un tel système discriminera nécessairement les rebelles, les insubordonnés, les indociles et les exclura.(Lire Ap 13.16-17 : elle fit que tous, petits et grands, riches et pauvres, libres et esclaves, reçussent une marque sur leur main droite ou sur leur front, et que personne ne pût acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom). Au fond cela rejoint le propos de Idriss Aberkane spécialiste des neuro sciences qui indiquait que si nous donnions un levier à un fou, nous serions alors responsables du supplément de destruction que nous aurions alors su lui conférer.

De fait cette perte de conscience serait un immense gâchis, “une immense déperdition des forces humaines, qui a lieu par l’absence de direction et faute d’une conscience claire du but à atteindre” . Or dans l’épître aux Romains, nous relevons ce texte magistral qui est une invitation à s’affranchir de cette nouvelle servitude que propose notre monde moderne et donne en réalité un chemin à la conscience humaine si nous recevons favorablement cette exhortation “…vous n’avez pas reçu un esprit de servitude, pour être encore dans la crainte, mais vous avez reçu un Esprit d’adoption, par lequel nous crions: Abba! Père! L’Esprit lui-même rend témoignage à notre esprit que nous sommes enfants de Dieu ». L’esprit rend ainsi témoignage à notre conscience que nous sommes en réalité enfants de Dieu et non une matière inerte qui n’aurait finalement aucun sens. .

Nous conclurons dès lors cette chronique par un message plein d’espérance en nous adressant à ceux qui nous lisent, nous les invitons dès lors à entrer en résistance en conscience, à partager autour d’eux la dimension d’une relation incarnée, l’éveil d’un esprit relié aux autres découvrant pleinement son humanité et sa conscience non dominée par la machine, ni la matière fusse-t-elle intelligente mais au demeurant sans conscience..

Eric LEMAITRE

Eric qui n’est pas une IA mais un être tout à fait imparfait remercie ses chers amis Bérengère Séries et Etienne Omnès pour leurs lectures vigilantes, l’apport de leurs idées, leurs réflexions celles de consciences libres, ni codées, ni formatées…merci à eux d’être, d’être des êtres de chair et de sang, des êtres sensibles et de relations.


1. référence à Jacques Ellul, Essayiste et théologien protestant penseur de la technique
2. Economiste et sociologue du XX°s, né en 1916 et mort en 2001. L’auteur de l’article vous renvoie à cette référence
3. Le Calculus Ratiocinator est un concept théorique du philosophe et mathématicien Leibniz décrit dans son ouvrage “De Arte Combinatoria” en 1666.
4. Le synopsis du film
5. Le test de Turing : test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine.
6. Texte de Henri Bergson « La conscience et la vie » Editions PUF, l’extrait de ce texte est à la page 6.
7. Extrait du discours de la Méthode René Descartes

17 commentaires sur “Le Fantasme de l’Intelligence Artificielle Consciente ?

  1. Après avoir lu cet article très intéressant sur l’IA, j’en viens à me demander si la machine, en capacité d’analyse et de synthèse afin de corriger ses erreurs par pur calcul mathématique, n’est pas plus dangereuse que l’ Homme. Incapable d’empathie et de relation et de conscience sociale, parce qu’ insensible à tout ce qui fait le charme de son environnement; la poésie contenue dans la création, le réconfort d’une parole, la beauté d’un geste. L’ Homme ne deviendrait-il pas alors, l’inventeur d’un monstre froid, programmé pour performer sans mesurer le coût humain que cela impliquerait, broyant ainsi son concepteur et le conduisant à sa perte?

    Aimé par 2 personnes

    1. Un article très fouillé et très intéressant.
      Je vous fais part d’une petite réflexion qui m’est venue à la lecture de l’un de ses paragraphes:
      « Voilà pourquoi l’IA n’est d’après nous qu’un pantin, un automate, certes savamment programmé une forme de Golem, mais un artifice d’être inachevé dépourvu de libre arbitre émotionnel, une créature humanoïde inachevée, une figure des temps modernes de type Frankenstein mais sans aucun doute incapable de survivre à des conditions hostiles. »
      Qu’il s’agisse du transhumanisme ou de l’IA, la figure inquiétante du Golem semble s’imposer à nous. Ne pourrions-nous pas voir l’IA comme un Golem dématérialisée, fait de bits et d’algorithmes en lieu et place d’argile? Le transhumanisme ne devrait-il pas être vu comme une tentative de devenir soi-même un golem?
      Le golem est un « inachevé », un « embryon », aussi l’homme par de telles entreprises veut parvenir (revenir serait plus juste) à un état antérieur à Adam. Adam était fait d’argile. C’était un « glébeux » (dixit la Bible Chouraqui). Ces entreprises sont donc des actes de défiance envers le Créateur, un énième avatar de l’hubris humaine qui veut faire les choses à la place de Dieu.

      J'aime

    2. Merci infiniment pour votre commentaire…Vous mettez en effet en évidence le délitement d’une conscience humaine détournée de l’autre et du prochain, ce que nous appelons une dérive de la « socialisation » des êtres humains qui ne se construisent plus dans un rapport à l’autre.. L’achèvement de cette absence de lien dans un « système technicien », c’est au fil de l’eau une extinction de cette relation de face à face, de rencontres incarnées qui aboutit de facto à la création d’univers virtuels ou la compassion s’exprime seulement sur des claviers privés d’un vrai geste (aller au devant de l’autre). Dans ce système technicien l’autre folie est en effet la création d’un autre soi désincarné, l’animation d’une image faite à l’image de l’homme déchu qui rêve d’être lui même « homo Deus » …

      J'aime

  2. Un article très fouillé et très intéressant.
    Je vous fais part d’une petite réflexion qui m’est venue à la lecture de l’un de ses paragraphes:
    « Voilà pourquoi l’IA n’est d’après nous qu’un pantin, un automate, certes savamment programmé une forme de Golem, mais un artifice d’être inachevé dépourvu de libre arbitre émotionnel, une créature humanoïde inachevée, une figure des temps modernes de type Frankenstein mais sans aucun doute incapable de survivre à des conditions hostiles. »
    Qu’il s’agisse du transhumanisme ou de l’IA, la figure inquiétante du Golem semble s’imposer à nous. Ne pourrions-nous pas voir l’IA comme un Golem dématérialisée, fait de bits et d’algorithmes en lieu et place d’argile? Le transhumanisme ne devrait-il pas être vu comme une tentative de devenir soi-même un golem?
    Le golem est un « inachevé », un « embryon », aussi l’homme par de telles entreprises veut parvenir (revenir serait plus juste) à un état antérieur à Adam. Adam était fait d’argile. C’était un « glébeux » (dixit la Bible Chouraqui). Ces entreprises sont donc des actes de défiance envers le Créateur, un énième avatar de l’hubris humaine qui veut faire les choses à la place de Dieu.

    Aimé par 1 personne

    1. Oui merci pour ce commentaire et vous avez en effet raison, nous touchons à la dimension du transhumanisme qui aspire à parfaire notre finitude, transcender nos limites, gommer l’imperfection ou la corriger. Ce post humanisme qui rêve l’homme aux pouvoirs décuplés .. quant au Golem il est en effet une autre figure du transhumanisme. L’homme « Deus » tel un un démiurge fabrique une forme dématérialisée de sa propre image….

      Je reprends le passage d’une thèse de doctorat sur cette entité simulacre d’une divinité. Ce passage est à la fois intrigant et fascinant. En effet l’auteur de cette thèse mentionne que le golem est comme « le serviteur idéal de son créateur… serviteur idéal de son créateur voilà la forme que prend l’IA , une forme de serviteur demi dieu ou dieu pro créé qui est idéalisé par l’homme enfantant une créature susceptible de lui échapper dont on se flatte de l’autonomie possible, de ses facultés d’apprentissage. Notons également et vous le soulignez fot bien Lionel, l’analogie surprenante de ce personnage avec le Golem issu de la tradition talmudique…

      le Golem dans cette tradition juive correspond en effet à une entité artificielle dont la ressemblance humaine épouse ses caractéristique, les sages initiés concepteur de cette créature auraient eu le pouvoir d’animer son image (notons la correspondance avec le livre de l’apocalypse) à l’aide de rituels ésotériques et de combinaisons de lettres hébraïques…. en quelque sorte sont insufflés des symboles et des codes pour animer la machine…. Cette notion d’animation est le terme emprunté dans le livre de l’apocalypse de Jean qui évoque la figure de la bête….

      J'aime

  3. … Et, ce demain tant redouter où l’homme, admirateur de ses exploits technologiques, cèdera la place à son bébé-virtuel pour qu’il fasse tout à sa place, on le vit partiellement maintenant et le constat n’est pas toujours réjouissant. Naguère, quand vous passiez dans une banque pour faire une transaction, vous étiez accueillis par un sourire convivial, aujourd’hui, ce visage humain ne se voit presque pas. Les mots, bonjour, merci ou au revoir ne se diront peut-être plus. Personne ne se souciera de personne,l’ami-robot fera tout. Le réconfort, l’amour et la sympathie se vendront peut-être sous forme de cachets… 001101111000

    Aimé par 1 personne

    1. Merci pour votre commentaire Franck

      Il y a quelque temps, je sortais d’une soirée d’entrepreneurs et dirigeants chrétiens, un banquier indiquait qu’il lui était demandé de réfléchir à la numérisation de la banque, ce qui signifiait pour lui, rationalisation et meilleure gestion des ressources, en d’autres termes réduction des effectifs, suppression de succursales bancaires, remise en question de la dimension de la banque de proximité. il y a sans doute urgence aujourd’hui de réformer nos pratiques et de prendre conscience que nous pourrions inverser ce processus en marche par un acte de résistance en ne nous laissant pas absorber par le monde digital, l’économie numérique, le monde des écrans, en retrouvant le chemin de la transcendance, le sens de l’autre et de notre relation respectueuse de la nature, en nous réconciliant en définitive avec toutes les dimensions du réel, du beau, du bien et du vrai, d’être les hommes et les femmes du quotidien et non d’un futur fascinant mais en réalité sans espérance…

      Aimé par 1 personne

      1. Cher Éric, nul besoin de vous dire combien j’apprécie ces échanges. Je bous félicite pour cette grande vertu dont vous faite preuve. Je ne manquerai pas de passer vous lire fréquemment. Bon début de semaine !

        J'aime

  4. Un article très bien et bien réfléchi.
    Tu nous a permis de voir IA au delas d’une technologie moderne qui attire tant de personnes en oubliant le danger qu’elle peut engendrer surtout son défi en vers le créateur et Sa créature.
    En lisant le début de l’article un seul mot me venait en tête « Esprit » une chose que l’IA ne pourra jamais avoir ni offrir.
    Cette chose unique qui nous a été donnée par grâce de la part de notre créateur qui pour Lui « le seul moyen » de nous adopter et de rentrer en communion avec nous.
    Comme tu le reprends si bien cher Éric « L’Esprit lui-même rend témoignage à notre esprit que nous sommes enfants de Dieu » un sentiment que ne connaîtra jamais « la création de l’IA ».
    Je suis la bonne création et non l’ERREUR. Et en étant la bonne création dotée d’une conscience, sentiments, esprit donc je suis prédestinée dés ma création à recevoir l’Esprit de Dieu en moi et en faire Sa demeure.
    Est ce que l’esprit de Dieu peut demeurer et vive dans une  » création IA » !!!!

    J'aime

  5. Un article très bien et bien réfléchi.
    Tu nous a permis de voir IA au delas d’une technologie moderne qui attire tant de personnes en oubliant le danger qu’elle peut engendrer surtout son défi en vers le créateur et Sa créature.
    En lisant le début de l’article un seul mot me venait en tête « Esprit » une chose que l’IA ne pourra jamais avoir ni offrir.
    Cette chose unique qui nous a été donnée par grâce de la part de notre créateur qui pour Lui « le seul moyen » de nous adopter et de rentrer en communion avec nous.
    Comme tu le reprends si bien cher Éric « L’Esprit lui-même rend témoignage à notre esprit que nous sommes enfants de Dieu » un sentiment que ne connaîtra jamais « la création de l’IA ».
    Je suis la bonne création et non l’ERREUR. Et en étant la bonne création dotée d’une conscience, sentiments, esprit donc je suis prédestinée dés ma création à recevoir l’Esprit de Dieu en moi et en faire Sa demeure.
    Est ce que l’esprit de Dieu peut demeurer et vive dans une » création IA » !!!!

    J'aime

    1. Il est heureux en effet Selma que l’on parle d’artificiel à propos de l’IA, qui est en réalité un artefact de la conscience mais hélas, l’homme entend produire ces artefacts y compris dans le domaine biologique en confondant ainsi les domaines de la vie biologique et du monde de la biologie synthétique…Sommes en train de franchir là un nouvel interdit …qui aurait des incidences tragiques pour l’humanité puisqu’elle entre dans les domaine de la dénaturation de la vie et de la déconstruction de l’homme…

      J'aime

  6. L’image du Léviathan a beaucoup plus de résonance en moi. Celui-ci est un monstre marin imaginaire, dont le livre de Job fait référence. La mer est, selon la tradition judaïque, la représentation des impétuosités de ce monde, qui, associées à la puissance de l’air, acculent l’Homme à penser son extrême vulnérabilité. L’expression de la puissance technicienne est elle-même l’aveu de sa faillibilité. Le mirage est souvent à l’horizon de l’Homme qui erre dans le désert de ce monde. Sa recherche de l’Eden perdu se trouve être une dystopie, terme que je connais désormais grâce à vous. Thomas More est l’auteur qui a consacré le terme d’ «utopie » tiré de son ouvrage « Utopia». Etienne de La Boétie, non loin d’etre son contemporain a mis en exergue, par une heureuse coïncidence pour le sujet que l’on aborde, l’idée de la servitude volontaire. (« De la servitude volontaire des peuples »). L’Homme préfèrera toujours le confort d’une servitude, aussi rude soit-elle, dans laquelle il pourra puiser un sentiment de sécurité, que son affranchissement. L’Homme est séduit par l’idée de se rendre sujet, esclave. Les plaines fertiles, que Lot a contemplées, lui procurant le confort, certes pour un temps, s’averont le désastre dans sa vie. La technique, la civilisation matérielle sont des illusions qui ne voilent la réalité de notre pèlerinage ici-bas. Ces appuis n’échappent pas aux sables mouvants de son sol. Par ailleurs, la bipolarité systématique, dans les axiomes de sciences, à modéliser le raisonnement se heurte à un autre mode de raisonnement , celle de la biologie qui a, pour rudiments, dans l’appréhension du vivant: l’axiome 1+1=1. La science peut-elle s’opposer contre elle-même? Finalement, le leitmotiv du crédo « science et (contre) religion » ne sert-elle pas à nous dérober le débat « science et(contre) science »?

    Aimé par 1 personne

    1. Votre commentaire est extrêmement riche et en effet votre approche du Léviathan est voisine de celle de la bête et ce qui est fascinant c’est que dans la racine grec, étymologiquement le mot grec de « bête » signifie destructeur d’humains;.. Pour la première fois dans l’histoire de l’humanité, cette dernière est confrontée à une autre menace non celle comme l’écrivait Yuval Noah Harari d’une destruction externe mais d’une désintégration intérieure « AU XXIème, l’individu est plus susceptible de se désintégrer en douceur de l’intérieur que d’être broyé brutalement de l’extérieur ». P 371 Homo Deux brève histoire de l’humanité.

      Aimé par 1 personne

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s