Pourquoi l’intelligence artificielle ne sera jamais une conscience artificielle

La semaine dernière, j’ai parlé de la théorie de la singularité, c’est à dire le jour du jugement dernier où la machine aura rattrapé et dépassé l’homme. Or il y a tout un débat sur si cette « singularité » est seulement possible. Il y a ceux qui disent qu’à partir du moment où la puissance de calcul et la versatilité des IA augmente, il est fatal que le cerveau de silicium rattrape le cerveau de chair. Et il y a ceux qui disent que l’intelligence n’est pas suffisante pour la conscience, et que l’esprit humain étant plus que ses fonctions, il ne suffit pas que l’IA « fonctionne » mieux que son équivalent humain.

En philosophie de l’esprit, c’est la querelle du fonctionnalisme qui se cristallise autour de l’argument de la chambre chinoise, chaudement débattu depuis plus de 30 ans maintenant. De manière plus générale, c’est la dispute beaucoup plus ancienne autour de la nature de l’esprit humain: est-t-il matériel, immatériel, dualiste? Le consensus académique depuis le XXe siècle est physicaliste, c’est à dire que les philosophes contemporains adhèrent majoritairement à l’idée que l’esprit est réductible au cerveau. Les raisonnements sont avant tout des réactions chimiques et électrochimiques. Face à cela, la tradition chrétienne est majoritairement dualiste, c’est à dire qu’elle tient à différentes formes d’accord entre un esprit immatériel dans un corps matériel. Je tiens à faire remarquer qu’il y a aussi une petite tradition immatérialiste, à travers l’évêque Berkeley, mais ce serait nous éloigner du propos. On comprendra en tout cas que le monde chrétien dans sa majorité soit sceptique, voire méfiant des capacités des intelligences artificielles, et pourquoi nous n’achetons pas en masse le scénario de la singularité, sauf dans nos films apocalyptiques.

Dans un précédent article, j’avais déjà cité des arguments de Kevin Kelly contre l’idée que l’IA serait surhumaine un jour. L’ancien rédacteur en chef de Wired penche plutôt pour une intelligence très étrangère, aussi différente de la nôtre que celle des écureuils peut l’être de la nôtre. Sa formule exacte était:

Les résultats de l’accélération de la technologie ne seront probablement pas surhumains, mais extra-humains. Étrangers à notre expérience, mais pas nécessairement supérieurs – Kevin Kelly

Dans cet article-ci, j’aimerais développer d’autres arguments qui m’amène à penser que l’intelligence artificielle, aussi sophistiquée et puissante qu’elle soit, ne sera jamais semblable à celle de l’humain, et donc étrangère plus que supérieure. Partant de là, elle sera encore moins un dieu créé comme en rêve Anthony Levandowski.

La question peut être abordée de tellement de façon différentes, qu’écrire un tel article est angoissant. Je décide de partir du problème dur de la conscience. Il s’agit de faire remarquer que notre expérience de tous les jours de la conscience n’est pas matérielle, et que l’esprit qui nous anime n’est donc ni réductible, ni duplicable à quelque chose de semblable à une intelligence artificielle. Ce problème s’articule autour de trois arguments, qui n’ont pas été résolu par les physicalistes aujourd’hui, sauf à nier l’existence des ces trois faits (depuis Parménide, quand un philosophe ne sait pas quoi faire d’un fait, il déclare que c’est une illusion).

  1. L’argument de la subjectivité
  2. L’argument des qualia
  3. L’argument de l’intentionnalité

Prenons les dans l’ordre, pour voir que l’esprit humain n’est pas réductible à quelque chose de physique.

L’argument de la subjectivité

En 1978, Thomas Nagel, athée et naturaliste quant à ses convictions, publiait un article titré: « Qu’est ce que cela fait d’être une chauve souris? » La chauve souris n’est bien sûr qu’un prétexte pour explorer ce qu’est la conscience, qu’il caractérise comme un subjectivité à la première personne. On peut dire des objets avec conscience -autres humains, animaux- qu’est ce que ça fait d’être Richard Dawkins/un âne ? Mais pour les objets sans consciences, cela n’a aucun sens de dire: qu’est ce que cela fait d’être une chaussure ou un caillou? La différence entre les deux est une certain subjectivité, il y a un sujet dans l’âne (et dans Richard Dawkins aussi, mais c’est un peu la même chose). Illustration:

Le principal sens qu’utilise la chauve-souris n’est ni la vue ni le toucher, mais le sonar. Imaginons que nous ayons une connaissance parfaite de comment fonctionne le sonar, que nous soyons capable de le refaire artificiellement (ce qui existe déjà bien sûr), est ce que nous aurions décrit ce que cela fait d’être une chauve-souris? Non, parce qu’il nous manquerait la perception à la première personne de ce qu’est être une chauve souris. Nous serions toujours des humains « dans le monde » d’une chauve-souris, mais devant toujours fonctionner par analogie pour comprendre ce qu’il y a « dans leur tête ».

L’argument des qualia

Un qualium c’est l’étoffe de nos perceptions. Les couleurs, les goûts, la douleur physique, le bruit sont des qualia. Or les qualia que nous expérimentons à chaque instant ne sont pas physiques, mais d’une nature différente. Par exemple, la couleur rouge n’est pas réductible à un rayonnement énergétique de longueur d’onde 450 nm. Quand je fais un « la » au piano, je n’entends pas 440 Hz, j’expérimente le son de la note « la ». Ce que je vois, ce ne sont pas des photons qui réfléchissent sur l’œil et sont transformés en signaux électriques. Je vois une image. Ces qualia sont quelque chose de plus que la matière, qui est expérimenté par quelque chose de plus que de la matière. Une illustration courante est l’expérience de pensée proposée par Franck Jackson en 1982: la chambre de Marie (non, pas la sainte vierge). Il le formule ainsi:

Marie est une scientifique brillante qui, pour une quelconque raison, est forcée d’étudier le monde depuis une chambre noire et blanche à travers un téléviseur en noir et blanc. Elle se se spécialise en neuropsychologie de la vision et acquiert, on le suppose, toutes les informations physiques sur ce qu’il se passe quand on voit une tomate mûre, ou le ciel, et utilise des termes comme « rouge » « bleu » et ainsi de suite. Elle découvre par exemple, comment la longueur d’onde qui vient du ciel stimule la rétine, et comment exactement ceci produit via le système nerveux central la contraction des cordes vocales et du diaphragme qui donneront la phrase: « le ciel est bleu ».

Qu’arrivera-t-il quand Marie sera relâchée de chambre en noir et blanc, ou bien qu’elle recevra un téléviseur en couleur? Apprendra-t-elle de nouvelles choses? Il apparaît évident qu’elle apprendra quelque chose sur le monde et notre expérience visuelle de celui-ci. D’où il en suit inévitablement que ses connaissances précédentes étaient incomplètes. Mais elle avait déjà toutes les informations physiques. DONC il y a plus que cela, et le physicalisme est faux.

Il y a donc bien plus dans les couleurs, les sons et les perceptions que des informations physiques. Il y a une dimension supra-physique qui vient de l’expérience de l’utilisateur, autrement dit, de son esprit.

L’argument de l’intentionnalité

L’intentionnalité, c’est le fait d’être à propos de quelque chose. Quand je pense à ma femme, cette pensée est à propos de ma femme. Quand je perçois le bois de mon bureau, cette perception est à propos de mon bureau. Mais ni le caillou, ni le signal électrique ne peut être à propos ou au sujet de. Ils sont de « bêtes » tas de matières, sans intentionnalité. Et de même notre cerveau n’est jamais qu’un tas de graisse dans un crâne, et les signaux électriques qui parcourent nos neurones sont… des signaux électriques. Il n’y a rien au delà de ceux-ci. Vouloir lire nos pensées en lisant les signaux électrochimiques de nos neurones, c’est comme penser lire un texte en décrivant le nombre et la courbure des traits d’encre de la page. La matière n’est pas à propos de quelque chose.

En plus de cela, traiter des informations ne suffit pas à faire une conscience: Chambre chinoise de Searle

Ces trois aspects -subjectivité, qualia et intentionnalité- ne sont donc pas réductible de la matière pure, ils appartiennent au monde mental. Si jamais Skynet, Hal ou Siri veut prendre le contrôle du monde demain, il faudra qu’il ne soit pas seulement une intelligence artificielle, il faudra notamment qu’il soit une conscience, capable d’avoir par dessus le traitement des informations à minima une subjectivité et de l’intentionnalité. Tant que Siri n’aura pas conscience d’être Siri, et qu’il se contentera de traiter des données sans leur donner un sens propre, nous n’avons pour ainsi dire rien d’autre à craindre que le PDG d’Apple. Et il n’y a aucune raison de penser que les IA, créatures matérielles aux mécanismes matériels, ne puisse acquérir ces trois aspects immatériels.

Oui, mais ne peuvent-ils pas le copier de façon convaincante à force de sophistications et de développements? Dans la philosophie contemporaine, John Searle a proposé et défendu l’argument dit de la chambre chinoise, qui montre qu’il ne suffit pas qu’une intelligence traite parfaitement les informations pour qu’elle ait « conscience » (à travers la compréhension) de ces informations. Voici comment il peut être exprimé:

Imaginez que vous êtes enfermés dans une chambre, où tout ce que vous avez est un dictionnaire d’instructions du style: « Si alors  » « Si 营业中 alors 营业时间 « . Vous n’avez absolument aucune idée du sens de ces gribouillis, mais vous avez charge de donner telle réponse quand vous avez telle question. Les utilisateurs extérieurs à cette boîte posent alors toutes leurs questions: « 请勿吸烟  ? » et vous consultez votre joli dictionnaire pour dire ensuite: « 便宜货  ! » Avec le temps et l’expérience vous devenez de plus en plus rapide, jusqu’à ce que les utilisateurs à l’extérieur aient vraiment l’impression que vous comprenez le chinois, puisque vous « parlez » le chinois avec autant de vitesse et de précision qu’un locuteur chinois. Problème: vous n’avez toujours absolument aucune idée du sens de ces graffitis. Il ne suffit pas de traiter les informations pour avoir une idée de ce qu’on est en train de dire.

En une phrase: Searle a prouvé que la sémantique (cad le sens d’une phrase, qui appartient à la conscience) ne peut pas être dérivé à partir de la syntaxe (la façon dont vous écrivez la phrase, qui est « numérisable »).

Comment les philosophes ont tâché de sauver le concept de « conscience artificielle »

En défense du fonctionnalisme (conscience=calculs dans le cerveau copiables par l’IA), certains ont proposés que certes chaque étape de traitement des informations était brute et inconsciente, mais que si l’on considérait son travail dans son ensemble, la compréhension qui appartient à la conscience existe forcément. Toutes les parties de l’IA sont sans conscience, mais il faut nécessairement une conscience au tout, sinon comment expliquer Google traductions, qui a tout de même l’air de comprendre et donner une réponse sensée aux question qu’on lui pose? A ceci je réponds: comment donc la conscience pourrait-t-elle s’accrocher au tout, si elle ne se dépend d’aucune partie? Par magie métaphysique? Ce point était déjà souligné par Leibnitz au XVIIIe, dans son argument dit du « moulin de Leibnitz ». Imaginez un moulin conscient, dont nous pourrions voir et comprendre à l’intérieur tous les mécanismes. Où la conscience s’accrocherait-t-elle, si toutes ses composantes sont matières et forces?

D’autres philosophes ont soutenu que l’esprit « émergeait » du process d’informations comme la brume s’élève de la cascade, si bien que de la matière inconsciente émergerait une conscience virtuelle qui serait de plus en plus sophistiquée au fur et à mesure que le programme informatique est sophistiqué. Je pose alors deux questions: à quoi s’attache la conscience, considérant que chaque étape du programme est inconsciente? Comment le matériel interagit-t-il avec cet immatériel, même virtuel? Pour être honnête, je trouve cette tentative ridicule: à quoi bon avoir banni le fantôme dans la machine, si c’est pour le réintroduire après la machine?

D’autres ont proposés que si les IA étaient construite de manière à reproduire le cerveau, elles se trouveraient dotées d’une conscience comme le cerveau humain. Mais en quoi le fait de changer la façon de traiter l’information nous garantit qu’une conscience va en émerger ou s’y trouver attaché? Il ne suffit pas de changer la méthode de traitement d’information, il faut y attacher quelque chose de plus que la simple information.

D’autres encore, ont reconnu qu’il ne suffisait pas d’avoir des informations brutes, mais qu’il fallait en plus de la perception et des expériences pour lier ces informations à du sens. Par exemple, « longueur d’onde 700nm + 500 nm donnent longueur d’onde 550nm » n’a tout simplement pas de sens avant que je ne reçoive un œil qui me dise « Rouge+Vert=Jaune ». Donc SI les robots avaient des organes sensoriels, ils pourraient franchir le pas qui leur manque et devenir conscients. Sauf qu’un organe sensoriel n’est jamais qu’un canal d’informations en plus, qui leur apporte un type d’information en plus. Or, comme le prouve l’argument de la chambre chinoise de Searle, les informations ne suffisent pas à « faire naître » la conscience. Cela ne suffit donc pas.

Conclusion

Il ne reste donc plus pour les matérialistes qu’à déclarer que la conscience est une illusion. Daniel Dennett et ses zombies philosophiques rejoignent ainsi Zénon, qui déclarait que le mouvement est une illusion… Mais ce n’est pas ce que laisse entendre la tradition chrétienne, et encore moins la Bible pour laquelle il est aussi absurde de nier l’existence de la conscience que de nier l’existence du monde.

Soit! Si la conscience est une illusion, alors les IA n’en auront jamais, et c’est précisément le point que je voulais prouver, à partir de la philosophie analytique.

 

19 commentaires sur “Pourquoi l’intelligence artificielle ne sera jamais une conscience artificielle

  1. Ce n’est pas encore suffisant pour me faire changer d’avis…

    Dans toute ta première partie, tu ne distingues pas réductionnisme ontologique et réductionnisme des propriétés, tu attaques un réductionnisme (des propriétés) dont je connais bien peu d’adhérents… Il n’y a presque personne pour dire que la conscience est matérielle ! La grande majorité des physicalistes disent que l’information a pour support la matière. Ce n’est pas bien compliqué de distinguer les deux : il n’y a qu’une seule bible Segond 21 qui est reproduite dans une multitude d’exemplaires matériels. Chacun n’a une bible que parce qu’il en a un exemplaire matériel. La matière contient l’information, via les signes, les blancs, les pages, elle ne se confond pas avec l’information elle-même.

    Ensuite, tu considères vraiment trop vite l’émergentisme des propriétés. Des propriétés peuvent réellement apparaître à partir d’une certaine échelle irréductible aux parties d’un objet. Par exemple, un pont est constitué par l’ensemble des pierres qui le composent, mais aucune pierre n’est le pont lui-même. Tu auras beau chercher un pont dans les pierres, tu n’en trouveras pas. De même, dans la théorie des ensembles, tu peux avoir un ensemble (qui donc a la propriété d’être un ensemble) de membres qui ne sont que des individus atomiques ou simples, l’ensemble a donc des propriétés différentes de ses parties (il est composé, pluriel, abstrait, autrement dit tout le contraire de chacune de ses parties isolées etc.).

    Il faudrait encore que tu définisses ce qu’est la conscience, parce que ce n’est pas clair. J’ai bien peur que tu confondes notamment « l’âme » et la conscience, ce qui introduirait des erreurs dommageables. L’âme, traditionnellement, est conçue comme une substance. Au contraire, la conscience est une tension ou une activité de représentation. La conscience n’existe pas en soi, la conscience est conscience de quelque chose, il n’y a pas de conscience pure (cf. Brentano). Tu parles bien de l’intentionnalité, mais as-tu consciences (lol) de l’implication pour la théorie de l’esprit, que la conscience ne peut pas être une chose, mais seulement une activité qui réclame un support ?

    Bref, il faut que tu affûtes encore tes arguments.

    Aimé par 1 personne

    1. Pourquoi Alexis évoquez-vous un moment l’âme et ne faites-vous pas référence à l’esprit… Pourquoi la conscience ne serait-elle pas l’esprit… L’âme selon moi ne se distingue pas de l’animal au sens où coule en lui la vie qui le met en mouvement… Or l’esprit exprime plutôt une idée de conscience, est-ce que le « Je suis » de Dieu n’est pas en quelque sorte le « Je suis » de l’homme… Si l’on regarde le mot Pneuma en grec l’esprit est défini comme une dimension dénuée de toute matière, possédant un pouvoir de connaissance, de désir, de décision, d’action…. Or c’est le mot Pneuma qui est utilisé dans l’évangile de Jean.. on retrouve ce sens assez voisin défini dans le grec et le mot hébreu »Ruwach » renvoie à un sens quasi équivalent une idée de souffle vivant ‘ »le Je suis » ….Or la conscience semble reliée à la vie… Dieu donne la vie, la conscience d’être… qui ne se résume pas à une information de type je pense donc je suis.. La Machine pourrait éventuellement penser, mais elle n’est pas….car aucune vie n’est en elle …. !

      Aimé par 1 personne

  2. Merci pour l’article. Juste un commentaire : j’ai lu sous la plume d’un métaphysicien que le mathématicien Gödel avait apporté la preuve que notre esprit est capable d’appréhender la vérité de certaines propositions qui pour une machine, c’est-à-dire un dispositif matériel fini, comme le cerveau, sont indécidables. Et donc qu’il est faux de prétendre que l’esprit n’est qu’un épiphénomène du cerveau, puisque son fonctionnement et les vérités qu’il saisit sont beaucoup plus étendus. Qu’en est-il exactement ?

    J'aime

  3. Enchanté, Étienne (j’arrive ici via la page FB « Transhumanisme » d’Eric).

    Mon sentiment est similaire à celui d’Eric (cher Éric, c’est Étienne qui a parlé d’âme avant Alexis) : vous oscillez, Etienne — et c’est perceptible en effet par les mots et concepts utilisés –, entre le traitement de deux thèmes distincts (voire plus), et en réalité, votre vrai thème, celui qui vous tient à coeur et que vous revenez défendre au détour de chaque paragraphe, quasiment, c’est l’immatérialité de l’âme et la défense de la vision chrétienne classique ; ce qui n’est pas ce qu’annonce le titre du billet.

    Les évolutions technologiques accélérées auxquelles nous assistons sont extrêmement inquiétantes, d’autant que la pensée du monde n’est pas en ce moment — contrairement à certaines apparences — orientée à la prudence éthique et aux questions philosophiques | existentielles collectives bien posées et formulées. De mon côté, j’ai été grand lecteur de SF anglaise et américaine de qualité pendant 40 ans (de 8 à 48 ans, tous les soirs) ; comme vous le savez, c’est une littérature prospective dans le cadre de laquelle les auteurs, pour une bonne part, ont imaginé et scénarisé la plupart des questions que nous pouvons aborder dans le cadre de cette Page, des milliers de fois chacune.

    Intuitivement, sur la base à la fois de mes connaissances accumulées et de l’assimilation de centaines de scénarios prospectifs lus sur le thème de l’IA, j’ai beaucoup de mal à envisager que la subjectivité réelle — et avec elle la conscience, éventuellement la conscience réflexive, et l’intentionnalité, notamment — puisse venir à la machine. Mais comme pour vous et d’autres, c’est intuitif et ça demande à être traduit en considérations rationnelles, dans la mesure du possible, qui est limité en cette matière.

    oOo

    De façon plus générale, face aux phénomènes constatés de « sauts quantiques » dans l’évolution de la Vie dans notre coin observable de l’Univers (étant précisé que je suis athée « du 3è type » [cf. Ludwig Feuerbach] avec le Christ, ou encore [autre angle un peu différent ;] panthéiste symbolique, dans une évolution moderne de la pensée de Spinoza), et comme d’autres, je ne peux penser qu’à un « effet de masse » pour les expliquer. Et je suis heureux, Alexis, que vous m’offriez pour ça un mot savant que je ne connaissais pas et n’avais pas pensé à forger, »émergentisme ». 😉

    Émergence d’une organisation à partir d’une certaine complexité multicellulaire d’un organisme vivant, émergence graduelle d’un sujet pensant singulier à partir d’une certaine complexité cérébrale, émergence d’une conscience réflexive dans un stade ultérieur, dans une interaction entre la complexité croissante du cerveau et la diversité croissante des expériences de vie.

    Pour une part, si on accorde du crédit à cette idée, on pourrait supposer que cette « méta-singularité » de la conscience artificielle pourrait advenir avec la complexification de nos machines, notamment maintenant qu’on fait « apprendre » aux machines selon des méthodes « floues » inspirées du vivant.

    oOo

    Pour affiner les analyses, je suis partisan que l’on précise « conscience réflexive » pour ce sens humain décisif dont les animaux les plus évolués ont sans doute aussi une part basique. « Conscience », « cum scientia », me semble gagner à désigner la subjectivité suffisante pour accumuler des connaissances et être saisi d’intentions.

    « La matière n’est pas à propos de quelque chose » et le signe n’a pas de sens en soi, c’est évident, merci de le rappeler, mais le fait que vous ne commentiez aucunement sous ce point 3 le cas de l’animal, qu’on peut dire grossièrement être « intermédiaire » entre l’inanimé/dépourvu d’intention et nous me semble un symptôme parmi d’autres que votre sujet réel, comme dit plus haut, c’est la remise en cause du matérialisme, au sens philosophique du terme. Et franchement, en 2017, 2-3 siècles après les Lumières, faire cette remise en cause et vouloir dans le même temps débattre de thèmes comme ceux-ci est un peu absurde (et sans doute aporique) : vous pourriez juste vivre paisiblement votre foi anti-matérialiste, à ce compte-là, en pensant ceci ou en pensant celà — ça ne fera pas de différence si là où vous vous épanouissez le mieux, c’est dans la certitude d’un Dieu créateur et personnel ! ;->
    Possibilité d’un effet de masse | émergentisme, donc, mais… je|on reste persuadé intuitivement que ça ne suffit pas pour constituer un sujet pensant et voulant. Et j’ai beaucoup aimé ton commentaire bien pensé et bien écrit, Éric : il traduit quasi complètement mon sentiment aussi sur ces affaires.

    Il faut éprouver comme un être vivant éprouve au travers de multiples expériences de vie agréables et désagréables pour vouloir, pour qu’émerge un sujet.

    Et l’animal est en effet un sujet à la fois dans sa réalité observable par nous et dans son intitulé même : « anima », l’âme, le souffle de la vie et de la volonté qui va avec, du « conatus », de l’effort pour persévérer et évoluer dans son être. (On est d’accord que « pneuma », c’est le mot grec qui correspond à « anima » en latin, oui ?). Mon sentiment, c’est que c’est un tel consensus — donc par exemple entre toi et moi — qui importe le plus, et non la différence entre les origines à quoi nous attribuons chacun cet état dans cette vision (« Dieu qui donne… » pour toi, ou le Mystère époustouflant sur quoi je ne peux « gnoser » et qui me lie à du transcendant subjectif).

    oOo

    Tout cela dit, on ne peut exclure — comme vous l’avez mentionné — qu’une intelligence collective non apparentée au vivant et sans ce « souffle » propre à la vie vienne aux machines, et que vienne un moment où elles puissent désobéir aux ordres humains. Donc, « Ah zut, même sans conscience réflexive, intentionnalité au sens du vivant, subjectivité individuelle, on pourrait être sérieusement dans la « m…. » quand même dans pas si longtemps ! ;->

    Lionel

    J'aime

  4. Enchanté, Étienne (j’arrive ici via la page FB « Transhumanisme » d’Eric).

    Mon sentiment est similaire à celui d’Eric (cher Éric, c’est Étienne qui a parlé d’âme avant Alexis) : vous oscillez, Etienne — et c’est perceptible en effet par les mots et concepts utilisés –, entre le traitement de deux thèmes distincts (voire plus), et en réalité, votre vrai thème, celui qui vous tient à coeur et que vous revenez défendre au détour de chaque paragraphe, quasiment, c’est l’immatérialité de l’âme et la défense de la vision chrétienne classique ; ce qui n’est pas ce qu’annonce le titre du billet.

    Les évolutions technologiques accélérées auxquelles nous assistons sont extrêmement inquiétantes, d’autant que la pensée du monde n’est pas en ce moment — contrairement à certaines apparences — orientée à la prudence éthique et aux questions philosophiques | existentielles collectives bien posées et formulées. De mon côté, j’ai été grand lecteur de SF anglaise et américaine de qualité pendant 40 ans (de 8 à 48 ans, tous les soirs) ; comme vous le savez, c’est une littérature prospective dans le cadre de laquelle les auteurs, pour une bonne part, ont imaginé et scénarisé la plupart des questions que nous pouvons aborder dans le cadre de cette Page, des milliers de fois chacune.

    Intuitivement, sur la base à la fois de mes connaissances accumulées et de l’assimilation de centaines de scénarios prospectifs lus sur le thème de l’IA, j’ai beaucoup de mal à envisager que la subjectivité réelle — et avec elle la conscience, éventuellement la conscience réflexive, et l’intentionnalité, notamment — puisse venir à la machine. Mais comme pour vous et d’autres, c’est intuitif et ça demande à être traduit en considérations rationnelles, dans la mesure du possible, qui est limité en cette matière.

    oOo

    De façon plus générale, face aux phénomènes constatés de « sauts quantiques » dans l’évolution de la Vie dans notre coin observable de l’Univers (étant précisé que je suis athée « du 3è type » [cf. Ludwig Feuerbach] avec le Christ, ou encore [autre angle un peu différent ;] panthéiste symbolique, dans une évolution moderne de la pensée de Spinoza), et comme d’autres, je ne peux penser qu’à un « effet de masse » pour les expliquer. Et je suis heureux, Alexis, que vous m’offriez pour ça un mot savant que je ne connaissais pas et n’avais pas pensé à forger, »émergentisme ». 😉

    Émergence d’une organisation à partir d’une certaine complexité multicellulaire d’un organisme vivant, émergence graduelle d’un sujet pensant singulier à partir d’une certaine complexité cérébrale, émergence d’une conscience réflexive dans un stade ultérieur, dans une interaction entre la complexité croissante du cerveau et la diversité croissante des expériences de vie.

    Pour une part, si on accorde du crédit à cette idée, on pourrait supposer que cette « méta-singularité » de la conscience artificielle pourrait advenir avec la complexification de nos machines, notamment maintenant qu’on fait « apprendre » aux machines selon des méthodes « floues » inspirées du vivant.

    oOo

    Pour affiner les analyses, je suis partisan que l’on précise « conscience réflexive » pour ce sens humain décisif dont les animaux les plus évolués ont sans doute aussi une part basique. « Conscience », « cum scientia », me semble gagner à désigner la subjectivité suffisante pour accumuler des connaissances et être saisi d’intentions.

    « La matière n’est pas à propos de quelque chose » et le signe n’a pas de sens en soi, c’est évident, merci de le rappeler, mais le fait que vous ne commentiez aucunement sous ce point 3 le cas de l’animal, qu’on peut dire grossièrement être « intermédiaire » entre l’inanimé/dépourvu d’intention et nous me semble un symptôme parmi d’autres que votre sujet réel, comme dit plus haut, c’est la remise en cause du matérialisme, au sens philosophique du terme. Et franchement, en 2017, 2-3 siècles après les Lumières, faire cette remise en cause et vouloir dans le même temps débattre de thèmes comme ceux-ci est un peu absurde (et sans doute aporique) : vous pourriez juste vivre paisiblement votre foi anti-matérialiste, à ce compte-là, en pensant ceci ou en pensant celà — ça ne fera pas de différence si là où vous vous épanouissez le mieux, c’est dans la certitude d’un Dieu créateur et personnel ! ;->

    Possibilité d’un effet de masse | émergentisme, donc, mais… je|on reste persuadé intuitivement que ça ne suffit pas pour constituer un sujet pensant et voulant. Et j’ai beaucoup aimé ton commentaire bien pensé et bien écrit, Éric : il traduit quasi complètement mon sentiment aussi sur ces affaires.

    Il faut éprouver comme un être vivant éprouve au travers de multiples expériences de vie agréables et désagréables pour vouloir, pour qu’émerge un sujet.

    Et l’animal est en effet un sujet à la fois dans sa réalité observable par nous et dans son intitulé même : « anima », l’âme, le souffle de la vie et de la volonté qui va avec, du « conatus », de l’effort pour persévérer et évoluer dans son être. (On est d’accord que « pneuma », c’est le mot grec qui correspond à « anima » en latin, oui ?). Mon sentiment, c’est que c’est un tel consensus — donc par exemple entre toi et moi — qui importe le plus, et non la différence entre les origines à quoi nous attribuons chacun cet état dans cette vision (« Dieu qui donne… » pour toi, ou le Mystère époustouflant sur quoi je ne peux « gnoser » et qui me lie à du transcendant subjectif).

    oOo

    Tout cela dit, on ne peut exclure — comme vous l’avez mentionné — qu’une intelligence collective non apparentée au vivant et sans ce « souffle » propre à la vie vienne aux machines, et que vienne un moment où elles puissent désobéir aux ordres humains. Donc, « Ah zut, même sans conscience réflexive, intentionnalité au sens du vivant, subjectivité individuelle, on pourrait être sérieusement dans la « m…. » quand même dans pas si longtemps ! ;->

    Lionel

    J'aime

    1. Merci pour votre retour long et argumenté, ca me fait un grand plaisir de vous lire! Vous avez raison de souligner l’imprécision de mon titre, même si en partisan de l’immatérialisme que je suis, la question de la conscience est fortement liée à la nature de la matière, puisque dans la tradition immatérialiste, la conscience et avec elle l’esprit qui la supporte est la réalité première, et le reste n’est qu’idées dans la pensée de Dieu. Voilà pourquoi j’ai cru bon de faire un tel lien, mais merci pour votre regard extérieur, il m’aide!

      Quand au reste, j’apprécie le raisonnement, même si je ne souscris pas assez aux bases pour le suivre personnellement. Nous pouvons nous rejoindre sur la fin: même avec une IA faible, il y a de quoi se retrouver dans… l’embarras profond! 🙂 Au plaisir de vous revoir, Etienne.

      J'aime

      1. J’ai bien entendu apprécié il y a 3 semaines l’aimable réponse que vous m’avez faite ci-dessus, cher Étienne, merci, mais puisque vous m’y confirmiez (merci pour ça aussi) que nos visions divergeaient dès le postulat de base, matérialiste (non réductionniste) pour moi, immatérialiste pour vous, j’ai souhaité « laisser du temps au temps » plutôt que de vous adresser un simple remerciement convenu sans relance de la discussion.

        Et un parfait motif de relance pour moi n’a pas tardé à venir, avec la publication de votre nouveau billet, « Ce que le Progrès historique doit aux théologiens chrétiens anciens », sur le regard là-dessus de Tamer Nashef. Son propos, que vous commentez fort adroitement, peut sans doute contribuer à étayer différentes thèses plus générales, mais il sert certainement la mienne, qui est pour aller vite : il y a une très grande cohérence entre les différents champs du développement civilisationnel, une continuité historique puissante, dont une des graines majeures est la grande cohérence du corpus religieux judéo-chrétien, qu’il serait hasardeux de qualifier autrement que de « corpus humaniste » (« corpus christi » multiplié par 7 milliards et quelque à cette heure ;-). Mais nous avons encore du chemin à faire : nous (êtres humains) continuons d’avoir cette furieuse inclination à préférer relever et répéter ad nauseam les aspects secondaires qui nous séparent plutôt que les aspects bien plus marquants qui nous rapprochent.

        Dès la lecture de votre billet terminée, j’étais certain de vouloir y apposer mon commentaire. Et puis entre hier et aujourd’hui, sur un fil de discussion lancé par un brillant « camarade de jeu » parmi mes préférés, Pierre Cormary, il m’est apparu que le commentaire que je mûrissais sur votre intéressant article avait naturellement sa place dans ce que j’avais à y dire.

        Je vous y ai cité, « taggé » — outre le devoir de bienséance, il peut toujours être intéressant de « croiser » différents interlocuteurs passionnés par les mêmes sujets –, mais pensais possible que vous objectiez à mon utilisation de votre billet. Ce sera peut-être le cas, mais pour l’instant, vous avez eu l’amabilité de me marquer votre appréciation de ce commentaire (https://www.facebook.com/cormary/posts/10155094631546305?comment_id=10155095644096305&reply_comment_id=10155098677161305), ce qui est une opportune ouverture pour la présente « reprise de langue ». 😉

        Et j’essayerai de commenter le « Progrès historique » plus complètement ‘in situ’ si j’en ai le temps.

        Aimé par 1 personne

      1. Cher Éric, il serait en effet fort agréable de « remettre le couvert » pour boire ou manger ensemble prochainement (amitiés à Remi en passant !) par chez toi ou par chez moi (normalement, c’est à ton tour de te déplacer, glissè-je finement ;D), en poursuivant nos discussions passionnées. 🙂

        C’est bien là l’objection sur laquelle nous semblons tous nous accorder : pour être capable de passions (et, de ce fait, développer une subjectivité et une intentionnalité), il faut éprouver des sentiments contrastés, et pour cela, il faut être vivant, joyeux de sa perfection fonctionnelle complexe perçue intuitivement, malheureux de son imperfection spirituelle et dans l’action, exalté par tout accomplissement relationnel avec son prochain, mortifié par les incontournables blessures affectives et morales endurées…

        Si nous dominions mieux la « singulière » situation, nous arrêterions de mettre notre imagination en surchauffe en commentant incessamment cette angoisse taraudante d’être dépassée par la machine, notre création, obsession qui équivaut à un chant-de-sirène thanatonautique ; nous aurions un discours et un projet, au contraire, cantonnant clairement la machine à tout ce qui est calculs, analyses et traitements complexes de masse ; et nous avancerions prudemment dans le sens de l’augmentation raisonnée et raisonnable de nos facultés par compléments « bioniques » n’entraînant pas de dénaturation, pour que l’ethos qui prévale, bien entendu, ce soit l’ethos humain, dans toutes ses passions attachantes et constructives, avec la mesure intelligente à laquelle doit correspondre l’état de civilisation atteint.

        J'aime

  5. Quelles argumentations philosophiques peuvent en tout domaines apporter ne serait ce qu’un début de preuve…
    Seule la science peut ds ce domaine et bien d autres voire peut être tous apporter un commencement d’explication ne serais que parce qu’elle est soumise à l expérimentation…

    Dans cette perspective sans être un sophiste on peut reprendre chacune de vos argumentations terme à terme ds un développement très classique thèse antithèse et synthèse qui vous contre argumenter..
    Et cela n’est pas un question de rhétorique pure mais seulement de postulats initiaux et du but à atteindre que vous vous etes fixez (ds toute argumentation philosophique il y a une forme teleologique )….

    Vous me faite penser à ces idéologues qui discutaient le sexe des anges au moyen âge.. vous êtes d un autre monde qui disparaît peu à peu

    J'aime

    1. Nous disparaissons, et pourtant sommes de plus en plus nombreux… Mais laissons cela de côté.

      Pourquoi ne pas laisser les scientifiques décider de cette question, et pourquoi une approche métaphysique est-t-elle légitime? Parce que, pour faire simple, la science est une catin qui se fait monter par le premier système métaphysique venu. Vous pouvez interpréter les résultats scientifiques sous un prisme physicaliste, je les interprète sous un prisme immatérialiste. Le but de cet article est de montrer le traitement d’un tel sujet dans une optique théiste immatérialiste.

      J'aime

  6. Je suis étonné de voir les mots conscience, âme, esprit, alors que personne ne sait de quoi on parle.
    Je crois qu’il faut d’abord distinguer la mémoire de la conscience, qui peut se traduire par la manière dont on exprime nos idées, nos envies, nos choix.
    En fait, il se peut très bien que la conscience n’existe pas du tout (ni l’âme, ni l’esprit) et que ce qui accède à notre mémoire soit purement algorithmique. Il y a juste qu’on n’a aucune idée de cet algorithme, ni de la structure de la mémoire.
    Or il est possible de faire le reverse engineering de la mémoire, mais peu s’y penchent. Or c’est très intéressant. Quelques autistes et autres génies nous ont pourtant donné des pistes.

    Ensuite, nos neurones utilisent des boucles automatique et randomisée à notre mémoire, pour faire surgir des images et des idées que nous pensons avec beaucoup d’orgueil créer par notre intellect et notre intelligence.
    Ces informations sont ensuite filtrées et formatées en fonction de notre héritage génétique et épigénétique (notre caractère et notre expérience), chose que l’ordinateur peut aussi faire, cela s’appelle un système expert.

    Bref, après réflexion, je crois que les ordinateurs pourront mimer des humains.

    Mais, et il y a une chose supplémentaire, mais là encore, personne n’en parle: l’instinct, l’instinct câblé, celui qui fait bouger mon inconscient à chaque seconde, et me fait croire que c’est moi qui ai faim, qui veut dormir, manger, se reproduire. Personne ne sait non plus ce qu’est cet instinct. On pourrait presque dire qu’on n’en a pas besoin. Or il pourrait être lié à l’instinct de survie, à ce qui nous fait vouloir vivre. Peut-être que sans lui, le reste ne fonctionne pas du tout, ne démarre pas, un peu comme une voiture sans démarreur.
    Et cet instinct est peut-être beaucoup plus puissant que ce qu’on croit à priori. Il englobe les prémonitions (anecdotique), la clairvoyance dans le futur (science-fiction mais qui sait), le saint esprit dont parle la Bible, la Torah et le Coran. Notre intellect n’en parle pas, mais il se peut que notre conscience l’utilise à chaque instinct, que c’est la même chose que l’instinct, et que c’est vital. Et si c’était vrai, cela, l’ordinateur ne saura jamais le mimer.

    J'aime

  7. J’y connais rien du tout mais j’ai un ami chrétien qui avait dit que ce serait très peu probable. Comment affirmer que l’intelligence artificielle aura un jour une conscience humaine que les philosophes ne savent même pas comprendre et définir ?

    Aimé par 1 personne

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s