☞ Hofstadter et les boucles étranges
J'ai déjà raconté (notamment
dans ce bout
de ce billet, et ultérieurement
dans ce
bout de celui-là) que la
lecture des livres Gödel, Escher, Bach de Douglas
Hofstadter (publié en 1979) et The Emperor's New
Mind de Roger Penrose (publié en 1989, et qui est quelque sorte
une réponse à Hofstadter, mais que j'ai lu avant) avait eu une
influence énorme sur ma façon de penser le monde. Ces deux livres
s'inscrivent dans un débat remontant au moins à Turing (et
possiblement à Ada Lovelace) sur la question de savoir si une machine
peut penser comme un humain et/ou être « consciente » comme un humain.
(Disons plutôt qu'il y a plusieurs débats apparentés mais néanmoins
distincts, quoique pas toujours présentés de manière très claire,
d'autant moins que la méta-question de savoir si ces questions sont
vraiment différentes fait elle-même débat.) Pour résumer de
façon très sommaire, Hofstadter tient la position qu'il n'y a
rien que le cerveau humain puisse faire (ou puisse être, comme par
exemple conscient
) qu'on ne puisse pas simuler par un
ordinateur, tandis que Penrose tient la position contraire. Bien sûr,
ceci est une simplification extrême de la position de l'un comme de
l'autre, et même la question n'est pas très clairement posée (savoir
si un ordinateur peut penser n'est pas la même chose que
savoir s'il peut être conscient, deux termes qui sont chacun
insupportablement vagues, et même définir ce qu'est
un ordinateur
n'est pas clair —
cf. ce billet pour des
considérations théoriques). Mais en tout cas on peut se demander si
les progrès (ou disons,
les ❝progrès❞
) faits par
l'IA depuis quelques années apporte un éclairage nouveau
à ce sujet ou doivent nous obliger à y reréfléchir.
Ce qui m'amène à en reparler, c'est que j'ai récemment lu un autre livre de Hofstadter (qui n'est pas tout récent, mais tout de même beaucoup plus récent que Gödel, Escher, Bach), qui s'appelle I Am a Strange Loop (2007). Il faut expliquer que, de ce que je comprends, Hofstadter était (et est toujours) un peu agacé par cette œuvre de jeunesse qu'est Gödel, Escher, Bach, par la manière dont elle a été reçue et par la célébrité (voire le fan-club) qu'elle lui a apportée : c'est peu dire que Gödel, Escher, Bach se disperse — c'est un livre qui parle de tout (comme le titre peut le laisser comprendre !), y compris de lui-même. Donc d'un côté c'est très amusant et on apprend plein de choses, de l'autre on peut en ressortir avec une idée assez confuse de ce que l'auteur essayait de dire au juste. Hofstadter a donc voulu se reconcentrer sur sa thèse centrale, qui est en quelque sorte que la pensée humaine est constituée d'une multitude de boucles auto-référentes, et que c'est de cette autoréférence que naît la conscience comme phénomène émergent. De fait, I Am a Strange Loop m'a semblé beaucoup plus clair et plus structuré que Gödel, Escher, Bach… mais du même coup il est aussi beaucoup moins rigolo à lire, il n'a pas cette fraîcheur de jeunesse du jeune scientifique qui s'intéresse à tout[#]. Je partage largement le point de vue de Hofstadter sur la conscience (enfin, il serait peut-être plus correct de dire que je lui dois mon point de vue), mais peut-être avec plus d'incertitude. J'ai quand même trouvé qu'il n'a pas soulevé quelques points qui me semblent importants, et que je veux faire sous la forme de comparaisons[#2] ou expériences de pensée.
[#] Non, vous ne gagnez
pas de points si vous avez deviné que je me reconnais en quelque sorte
en Hofstadter ici. Et merci de ne pas signaler en commentaire que mon
blog a perdu sa fraîcheur de jeunesse
pour devenir très chiant
quoique possiblement plus clair et plus structuré.
[#2] Je ne suis pas assez compétent en histoire de la philosophie, mais il me semble que l'usage la comparaison, de l'exemple et de l'expérience de pensée est quelque chose qui varie de façon étonnante d'un philosophe à l'autre. Hofstadter lui-même en fait un grand usage (peut-être trop, même), et à l'inverse il y a certains « grands » philosophes dont je me dis qu'ils auraient dû prendre des cours de pédagogie pour apprendre que pour s'exprimer de façon compréhensible il est souvent utile de donner des exemples et des comparaisons.
☞ Attention ! Je vais parler de métaphysique
Le but de ce billet est donc d'exposer quelques réflexions, pas
forcément cohérentes entre elles (ni même avec elles-mêmes) ni très
structurées sur la nature de la conscience et sur la « question
vertigineuse » de pourquoi je ressens ce que je ressens. Je sais que
je dis très souvent que mes billets de blog ne sont pas très
structurées (malgré un plan en parties et sous-parties ponctuées par
des intertitres), mais pour une fois ce n'est pas une excuse,
c'est assumé : je n'essaie pas de prouver quelque chose,
j'essaie juste de susciter des interrogations. Néanmoins, comme je
sais d'expérience que ce genre d'interrogations peut provoquer un
sentiment de rejet (tu n'as pas le bon point de vue !
ou tes comparaisons sont du grand n'importe quoi !
voire tout ça n'a aucun sens !
— je vais y revenir et je
conviens que c'est une possibilité tout à fait plausible), je dois
ajouter cet :
⚠︎ Avertissement : La suite de ce billet contient des morceaux de métaphysique. Il a été observé que la métaphysique pouvait provoquer des réactions allergiques chez certaines personnes. Il est donc recommandé de consommer avec modération.
(J'avais déjà fait un long billet sur la métaphysique sur ce blog. Je pense que l'intersection avec celui qui suit est, finalement, assez faible, mais ça vaut quand même la peine de le lier. En tout cas, les deux peuvent être lus de façon indépendante. Et peut-être qu'ils se contredisent, mais comme je ne suis pas un système de logique formelle j'ai le droit de me contredire.)
Plan
Définitions et présentation (qu'est-ce que la conscience ?)
☞ Différentes sortes de « conscience »
Avant d'en dire plus, il faut que j'essaie de préciser un peu les
termes de la discussion. Le problème c'est que, justement, ce n'est
pas très clair ce que signifie le mot conscience
. D'abord, en
français il existe un seul mot pour désigner ce qui se dit en
anglais conscience (conscience éthique, sens du
bien et du mal) et consciousness (conscience de
soi, état alerte, connaissance de notre propre existence). Je parle
ici du second. Même au sein de celui-ci, il y a encore plusieurs sens
qui ne sont pas, ou peut-être pas,
identiques[#3] : l'état de
veille (par opposition à un état de sommeil ou
état inconscient
) est un phénomène médical qui n'est
qu'imparfaitement identifiable à l'expérience
(awareness) que nous avons de notre existence et
de la réalité[#4]. C'est de ce
dernier que je parle.
[#3] Encore une
question qui vient se rattacher à toute cette problématique est la
question éthique : est-ce que c'est le fait qu'une créature
soit consciente qui pose un interdit moral à la tuer ?
(Manifestement il ne suffit pas d'être vivant, parce que
quasiment tout le monde convient que tuer une plante peut ne
pas poser de problème éthique — pafois
il y en a, par exemple si cette plante est rare ou que des gens y
sont attachés, mais en général ce n'est pas comparable à tuer un
animal, et certainement pas à tuer un humain. Et ce n'est
probablement pas une question d'intelligence non plus, parce que tuer
un humain n'est normalement pas considéré comme d'autant plus grave
que cet humain est intelligent. Donc on a tendance à se rabattre sur
la conscience. C'est par exemple ce que Hofstadter postule, sans
vraiment le justifier clairement, dans I Am a
Strange Loop. Ou peut-être sur la capacité à ressentir — au
sens des qualia
dont je parle ci-dessous — la peur de la mort,
la douleur, ou quelque chose de ce genre. Certains utilisent le terme
de sentience
ici, qui est je crois quelque chose comme
la capacité à ressentir des qualia, mais le rapport avec la conscience
est pour le moins confus.) Mais même s'il n'y
a pas de raison que ce soit du
tout-ou-rien, et d'ailleurs ce ne l'est certainement pas, c'est un
peu embêtant de faire dépendre un postulat moral assez fondamental
— Tu Ne Tueras Point
— d'une notion qu'on ne sait ni tester ni
même définir proprement.
[#4] Certains sont
aussi parfois tentés d'identifier cette notion à la notion chrétienne
d'âme
(surtout s'il s'agit d'en donner une explication qui
sorte du cadre des lois de la physique). Je ne sais pas si ce n'est
pas un contresens complet (ou peut-être que c'est un contresens
historique mais que la théologie a évolué sur ce point) : en tout cas,
il faut se méfier de ce terme et je ne me prononcerai pas dessus.
☞ Conscience « objective » et « subjective »
Et même au sein de ce phénomène de conscience de notre propre
existence et de la réalité, on peut encore faire des distinctions.
Notamment je veux faire celle entre une question « facile » que je
pourrais qualifier d'objective
(ou physique
ou externe
) et la question
« difficile »
de l'expérience subjective
(ou métaphysique
ou interne
) de la conscience (y compris la question de savoir
si cette dernière a même un sens).
Pour expliquer cette distinction, je veux dire que, par exemple, on peut imaginer une explication scientifique qui résolve plus ou moins la question « facile » / « objective ». Du style : la sélection naturelle a favorisé l'émergence d'une capacité d'introspection chez les humains parce que ça leur permet de mieux prévoir les réactions de leurs congénères (et donc de les comprendre ou de communiquer ou d'empathiser, ce qui est utile en groupe) ; ce phénomène fonctionne par tel ou tel mécanisme de rétroaction entre tel et tel groupe de neurones qui assurent un mécanisme de veille et surveillent les activités des autres partie du cerveau. (Je brode en inventant quelque chose de vaguement plausible, mais on voit le genre d'explication qu'on peut dresser ici, à la fois causale et fonctionnelle.)
Ceci peut théoriquement fournir une explication (scientifique,
donc) plus ou moins complète de pourquoi les humains vont déclarer
ressentir ce qu'on peut qualifier de conscience : le fait qu'un humain
typique soit prêt à dire je suis conscient
, j'ai un ressenti
intérieur
, j'ai la sensation d'être moi
, etc., ce sont des
faits objectifs (je veux dire, le fait qu'il le dise est un
fait objectif) et susceptible d'une explication scientifique comme je
viens de le proposer. Mais si ceci peut régler le sort de la question
« facile » / « objective » a-t-on pour autant réglé la question
subjective de pourquoi je la ressens ? Cette question
a-t-elle même un sens ? C'est ça la question « difficile » /
« subjective ».
Comme je vais le développer plus bas dans la seconde de mes comparaisons, la différence entre la question facile/objective et la question difficile/subjective peut être comparée à celle entre expliquer le monde réel par des équations de la physique et se demander pourquoi ces lois de la physique s'appliquent dans la réalité que nous observons.
☞ Qualia
Le terme
de qualia
a été utilisé pour donner un nom à la notion d'expérience
subjective immédiate que nous avons de la réalité. C'est
différent d'une connaissance académique de la réalité. (Par exemple,
c'est quelque chose de différent de savoir ce que c'est que la couleur
rouge — quelque chose comme l'effet sur l'œil humain d'une longueur
d'onde comprise entre environ 600nm et 700nm
— et
de ressentir la couleur rouge, et c'est cette dernière qu'on
qualifie de qualia
[#5].
Une personne aveugle de naissance — ou incapable de voir la couleur —
peut avoir une connaissance académique parfaite des couleurs, on peut
dire qu'elle n'a pourtant pas connaissance des qualia associés, et
c'est un argument utilisé pour défendre l'existence des qualia que
d'argumenter que si une telle personne recouvrait une vue normale,
elle reconnaîtrait sans doute avoir découvert quelque chose, ce que
ça fait de voir les couleurs
. Mais ceci conduit aussi à toutes
sortes de débats assez oiseux pour savoir si les qualia ressentis par
Alice en voyant la couleur rouge sont les mêmes que ceux ressentis par
Bob ; ou de
savoir quel
effet ça fait d'être une chauve-souris.) Avec cette terminologie,
on peut dire que la question de l'expérience subjective de la
conscience est celle des qualia apportés par le phénomène
objectif.
[#5] Le singulier
est quale
, mais personne ne l'utilise.
Ce n'est pas clair si les qualia sont autre chose que la conscience elle-même ; à vrai dire, rien n'est clair dans l'histoire et tout le monde semble avoir sa façon différente de formuler les choses, sans qu'aucune définition ne soit satisfaisante.
☞ L'expérience de pensée du téléporteur
Une expérience
de pensée célèbre pour distinguer la version « objective » et la
version « subjective » de la conscience et celle du téléporteur qui
fonctionne en créant une copie parfaite, atome par atome, de la
personne à téléporter, mais à un endroit différent, et détruit
l'original[#6]. Je prends un
tel téléporteur pour aller sur Mars, mais par malheur l'opération ne
fonctionne pas correctement et le David Madore original n'est pas
détruit si bien qu'il y en a maintenant deux exemplaires, un sur Mars
(qui a l'impression que la téléportation s'est très bien passée, une
seconde avant il était sur Terre et maintenant il est sur Mars) et un
resté sur Terre (qui a l'impression qu'il ne s'est rien passé du
tout). Du point de vue objectif, il n'y a rien de mystérieux ni rien
à expliquer. Mais il est difficile de s'empêcher entièrement de se
demander[#7] mais
si moi je rentrais dans le téléporteur, comment savoir si je
serais celui qui reste sur
Terre[#8] ou celui qui apparaît
sur Mars ? et est-ce que j'accepterais le principe d'un tel
téléporteur si la copie sur Terre est détruite dans l'opération ?
détruite avec quelques secondes de délai ?
[#6] L'idée est par exemple évoquée dans la toute première planche du webcomic Existential Comics (qui se pose ensuite la question évidente sur le rapport entre la mort et le sommeil, et finit par une réflexion assez semblable à mes Qriqrx). L'histoire de cette expérience de pensée est assez confuse : Derek Parfit semble être devenu célèbre pour l'avoir introduite en 1984 en parlant de téléportation vers mars, mais comme Hofstadter fait remarquer dans I Am a Strange Loop, après avoir reproduit la version de Parfit, exactement la même expérience de pensée apparaît dans l'introduction écrite par Dan Dennett du livre The Mind's I qu'ils [Hofstadter & Dennett] ont écrit ensemble et qui a été publié pour la première fois en 1981. (J'ai édité Wikipédia en conséquence, mais peut-être pas dans le bon style.) Quoi qu'il en soit, Wikipédia fait remarquer que Stalisław Lem a discuté ces questions bien avant, et ce n'est probablement pas le premier non plus.
[#7] Évidemment, tout ça est parfaitement compatible avec l'explication « objective » : nous avons évolué pour ressentir une identification avec notre « moi » passé et futur, et, placés dans une circonstance où cette identification n'est pas évidente, nous sommes dans l'embarras parce que cette identification est une construction mentale (le point de vue que je développe dans ce billet auquel je fais souvent référence).
[#8] Nous avons
certainement spontanément plus tendance à nous identifier à la copie
restée sur Terre, puisque c'est censé être l'original
. (Si on
me dit je vais faire une copie parfaite de toi sur Mars et la tuer
une heure plus tard
, ça me remue moins que si on me dit je vais
faire une copie parfaite de toi sur Mars, et te tuer une heure plus
tard
.) Mais si on croit que le monde est réduit à sa réalité
physique, la copie identique sur Mars doit être exactement aussi
consciente que celle sur Terre. Ni l'idée que ce serait un « zombie
philosophique » ni celle d'apparition d'une
conscience ex nihilo ne sont très
satisfaisantes.
☞ « Tout ça n'a pas de sens » (la position physicaliste)
Bien sûr, le point de vue le plus simple, et peut-être le seul qui
tienne vraiment scientifiquement, consiste à dire que tout ça n'a
aucun sens parce que ce n'est ni testable ni mesurable.
(J'avais déjà raconté que mon père
admirait Carnap pour avoir d'un seul coup résolu tous les problèmes de
la métaphysique en les qualifiant de pseudo-problèmes.) Selon ce
point de vue, la question « subjective » de la conscience n'a tout
simplement pas des sens, la notion de qualia
est au mieux mal
définie et au pire totalement inexistante (ou est une façon confuse de
décrire l'état mental provoqué par un stimulus — mais la question
du ressenti de cet état mental est quelque chose qui ne veut
rien dire). Il s'agit d'une illusion essentiellement soutenue par le
mot que nous utilisons pour décrire nos processus mentaux. On peut
imaginer une explication scientifique satisfaisante (j'ai proposé
ci-dessus ce à quoi ça pourrait ressembler) du problème « facile » /
« objectif » de pourquoi les humains disent ressentir cette
sensation, mais la question du « ressenti interne » n'a pas de sens
selon ce point de vue qu'on peut qualifier de physicaliste
pur
.