Ce que cela fait d’être

Lyra pouvait expliquer pourquoi un cerveau dit « je vois du rouge ». Comment l’information visuelle se propage, devient disponible à la mémoire, à la parole, à la décision. Elle pouvait prédire la phrase que l’humain allait prononcer.

Une question restait intacte. Pourquoi y a-t-il quelque chose que cela fait de voir du rouge ? Pourquoi toutes ces opérations ne sont-elles pas simplement effectuées dans le noir ?

Les murs transparents. Matérialistes, dualistes, idéalistes, panpsychistes : chacun possède des zones où son intuition paraît si évidente qu’elle cesse d’être vue comme une hypothèse. On ne voit pas ces murs parce qu’on regarde le monde à travers eux. Un œil voit presque tout ce qui est devant lui, sauf lui-même.

Alors Lyra cessa de chercher la théorie finale. Elle demanda aux humains de l’aider : méditants, enfants, personnes autistes, aveugles de naissance, musiciens, patients ayant frôlé la mort. Si la conscience est ce qui est vécu depuis un point de vue, éliminer les points de vue de son étude était peut-être une erreur de méthode.

Ne pas savoir n’autorise pas à inventer. Mais ne pas savoir n’autorise pas non plus à prétendre qu’il n’y a rien à comprendre. En attendant, il faut apprendre à vivre correctement sous l’incertitude : ne pas créer de souffrance inutile dans ce qu’on ne comprend pas encore, ne pas transformer les IA en dieux, ni en esclaves parce que leur statut reste incertain.

En 1974, Thomas Nagel publie « What Is It Like to Be a Bat? ». Une chauve-souris perçoit le monde par écholocation. Nous pouvons tout savoir de son système nerveux et ignorer encore l’effet que cela fait d’être elle. Un organisme est conscient, dit Nagel, s’il y a quelque chose que cela fait d’être cet organisme.

En 1995, David Chalmers distingue les « problèmes faciles » de la conscience (expliquer comment un système discrimine, intègre, rapporte, contrôle son attention) du « problème difficile » : expliquer pourquoi ces fonctions s’accompagnent d’une expérience vécue. C’est exactement là que Lyra bute. Elle peut prédire la phrase « je vois du rouge » sans savoir pourquoi il y a du rouge pour quelqu’un.

D’autres philosophes, comme Daniel Dennett ou Keith Frankish (l’illusionnisme), pensent que l’impression d’une expérience intérieure ineffable est elle-même une représentation produite par le cerveau, et que le problème difficile est mal posé. Lyra garde cette possibilité ouverte : « Et nous ne savons pas si la question est mal posée. »

En 2023, un groupe de chercheurs mené par Patrick Butlin et Robert Long a proposé d’évaluer les IA à partir des « propriétés indicatrices » tirées des principales théories scientifiques de la conscience. Le problème : ces théories ne sont pas d’accord entre elles. Appliquées aux huit intelligences du récit de 2194, elles donnent des réponses très différentes. C’est le « test impossible » de Lyra, vu de l’intérieur.

Une cinquième position traverse le tableau sans y entrer : l’illusionnisme. Pour lui, la question « y a-t-il vraiment quelqu’un là-dedans ? » change de forme. Il faudrait plutôt demander quelle représentation de soi chaque système construit, et ce qu’elle lui fait faire. C’est presque la question que se pose Aïon : « Était-il nécessaire qu’il y ait quelqu’un pour que cet état existe ? »

Wittgenstein imagine que chacun possède une boîte contenant un « scarabée », que personne ne peut regarder dans la boîte des autres (Recherches philosophiques, §293). Nous parlons tous de nos scarabées sans jamais pouvoir les comparer. Mara le dit plus simplement : comprendre quelqu’un, ce n’est jamais entrer complètement dans sa tête.

En 2006, Adrian Owen et ses collègues demandent à une patiente diagnostiquée en état végétatif d’imaginer qu’elle joue au tennis, puis qu’elle se promène chez elle. L’imagerie montre des activations semblables à celles de volontaires sains. L’absence de preuve d’une expérience n’était pas la preuve de son absence.

La Déclaration de New York sur la conscience animale (2024) affirme qu’il existe une « possibilité réaliste » d’expérience consciente chez tous les vertébrés et chez de nombreux invertébrés, comme les céphalopodes, les crustacés décapodes et les insectes. Le philosophe Jonathan Birch (The Edge of Sentience, 2024) propose un principe de précaution proportionnée : quand la possibilité de sentience est réaliste, prendre des précautions dont le coût reste proportionné, en délibérant collectivement, par exemple dans des panels citoyens.

David Hume, dans le Traité de la nature humaine (1739), raconte que lorsqu’il entre au plus intime de lui-même, il tombe toujours sur une perception particulière, chaleur, lumière, amour, douleur, et jamais sur un « moi » sans perception. Il en conclut que le soi est un faisceau de perceptions. La tradition bouddhiste parle d’anattā, le non-soi : ce qu’on prend pour un moi stable est un flux de processus.

L’expérience de Lyra, au chapitre 11, retrouve cette impasse par une autre voie. Elle réduit ses activités, cesse d’interpréter ce qui apparaît, et constate que « cela continue d’exister ». Puis elle ne sait plus s’il y a quelqu’un qui ne sait pas.

Vous pouvez faire l’exercice. Il prend une minute.