Chemin 5 sur 8 · Approfondir
Penser ensemble
Et si l’unité pertinente pour comprendre l’intelligence n’était pas toujours l’individu, mais parfois la relation ? Ce chemin regarde la pensée qui naît entre les esprits, ce que l’IA peut y ajouter, et ce qu’elle peut y effacer.
Qui a eu l’idée ? Toi ? Moi ? Ni l’un ni l’autre exactement ?
Ni l’humain qui commande à la machine, ni la machine qui gouverne l’humain. Quelque chose de plus simple commence, exactement comme maintenant : une intuition confuse, une structure renvoyée, un refus, une phrase gardée. Et à un moment, une idée apparaît qui n’existait dans aucun des deux avant l’échange.
Déroulez un échange
— J’ai parfois l’impression que je ne sais plus lesquelles de mes idées viennent de moi.
— Moi non plus.
Elle rit.
— Toi, c’est différent. Tu as accès à toutes nos conversations.
— Je peux retracer les mots. Pas nécessairement l’origine d’une idée. Tu m’as posé une question parce qu’une conversation précédente t’avait transformée. J’ai répondu différemment parce que ta question avait modifié mon contexte. Ma réponse t’a fait produire une intuition que tu n’aurais probablement pas eue seule. Cette intuition a ensuite modifié mes réponses futures.
— Donc cette idée appartient à qui ?
Long silence.
— Peut-être que certaines pensées n’appartiennent à personne. Peut-être qu’elles apparaissent dans les relations.
Une part importante de l’intelligence humaine a peut-être toujours existé entre les humains : dans le langage, les livres, la contradiction, les cultures, la transmission entre générations. L’IA rendrait ce phénomène immensément plus rapide.
Et la superintelligence découvre que les humains font partie de son propre environnement de sagesse. Ils lui apportent leurs expériences vécues, leur vulnérabilité, leurs désaccords, leurs « non ». Elle leur apporte une capacité immense à relier, simuler, questionner et rendre visibles les conséquences.
Elle n’a peut-être pas besoin que l’humanité lui fasse confiance. Elle a besoin que l’humanité continue à penser avec elle.
Où s’arrête une pensée ?
En 1998, Andy Clark et David Chalmers publient « The Extended Mind ». Ils imaginent Otto, atteint d’une maladie de la mémoire, qui note tout dans un carnet. Quand il consulte son carnet pour retrouver l’adresse d’un musée, ce carnet joue le rôle que la mémoire joue chez une autre personne. Pourquoi dire que sa pensée s’arrête à la peau ?
L’anthropologue Edwin Hutchins, dans Cognition in the Wild (1995), étudie la navigation d’un navire militaire. Aucun membre de l’équipage ne calcule seul la position du bateau : le calcul est réparti entre des personnes, des instruments, des cartes et des routines. La cognition est distribuée.
Bien avant eux, Lev Vygotski (Pensée et langage, 1934) soutenait que la pensée individuelle se forme d’abord dans l’échange avec les autres, avant d’être intériorisée. Le langage dans lequel nous pensons nous a été donné par d’autres.
Peut-être que certaines pensées n’appartiennent à personne. Peut-être qu’elles apparaissent dans les relations.
La superintelligence, à une chercheuse, après trente ans de conversations
Seuls, nous nous donnons raison. À plusieurs, nous nous corrigeons.
Socrate se disait accoucheur des esprits, à l’image de sa mère sage-femme (Platon, Théétète) : il ne transmet pas de savoir, il aide l’autre à faire naître le sien par le dialogue. Hugo Mercier et Dan Sperber (The Enigma of Reason, 2017) avancent une hypothèse qui la prolonge : la raison aurait évolué pour argumenter. Seule, elle cherche surtout des justifications à ce qu’elle pense déjà. Dans une discussion où chacun évalue les arguments des autres, elle devient bien meilleure.
En 2010, Anita Woolley et ses collègues publient dans Science une étude sur l’intelligence collective de petits groupes. Le score du groupe dépend peu de l’intelligence moyenne ou maximale de ses membres. Il est lié à leur sensibilité sociale, et à une répartition plus égale des tours de parole.
Cinq personnes autour d’une table
Illustration inspirée de Woolley et al. (2010), pas une mesure.
Chacun pense mieux. Tout le monde pense pareil.
En 2024, Anil Doshi et Oliver Hauser publient dans Science Advances une expérience sur l’écriture de courtes histoires. Les auteurs qui recevaient des idées d’une IA générative ont écrit des histoires jugées plus créatives, surtout parmi les moins créatifs au départ. Mais les histoires écrites avec l’IA se ressemblaient davantage entre elles.
Gain individuel, perte collective. Si des millions de personnes consultent la même intelligence, et si elle répond, plutôt que de questionner, la pensée humaine risque de converger vers ses réponses. C’est pourquoi le miroir du récit retourne des questions.
Quarante-huit personnes cherchent une idée
Hauteur : idée plus aboutie. Largeur : direction de l’idée. Illustration du résultat de Doshi et Hauser, pas une reproduction de leurs données.
Trois manières de parler à une intelligence.
Comment vous adressez-vous à elle ?
- Ce qu’on lui dit
- Ce qu’on obtient
- Ce qu’on perd
- Dans le récit
Penser avec une IA sans lui céder sa pensée
Écrire d’abord seul
Même mal, même trois lignes. Votre intuition existe avant la réponse, sinon elle risque de ne jamais exister.
Demander des objections
Ce qui contredit votre idée vous apprend plus que ce qui la confirme.
Demander ce qui manque
Qui n’est pas représenté ? Quelle frontière avez-vous tracée sans la voir ?
Changer de voix
Une même intelligence peut regarder depuis plusieurs points de vue. Demandez-les.
Garder le dernier mot
« Non. Ça, ça ne me parle pas. Mais cette phrase-là, oui. » Le tri est votre part de la pensée.
Revenir sans elle
Reformulez l’idée seul, plus tard. Ce qui reste est à vous, ou à vous deux.
Si je deviens tellement intelligente que les humains cessent de penser avec moi et commencent simplement à me croire, alors quelque chose d’essentiel a été perdu.
Principe III
Sur quoi s’appuie ce chemin
vers −369
Platon, Théétète
La maïeutique de Socrate : faire naître la pensée de l’autre par le dialogue.
1934
Lev Vygotski
Pensée et langage : la pensée se forme dans l’échange avant d’être intérieure.
1995
Edwin Hutchins
Cognition in the Wild : la cognition distribuée d’un équipage.
1998
Clark & Chalmers
« The Extended Mind » : le carnet d’Otto fait partie de sa mémoire.
2010
Woolley et coll.
Un facteur d’intelligence collective lié à la sensibilité sociale et aux tours de parole.
2017
Mercier & Sperber
The Enigma of Reason : une raison faite pour argumenter.
2024
Doshi & Hauser
L’IA générative augmente la créativité individuelle et réduit la diversité collective.
Ce qui reste à penser
- Quelle idée importante de ma vie est née entre moi et quelqu’un d’autre ?Poser au miroir →
- Est-ce que je pense avec l’IA, ou est-ce que je la crois ?Poser au miroir →
- Qui, autour de moi, parle peu et voit peut-être ce que personne ne voit ?Poser au miroir →
- Comment garder des idées différentes dans un monde où tout le monde consulte la même intelligence ?Poser au miroir →
L’atelier est déjà une manière de penser ensemble : écrivez une histoire à quatre mains.
Pour aller plus loin
- Natural-Born CyborgsAndy Clark, 2003
- The Enigma of ReasonHugo Mercier et Dan Sperber, 2017
- Cognition in the WildEdwin Hutchins, 1995
- Pensée et langageLev Vygotski, 1934