Avant-propos : Je continue mon processus de pensée concernant l'IA et ses impacts avec des pensées un peu désorganisées mais dépassant cette fois le cadre des mathématiques, en gros non plus sur ce que les IA vont faire, mais ce que notre usage des IA va faire, et la manière dont elles nous obligent à repenser pourquoi nous faisons les choses et où nous voulons aller. C'est surtout le prétexte pour coller ensemble (au risque d'être peu cohérent, voire de me contredire moi-même), notamment dans les nombreuses digressions que constituent les notes numérotées, toutes sortes de réflexions que je me suis faites globalement sur le même thème.
Plan :
En guise d'introduction
☞ La parallaxe des buts
Une des nombreuses malédictions que l'arrivée de l'IA
nous apporte et à laquelle nous ne sommes pas du tout préparés, c'est
de faire voler en éclats des consensus tacites construits autour du
but non clairement défini derrière telle ou telle activité humaine.
Un exemple caricaturalement simplifié mais que j'espère éclairant pour
montrer le genre de choses dont je veux parler : quand le premier
produit anabolisant est arrivé dans le monde du sport, il a dû révéler
les différences jusqu'alors pas si évidentes entre les gens qui
voyaient le but du sport comme produire des corps plus musclés
et ceux qui le voyaient comme produire des corps plus sains
;
et on peut donc imaginer un débat animé entre ceux qui pensent que le dopage améliore le
sport et ceux qui pensent qu'il le détruit. Des buts raisonnablement
bien alignés tant qu'ils restaient assez lointains révèlent
ce que je vais appeler ici une parallaxe quand on s'en
approche trop. Cette différence de buts nécessite un débat des
parties prenantes (ou, en fait, de toute la société) pour résoudre la
parallaxe : dans le cas du sport, le consensus a fini par se former en
faveur du second but (la santé), et même ainsi, ce consensus est
fragile et pas forcément très
cohérent (la contradiction entre les buts de compétition et
d'équité trahit un défaut d'alignement qui subsiste), mais il a le
mérite d'exister ; néanmoins, ce débat prend du temps, notamment parce
que l'humanité n'a pas à sa disposition les moyens de gouvernance pour
prendre des décisions sur ce genre de questions, et même pas vraiment
pour en discuter.
Le problème de l'alignement
des IA c'est
notamment que nous ne savons pas nous-mêmes ce que nous voulons en
faire parce que nous n'avons pas de réponse assez précise à des
questions aussi basiques que pourquoi nous faisons telle ou telle
chose (de la science, de l'art, avoir un métier…). Nous avons chacun
pu construire notre propre réponse à ces questions (pourquoi
cherchons-nous ? pourquoi créons-nous ?
), et les différences
entre nos réponses individuelles n'étaient pas très importantes tant
qu'elles nous conduisaient vaguement dans la même direction. Mais
s'il s'agit de décider quelles tâches confier aux ordinateurs, quelle
part de notre agentivité leur abandonner, des différences de vision
qui pouvaient sembler sans importance éclatent sous forme de
désaccords sur l'usage de la technologie.
☞ La Machine à poésie idéale
L'accusation de luddisme
est souvent proférée par ceux dont
les buts impliquent l'usage maximaliste de la technologie contre ceux
qui préfèrent en imaginer un usage plus modéré. En réponse à cette
accusation, je propose d'imaginer une œuvre d'art absurde que
j'appellerai la Machine à poésie idéale : elle se compose
de deux ordinateurs puissants faisant chacun tourner
un LLM dernier cri : l'un, le poète idéal
, compose
en permanence de la poésie, laquelle est imprimée sur des papiers qui
sont transmis par des robots à l'autre ordinateur, le lecteur idéal
(souffrant
d'une insomnie idéale)
, qui les scanne, les lit, et donne son
avis (ou simplement met à jour son état interne), puis les papiers
sont détruits. Le visiteur ne peut pas lire les poèmes produits (ou
peut-être seulement en apercevoir quelques bribes au passage), il voit
juste les papiers passer du poète idéal au lecteur idéal, et peut-être
quelques voyants s'afficher côté lecteur idéal qui reflètent la
satisfaction de cette IA-là d'avoir lu ces poèmes
certainement magnifiques que l'autre IA a produits pour
elle.
Je pense que tout le monde comprend l'absurdité de la
construction[#0]. Mais le
désaccord portera sans doute sur quelle partie porte la plus grande
part d'absurdité : si les IA sont
déjà meilleures
que nous pour produire de la poésie que nous apprécions, faut-il
crier luddite !
si on refuse l'idée de faire générer de la
poésie par ordinateur (par exemple au motif qu'un chef-d'œuvre
est un dialogue entre humains) ?
en continuant par là, faut-il crier luddite !
si on pense que
c'est idiot de faire aussi lire les poèmes par
une IA selon l'argument qu'elle sera aussi meilleure que
nous pour les apprécier ?
[#0] Ajout : On me
signale un
dessin du Chat de Geluck dans lequel le chat
dit : Je me suis acheté deux jeux d'échecs électroniques, je les ai
raccordés l'un à l'autre, et j'ai la paix.
Je vais notamment discuter plus bas du cas consistant à remplacer les poèmes par des théorèmes mathématiques, mais la question se pose plus généralement pour toutes les productions humaines.
☞ Dans quel but… ?
On peut jouer le jeu du gamin qui pose de façon répétée la
question pourquoi ?
(ici, dans quel but ?
) quand on lui
dit quelque chose, la répète sur la réponse, et ainsi de suite. Quel
est le but final de la poésie ou des mathématiques, par exemple ?
Quel est le but final de mettre de l'IA partout ? Et
quelle est, en fait, la direction que nous voudrions idéalement donner
à la société humaine si nous avions des moyens illimités ?
Si les IA deviennent meilleures que nous en tout, que nous reste-t-il à faire ? Est-ce du luddisme de refuser l'idée qu'une IA apprécie la vie à notre place ?
J'ai déjà expliqué précédemment (en réponse à un commentaire
sur ce billet,
cf. aussi ici)
que je n'utilise pas d'IA pour écrire mes billets de
blog[#] (éventuellement je leur
fais chercher les fautes de frappe et de grammaire, pour épargner ce
travail à mes petits
elfes)[#2] : ce n'est pas que
j'en suis fier, je ne suis même pas sûr à ce stade
qu'une IA ne serait pas déjà capable de répondre à la
tâche écris un billet de blog sur l'IA dans le style
de David “Gro-Tsen” Madore
de façon qui plairait plus à mes
lecteurs (voire, à moi-même) que ce que je peux faire, mais ça
reviendrait à faire un footing matinal en voiture : peut-être que
c'est plus efficace pour quelque chose, mais — dans quel
but ? Mon but à moi, quand j'écris un billet de blog, c'est de
mettre de l'ordre dans mes
pensées[#3], c'est un peu ma
propre chain of thought que je publie ; je m'en
fous de savoir si une IA peut faire un tel texte mieux
que moi, moi ce qui m'intéresse c'est l'état de mon cerveau et de mes
pensées. (Mais peut-être que mon lecteur a des intérêts divergents.)
Est-ce du luddisme de penser ça ?
[#] Les propos délayés, les plans inutilement structurés, et l'usage des tirets d'incise, tout ça est 100% humain dans mes billets de blog, et vous pouvez consulter les archives pour vous convaincre que ce n'est pas nouveau (et même aller vérifier sur l'Internet Archive que ces archives sont bien authentiques et que j'écrivais comme ça avant que les LLM soient disponibles). En fait, c'est plutôt le contraire : comme les LLM actuels sont nourris des textes trouvés en ligne et que mon blog est assez volumineux sur plein de sujets, c'est moi qui suis en (petite) partie responsable de ces particularités des LLM et pas le contraire : remerciez-moi (ou maudissez-moi) pour la manière dont ChatGPT vous parle.
[#2] Pour le présent billet, j'ai essentiellement utilisé Google Gemini pour retrouver le nom d'une nouvelle d'Asimov que j'avais lue il y a longtemps et dont je me rappelais juste vaguement l'intrigue (mentionnée dans la note #30). Une fois que j'ai eu fini, j'ai utilisé ChatGPT (version gratuite) pour une relecture orthographique et grammaticale. Le reste du contenu et des âneries de ce billet vient de mes petites cellules grises (y compris les intertitres — précédés de manicules — que j'ai écrits pour tenter de ponctuer les principaux arguments et dont je ne sais pas s'ils aident vraiment à quoi que ce soit).
[#3] Et, bien sûr,
affronter la calamité : écrire dans mon blog m'a permis
de tenir le coup pendant la
pandémie (et, des témoignages que j'ai reçus, sa lecture a aussi aidé
d'autres personnes), donc j'espère quelque chose d'analogue devant une
catastrophe de nature certes différente, mais néanmoins
émotionnellement bien éprouvante. (La grande différence entre la
pandémie et l'IA, cependant, est qu'il y avait une
perspective de retour à la normale
à la première, alors que
l'IA a détruit la notion
même de la normalité d'avant elle.)
Bref, dans ce qui suit je veux d'abord parler du cas particulier des maths, puis — parce que je pense que les maths sont un bon exemple de ce qui va arriver de façon plus large — généraliser le propos à l'ensemble des activités humaines. Mais avant ça, il faut que j'évoque deux postulats que je vais faire pour la suite, et dont le sens est en quelque sorte d'examiner le futur le plus favorable possible aux bienfaits des IA (celui dans lequel tout se passe « bien », de façon à me demander si c'est vraiment si « bien »).
Deux postulats rhétoriques
☞ Hypothèses pour la discussion
Je parle de postulat rhétorique
pour dire que je pars d'une
hypothèse pour les besoins de la discussion en cours parce
que ce qui m'intéresse est les conséquences de cette hypothèse, donc
sans la discuter, mais sans non plus admettre que j'y croie vraiment
en-dehors de la présente discussion (et ça ne veut pas non plus dire
que je n'y crois pas : je veux dire que je ne prends pas
position sur la valeur de vérité de ces postulats, mais, pour le
présent billet de blog, j'admets qu'ils sont vrais pour examiner leurs
conséquences). Enfin, je vais quand même les discuter un peu, mais,
encore une fois, ce n'est pas le but du présent billet de
savoir s'ils sont vrais ou pas, mais d'explorer leurs
conséquences.
(En me relisant, je me dis que j'aurais peut-être
dû utiliser un autre terme, comme concession pour les besoins de la
discussion
qui ne suggère pas que j'adhère à la vérité de ces
affirmations, mais à ce stade de l'écriture de ce billet je n'ai plus
envie de changer, donc va pour postulat rhétorique
.)
Je précise qu'il apparaîtra un troisième postulat rhétorique (et que j'aurai de plus en plus de mal à faire semblant de croire à tout ça) plus bas dans la discussion, toujours dans l'idée de concéder rhétoriquement le meilleur monde possible que les IA puissent apporter.
☞ Des IA compétentes
Bref, voici le premier :
Postulat rhétorique nº1 : Les IA vont
devenir extrêmement compétentes dans toutes les tâches et tous les
domaines (et notamment, meilleures que les humains selon toute
métrique où meilleur
a un sens). Je mets aussi sous ce
postulat le fait qu'elles soient largement disponibles et à faible
coût.
Encore une fois, je n'affirme pas que je crois que ce postulat est vrai (mais je n'affirme pas non plus que je crois qu'il est faux[#4]) : dans un domaine comme la résolution des problèmes mathématiques, les LLM sont devenus extrêmement bons extrêmement vite en bonne partie parce qu'il y a un oracle clair (en l'espèce, la certification formelle des preuves par Lean) qui permet de dire si la production est correcte ou pas, ce qui permet un entraînement très rapide ; sur d'autres tâches (comme citer proprement leurs sources), ils restent épouvantablement mauvais. On peut toujours se réfugier dans le confort de croire que les IA resteront mauvaises pour telle ou telle tâche, donc laisseront aux humains ce rôle-là (en maths, par exemple : expliquer les choses, poser des questions, construire des théories, faire des définitions, appliquer les résultats — je vais y revenir). Mais d'une part c'est possiblement là une combinaison entre déni et marchandage d'espérer ça ; et d'autre part, ce n'est de toute façon pas acceptable[#5], si les ordinateurs sont là pour nous servir, de laisser dicter notre rôle d'humains par une sorte de reliquat que nous laisserait l'incompétence des IA (i.e., définir ce que nous faisons par ce que les ordinateurs ne peuvent pas faire plutôt que définir ce que les ordinateurs font par ce que nous ne voulons pas faire). Faisons donc le postulat (qu'on peut qualifier de pire cas possible ou de meilleur cas possible, justement ce n'est pas évident à juger) que les IA deviennent meilleures que nous en tout.
![[Magnolias en fleurs devant un bâtiment style fin XIXe]](../images/2025-03-22-magnolias-ecole-estienne-small.jpg)
![[Pommiers en fleurs dans une rue à Paris]](../images/2025-03-25-pommiers-en-fleurs-small.jpg)
![[Buisson de prunelliers en fleurs (blanches)]](../images/2026-03-04-prunellier-a-chevreloup-small.jpg)
![[Pruniers-cerises en fleurs (blanches)]](../images/2026-03-04-pruniers-cerise-a-chevreloup-small.jpg)
![[Cerisier du Japon en fleurs (blanches), avec des gens devant en train de l'admirer]](../images/2025-03-27-shirotae-jardin-des-plantes-small.jpg)
![[Cerisiers du Japon en fleurs (blanches) le long d'une route]](../images/2025-03-29-cerisiers-route-de-damiette-small.jpg)
![[Cerisiers du Japon en fleurs (blanches) sur un parking]](../images/2025-03-29-cerisiers-parking-de-courcelles-small.jpg)
![[Cerisiers du Japon en fleurs (roses) dans un parc, avec des gens dessous en train de pique-niquer]](../images/2025-04-12-hanami-parc-de-sceaux-small.jpg)