ChatGPT est mon ami

Cette semaine, j’ai communiqué avec le système qui fait trembler le monde, ChatGPT, dans lequel Microsoft aurait investi plus de 10 milliards de dollars. Est-ce que j’y vois un problème ? Pas vraiment. Je l’ai trouvé très efficace et très plaisant. Et je crois que nous critiquons ces systèmes parce que nous n’aimons pas l’image qu’ils nous renvoient de nous-mêmes.

C’est la dernière inquiétude à la mode : ChatGPT va tout emporter. L’université traque ses étudiants, la presse et les fournisseurs de contenus en général voient leurs jours comptés, les professionnels du juridique se demandent comment survivre, les télévendeurs font leurs cartons… Deux menaces sont citées par les adversaires de ces nouveaux langages, qui permettent de communiquer de manière presque naturelle avec une intelligence dite artificielle.

D’abord, des dizaines de professions vont disparaître, incapables de lutter contre un système surpuissant, connecté à des bases de données inimaginables, et en pluscapable de vous fournir les informations de manière claire, cohérente et synthétique. ChatGPT s’ajoute en cela à plein d’autres créateurs « artificiels » de contenus : par exemple, les professionnels de l’image ont des raisons de s’inquiéter de la déferlante de systèmes produisant gratuitement des images ou des vidéos de haute qualité. 

La seconde menace est plus floue, mais inquiète beaucoup de personnes : bientôt ces nouvelles formes électroniques d’intelligence pourraient dépasser l’intelligence humaine, qui deviendrait inutile, obsolète, sans intérêt. Nous ne serons plus que des légumes, posés devant des écrans dont nous ne choisirons même plus les contenus, puisque l’IA le fait mieux que nous. Et nous ne parlerons plus à nos congénères, puisque, là encore, il sera plus intéressant et plus agréable de le faire avec ces machines (avec ou sans avatar).

Vieilles angoisses

Ce genre d’angoisse n’est pas nouveau, elles reviennent à chaque progrès technique. Peut-être que la prochaine révolution créera une vraie rupture ontologique, pour l’instant je n’y vois que la dernière évolution dans l’histoire des automates.

Au XVIII^ème siècle, ces machines avaient connu un succès phénoménal, avec certains passés à la postérité : le canard de Vaucanson, qui pouvait se déplacer, nager, cancaner et « digérer » comme un vrai canard ; ou la joueuse de tympanon créée par Kintzing, et achetée par la reine Marie-Antoinette. A l’époque certains constatent que « dans leur spécialité respective, les automates paraissent en mesure de rivaliser avec l’homme et de le supplanter (…) en l’imitant dans ce qu’il a de propre (musique ou écriture), sans en avoir les inconvénients ni les défauts (fatigue, changements d’humeur). (…) Mais jamais l’automate n’excède son programme, ne s’écarte de la route qu’on lui a tracée (…). »[1]

… Pour l’instant. Car selon John Cohen[2], « I’histoire des automates révèle la dualité du perpétuel effort humain » : obtenir d’une part « la maîtrise technique » de notre environnement, et se faire « semblable à un dieu » avec des créatures quasi humaines, dépassant de la sorte et la matière et sa propre condition. Dans la littérature, les histoires de Frankenstein de Marie Shelley ou du Château des Carpathes de Jules Verne mettent en scène la risque tragique de ces créatures aux apparences trop humaines. Plus près de nous, j’ai eu la trouille de ma vie quand, dans le film 2001, l’ordinateur Hal 9000 refuse l’accès au vaisseau spatial à l’humain Frank Poole.

Face aux dernières avancées de l’IA, peut-être que d’une certaine manière, nous rééditons ces vieilles peurs.

Je crois que nous y voyons une menace contre l’élément le plus fondamental de notre humanité : la raison, siège de l’intelligence, de la décision et donc de notre liberté. Notre culture occidentale est profondément construite sur cette image d’une raison « aux commandes » : dans le Phèdre, Platon décrit l’âme comme un char ailé, tiré par deux chevaux (passions pures et impures) et dont le cocher est justement la raison. Quelques siècles plus tard, Descartes proclamera « je pense, donc je suis », et son contemporain Pascal lancera « l’homme est un roseau, le plus faible de la nature, mais c’est un roseau pensant. »

Nous sommes un animal assez mal doté d’un point de vue physique… mais nous sommes capables de penser. Si une machine nous défait de cette capacité supérieure… pas étonnant que nous nous inquiétions.

De quelle intelligence parle-t-on ?

J’ai réfléchi à trois éléments qui me semblent nous « protéger » pour l’instant face à l’intelligence électronique : la curiosité, l’originalité et l’émerveillement. Peut-être que je me plante complètement – en tous cas voici les trois raisons pour lesquelles je vois ChatGPT comme un outil de plus, pas du tout une menace.

. La curiosité

Par construction, une machine n’est pas curieuse. ChatGPT ne vous pose pas de questions. C’est vous qui lui en posez. Et d’ailleurs la machine vous encourage à le faire : quand je lui ai demandé « est-ce qu’il y a des questions bêtes », le robot m’a répondu « poser des questions est un excellent moyen de progresser et de se développer. Alors n’hésitez pas à poser toutes les questions qui vous viennent à l’esprit ! »

Muchas gracias.

La curiosité ne se limite pas à poser des questions – il faut ensuite vérifier les réponses. Non pas pour « chercher la petite bête » et mettre l’autre en défaut ! Ça n’est plus de la curiosité, c’est de la compétition. Aller à la source, aux sources, c’est le moyen pour ouvrir des portes, créer des connections, aller plus loin que la réponse en 10 lignes.

S’arrêter à la première réponse, c’est s’informer. Aller aux sources, c’est découvrir. En allant dans le détail des références, des pensées, des informations de « premier niveau », nous « frottons » nos neurones à d’autres intelligences humaines, et c’est ainsi que se produisent de nouvelles étincelles, originales.

Quand j’étais au lycée, certains de mes copains préféraient lire le « Profil d’une œuvre » plutôt que de se fader le roman complet. Moi j’étais partisan de faire les deux. Le « Profil » pour retrouver le plan du bouquin, les noms des personnages, des détails dans la bio de l’auteur… Et le livre lui-même pour profiter de l’histoire.

Aujourd’hui, quand je lis des résumés de bouquins, c’est pour avoir une idée de ce qu’il y a dedans avant de perdre de l’argent et du temps. La société Blinkist a construit un succès mondial en vendant des résumés top niveau de plus de 5000 bouquins. Est-ce que c’est une menace pour notre intelligence ? Pas plus que Wikipedia. Ce sont des outils pour s’orienter. Après, ceux qui décident de rester sur la carte au lieu d’aller voir à quoi ça ressemble en vrai et de se faire des idées neuves, c’est leur choix.

. L’originalité

La machine n’est pas originale, c’est elle-même qui le dit.

« En tant qu’IA, mes réponses sont générées à partir d’algorithmes et de modèles de langage entraînés sur des ensembles de données massifs. Bien que mes réponses puissent sembler originales, elles sont en fait basées sur des modèles statistiques et des données d’entraînement. »

Quand j’ai demandé à mon copain ChatGPT quelles différences il voyait entre l’IA et l’intelligence humaine, il m’a eu l’air bien « carré » sur le sujet :

« L’une des principales supériorités de l’intelligence humaine par rapport à l’IA est sa capacité à être créative et à penser de manière divergente. Les êtres humains sont capables de produire des idées nouvelles et innovantes, de voir des modèles qui n’ont pas été vus auparavant et d’imaginer des solutions à des problèmes complexes en dehors des schémas établis. »

Encore une fois, l’IA nous indique des directions. Si nous n’allons pas creuser, pour faire quelque chose de neuf avec ces données, c’est notre responsabilité ! L’IA, c’est la caricature du mainstream, mot-à-mot de ce qui est dans le courant, on dirait chez nous « en vogue ». ChatGPT et ses cousins nous fournirons toujours la pensée moyenne. Diverger, ça veut dire ne pas se contenter de ce qui est « dans le vent », c’est l’utiliser, réfléchir, et même être d’accord parfois ! Mais en ayant fait le boulot.

Attention au piège de l’originalité… ça ne veut pas dire qu’il faut faire quelque chose de radicalement neuf ! Ça serait une drôle de vanité que de croire qu’il y a moyen d’avoir des idées sans point de contact avec tous ceux qui nous entourent, ni avec ceux qui nous ont précédé. L’originalité dont je parle, c’est celle de « c’est moi qui l’ai fait ». C’est valable pour une pensée, c’est valable pour la chaise d’un artisan. L’artisan a utilisé du bois comme ses confrères, et sa chaise a 4 pieds comme les autres. Et pourtant c’est sa chaise.

J’ai lu des articles où des professeurs disaient qu’ils repéraient les copies rédigées en utilisant ChatGPT parce qu’elles étaient « trop parfaites ». Drôle de reproche… Elles sont trop parfaites au sens de trop lisses, sans les aspérités d’une intelligence humaine qui se serait « frottée » à d’autres. Comme une chaise Ikea, un pavillon Phenix, ou un arbre en pépinière. C’est parfait, au sens de parfaitement aligné par rapport au modèle.

En même temps, je trouve gonflé de critiquer des élèves à qui on a demandé depuis des lustres de régurgiter des connaissances, de manière plus ou moins bien organisée. C’est valable depuis la première interrogation d’histoire jusqu’à la thèse d’Etat. Depuis quelques années, ils ont à disposition des outils remarquables qui font le job à leur place – pourquoi voudriez-vous qu’ils s’en privent ? Le gars a marché toute sa vie derrière son âne, voit passer un jeune avec un camion et lui jette des pierres !

Les profs, les entreprises, les journaux, tous les producteurs (au sens cinématographique du mot) de contenus n’ont qu’à trouver comment favoriser la pensée originale. Encore une fois, pas la pensée neuve. Mais une pensée « divergente », qui face à un problème va chercher des angles différents, des sources différentes, des images différentes, des points de vue différents…

Quand j’ai démarré comme stagiaire au Figaro, tous les matins je lisais des quotidiens dans trois autres langues. J’étais le seul à le faire. Forcément ! Sans idées de sujet vraiment différentes, je n’avais pas la moindre chance de passer un papier ! 

. L’émerveillement

Une machine, ça ne s’émerveille pas. De manière générale, ça n’a pas d’émotions. Elles font parfois semblant, pour nous faciliter la communication, mais jamais vous ne verrez une machine se ruer dans le bureau de sa voisine en faisant des bonds et en lui criant « non, mais t’as vu ça !?! » L’un des moteurs de notre intelligence, c’est le plaisir magnifique d’avoir pigé quelque chose, d’avoir connecté deux trucs qui étaient jusque-là sans rapport (pour nous). Je pense qu’Archimède a dû coller de la flotte partout dans sa salle de bains quand il a crié « Eurêka ». Parce que c’est tellement jouissif de faire « tilt ». Un petit « tilt » à la fin d’une page, un gros « tilt » à la fin d’un boulot de trois ans. Peu importe.

L’émerveillement, c’est ce qui remet de l’essence dans le moteur de notre curiosité. Retour à la case départ.

Je crois que si nous avons peur de ces systèmes, c’est que beaucoup d’entre nous ne sont plus assez curieux, n’ont pas assez envie de pondre des idées qui leur appartiennent, et sont bien trop blasés pour passer derrière le rideau de l’information toute cuite. Ça me paraît difficile de faire porter le chapeau à ChatGPT et à ses copains plein de puces. Mais c’est vrai que moi aussi j’insulte le marteau avec lequel je viens de m’écraser le doigt.

[1] Pierre Valin, « Le double jeu de l’automate », In: Quaderni, n°2, Automne 1987, Le jeu et le politique, p.49

[2] John Cohen, Les robots humains dans le mythe et dans la science, Paris, Vrin, 1968. Cité par Pierre Valin, op. cit., p. 47