Sans sous-estimer les performances techniques et le travail colossal qui ont permis la mise au point de ces « logiciels conversationnels », rappelons qu’ils fonctionnent sur un principe relativement simple. Ainsi, ChatGPT fabrique-t-il des textes mot après mot de telle manière que chacun d’entre eux soit suivi des occurrences statistiquement dominantes dans la gigantesque base de données identifiée par ses concepteurs (qui représente plus de 750 000 fois le volume de la Bible).

Il n’est donc pas étonnant qu’il ne fournisse aucune référence : la référence renvoie, en effet, à un discours particulier – qui tranche avec les autres et dont la force ou l’originalité en font une expression remarquable –, alors que ChatGPT comptabilise et utilise (en un temps record) les propos les plus répandus dans la masse des données disponibles, en lissant leur formulation selon les règles dominantes du « bon usage ».

On peut, bien sûr, s’amuser à mettre ChatGPT en difficulté, voire en échec, en recherchant les questions dont la formulation (ambiguë ou contradictoire) produit des réponses absurdes. Mais, n’en doutons pas : cela ne découragera personne d’utiliser un outil dont l’efficacité, en matière de collecte d’informations et de rédaction, est stupéfiante.

Des textes « neutres » ?

On peut donc comprendre que certains professeurs craignent qu’il exonère leurs élèves ou leurs étudiants de travaux de recherche et d’écriture, voire compromette la possibilité de toute évaluation.

D’autres considèrent, à juste titre, que toute tentative d’interdiction en la matière restera vaine et préfèrent s’emparer de l’outil pour travailler avec leurs élèves ou leurs étudiants. Ils leur apprennent à poser des questions sous différentes formes pour comparer les réponses ; ils font confronter ces réponses avec celles des manuels et encyclopédies. Ils les aident aussi à repérer, dans les textes obtenus, les glissements sémantiques qui induisent des malentendus et compromettent la validité du propos : tautologies, définitions génériques, affirmations tellement générales qu’elles n’ont plus de sens, liste de faux synonymes que le robot agrège quand il faudrait les distinguer, contradictions explicites ou implicites à quelques lignes de distance, utilisation systématique des stéréotypes dominants, euphémisation prudente par l’usage de locutions comme « il se peut » qui dédouanent de tout engagement, etc.

Ce travail, qui relève de la nécessaire formation à l’esprit critique, devrait être fait dans toutes les classes, de l’école primaire à l’université, et nul doute que les élèves et les étudiants en tireraient des bienfaits considérables : en termes de lucidité sur les productions de l’intelligence artificielle mais aussi en termes d’exigence pour leurs propres écrits.

Quand on le mène, les intéressés constatent, la plupart du temps, que le texte produit par le robot est « neutre » (c’est, d’ailleurs, une revendication du robot luimême !) : mais de quelle « neutralité » s’agit-il ?

En réalité, on découvre vite que le robot lisse toutes les aspérités, gomme les clivages ou les présente comme des oppositions formelles qui placent le lecteur dans la position de l’âne de Buridan. Il ne discerne pas les valeurs qui sous-tendent les différentes affirmations ou systèmes d’explication et qui nécessiteraient, pour être débusquées, la mise en oeuvre de ce que Jean Piaget nomme « l’abstraction réfléchissante » : l’identification de connaissances dont on décide délibérément de faire des objets de réflexion.

Car le passage de la multiplicité de connaissances informatives à l’interrogation de l’une d’entre elles requiert, tout à la fois, un choix qui implique la personne et un questionnement qui engage la personne : pourquoi cela m’interpelle-t-il ? Qu’est-ce que ce fait ou cette opinion révèlent ? Qu’est-ce que je peux en dire qui ne soit pas écrit à l’avance ?

Car, c’est bien là le critère : le robot fonctionne sur un implicite qui est au coeur de ses algorithmes et selon lequel la vérité est « le plus grand dénominateur commun » de tout ce qui est exprimé, sur un sujet défini, dans sa base de données.

Sa « neutralité » est donc illusoire : c’est la neutralité des lieux communs.

Et les lieux communs ne sont pas du tout « le commun » : les premiers renvoient à des régularités quantitatives (« ce qui est pensé par le plus grand nombre »), le second se construit en se demandant ce que nous pouvons penser ensemble pour dépasser la juxtaposition de nos points de vue individuels. Les premiers relèvent de données statistiques ; les seconds d’un travail de confrontation avec l’altérité qui nous permet d’accéder à ce qui nous rassemble au-delà – ou en deçà – de nos différences. Les premiers sont des « donnés » et on les constate ; les seconds requièrent un travail de confrontation au cours duquel chacun fait l’effort d’entendre ce que dit l’autre et de l’intégrer pour progresser avec lui vers quelque chose qui n’existe pas encore.

C’est pourquoi il est si important de travailler avec les élèves et étudiants sur le statut des textes produits par les robots conversationnels et de se demander avec eux : « Sur quoi nous informent-ils réellement et que peut-on en attendre ? » On découvrira alors que, loin de nous permettre d’entrer dans l’intelligence des tensions et la compréhension des conflits pour les dépasser, ils les occultent. Plus encore : ils nous entraînent vers l’identification mortifère de la qualité et de la conformité, écartant résolument, en raison de leur mode de fonctionnement lui-même, l’expression de singularités capables de se rencontrer – quitte à se heurter – pour élaborer ensemble ce qui peut les rassembler.

Un enjeu à la fois politique et pédagogique

On voit ici que l’usage du robot conversationnel nous interroge, à la fois et solidairement, sur le plan politique et sur le plan pédagogique.

Politiquement, il nous impose de renouer avec le sens profond de la délibération démocratique. Cette dernière, en effet, n’a rien à voir avec un sondage ou même une enquête dans lesquels le résultat préexiste à une démarche qui ne fait que le recueillir.

La démocratie, au contraire, c’est la confrontation assumée des points de vue et des propositions pour « sortir par le haut » et – loin de toute « moyenne » préexistante – ouvrir des perspectives, voire construire des solutions, qui n’existaient pas auparavant et que seul un débat, dès lors qu’il est conduit avec le souci de n’exclure rien ni personne du cercle de ses préoccupations, a permis d’imaginer.

Être démocrate, c’est affirmer ainsi simultanément :

1) que tous les points de vue individuels ou partiels sont légitimes – il n’est donc pas question de leur interdire de s’exprimer – mais

2) que l’intérêt collectif – qu’on peut nommer le « bien commun » dès lors que le collectif s’entend comme la prise en compte de tous les humains et du monde dans son ensemble – n’est pas réductible à la somme ou la moyenne de ces derniers : il se construit patiemment par un travail de dépassement des intérêts individuels.

La démocratie, ce n’est nullement, en effet, la dictature des sondages, c’est le pari – peut-être insensé mais terriblement nécessaire pour nous laisser espérer une société apaisée – que les humains qui délibèrent ne sont pas des robots conversationnels qui calculent des moyennes ou s’en remettent à des rapports de force, mais des êtres qui s’engagent ensemble à trouver des solutions nouvelles…

C’est pourquoi la pédagogie est si nécessaire à la démocratie : elle est ce travail, lent et patient, par lequel les adultes aident les enfants et les adolescents à se dégager de leur narcissisme et à renoncer au fantasme de la toute-puissance pour entrer en relation avec les autres et apprendre à « faire société ». Elle permet de découvrir que les autres existent aussi et que chacun et chacune peut engager avec eux une interlocution dont les résultats sont toujours radicalement imprévisibles puisqu’ils ne sont pas « calculés » par une quelconque machine mais créés par un engagement de toutes et tous qui se renouvelle à tout instant et relève, à proprement parler, de l’incalculable.

L’émergence des robots conversationnels appelle donc à un surcroît de formation à la démocratie : une formation qui articule systématiquement l’aide à l’émergence de singularités capables de « penser par elles-mêmes » et la capacité à construire ensemble du commun.

L’évaluation à reconstruire

C’est pour cela que les robots conversationnels remettent si fortement en question la nature et le statut des évaluations scolaires et universitaires. Si le critère de ces dernières est la conformité à une norme qui interdit ou écarte – en les considérant comme des défauts à éliminer ou des scories à faire disparaître – toute expression singulière, il est clair que les enseignants doivent s’inquiéter : la tentation existera toujours, en effet, de faire appel à la machine car elle est évidemment, dans ce domaine, beaucoup plus performante que l’humain. Elle n’a aucun mal, en effet, à se conformer à une norme impersonnelle puisque, précisément, elle est construite pour éliminer toute singularité. À cet égard, les écrits tâtonnants de nos élèves et étudiants ne pourront jamais rivaliser avec elle.

Il faudra donc, partout où cela n’est pas encore fait, changer complètement de paradigme : ne plus évaluer sur la conformité à un modèle standardisé impersonnel, mais évaluer sur un double critère : celui de l’originalité et celui de l’intériorisation par les élèves et étudiants de l’exigence de précision, de justesse et de vérité. Deux critères solidaires : sans le premier – l’originalité –, c’est le robot et la mécanisation de l’humain qui l’emportent, sans le second – l’exigence –, l’originalité aboutit à l’impossibilité de toute communication et, à terme, à l’atomisation d’une société réduite au mouvement brownien de sujets solipsistes dans un bocal hermétique.

C’est pourquoi il est particulièrement intéressant d’utiliser les robots conversationnels pour faire émerger de la singularité à partir de la norme : on peut ainsi leur faire produire des brouillons à compléter et personnaliser, ou encore à traduire sous d’autres formes textuelles, graphiques ou visuelles.

On articule alors le souci d’une collecte d’informations pour laquelle les robots sont très efficaces (d’autant plus quand on utilise ceux qui formulent automatiquement de nouvelles questions permettant d’approfondir leurs réponses) avec une écriture singulière qui se ressaisit de ces informations, les réinscrit dans un récit ou un texte, leur donne vie, de manière certes moins parfaite – en réalité, moins « lisse » – que le robot, mais qui témoigne d’une démarche engagée, d’une construction personnelle nourrie par un souci d’aller toujours plus loin, vers toujours plus d’exigence, en quête sans cesse de nouveaux approfondissements, et que jamais ne pourra combler une quelconque machine, même dotée d’une mémoire infinie.

Désir de savoir et désir d’apprendre

Car, n’en doutons pas : le danger majeur des robots conversationnels n’est donc pas dans la fraude qu’ils autoriseraient mais bien plutôt dans le rapport aux connaissances qu’ils promeuvent.

En effet, conçus pour donner le sentiment de parler à un humain (l’élève qui l’utilise peut croire dialoguer avec un professeur), ils inversent en réalité complètement le sens de la relation pédagogique maître-élève : cette dernière, en effet, ne renvoie pas à un simple échange de connaissances qui passeraient, en classe, d’un cerveau à un autre, elle est porteuse d’un « appel d’air », d’une invitation à ne jamais se satisfaire de ce qui nous est donné et de se mettre en marche pour aller soi-même toujours plus loin afin, que comme l’expliquait Jean Jaurès dans son célèbre « Discours sur le Laïque », l’élève « découvre toujours une chose à expliquer sous la chose expliquée. Comme l’onde sous l’onde en une mer sans fond. » (2)

Voilà l’enjeu essentiel à nos yeux : bien plus encore que les traditionnels moteurs de recherche, les robots conversationnels comblent, en effet, le désir de savoir et tuent le désir d’apprendre. Ils donnent des réponses immédiates « objectives » et abolissent ainsi la dynamique du questionnement. Ils produisent des certitudes qui enkystent la pensée… Tout le contraire ce qui incombe au professeur : susciter des interrogations pour libérer des préjugés.

Or, plus que jamais, au temps du matraquage publicitaire, des réseaux sociaux, des slogans populistes et des théories du complot, il importe de déverrouiller l’esprit de nos élèves et de nos étudiants. Comme le disait le pédagogue Fernand Oury, « il est temps de donner aux enfants d’aujourd’hui ce qui leur manque le plus : le manque. » Il n’y a point ici, évidemment, un éloge de la pauvreté : trop d’enfants et d’adolescents ne disposent pas des conditions matérielles indispensables pour effectuer sereinement leur scolarité. Fernand Oury évoque un autre manque : trop d’entre eux, en effet, sont dans le trop-plein, enfermés dans des opinions et des croyances qui sont devenues, pour eux, des marqueurs identitaires.

Inutile donc, pour les professeurs, de tenter de concurrencer les robots conversationnels en comblant leurs élèves et étudiants de connaissances dont ils se croient déjà comblés.

Au mieux, ces nouvelles certitudes viendront se juxtaposer à celles qui étaient déjà là. Au pire, elles seront vécues comme de dangereuses menaces. L’essentiel est bien plutôt de leur faire découvrir les vertus du manque où s’origine le désir d’apprendre.

Et cette découverte n’est possible que dans la rencontre d’un savoir vivant, habité, dans son énonciation même, par une exigence tâtonnante qui assume son humanité, avec sa part de questionnement et de doute, ses inquiétudes et ses hésitations, sa quête d’intelligibilité et de justesse à la fois.

Équilibre difficile, en effet, entre le souci de se faire comprendre et celui d’être au plus près de la vérité. Équilibre jamais donné à l’avance et qui se construit dans un engagement lucide et déterminé associé à une attention constante aux personnes dans leur résistance-même à l’enseignement qu’on leur prodigue. Équilibre que seul un humain en situation peut parvenir à incarner et dont il peut témoigner auprès d’autres humains.

Un sujet, en effet, ne s’engage dans les apprentissages que s’il rencontre un savoir qui ne s’impose pas comme un dogme mais s’offre comme un chemin, un chemin qui laisse entrevoir bien plus de promesses de satisfactions futures que les certitudes du présent.

Ce savoir, c’est celui du professeur, bien sûr, dès lors qu’il sait en faire un objet de découverte collective dans la classe. Mais c’est aussi celui que nos élèves et étudiants peuvent rencontrer quand on les met en situation d’enquête et qu’on les envoie interroger l’artisan du quartier ou le fonctionnaire municipal, les anciens du village ou les scientifiques de l’université… avant de découvrir que les « pierres vives » sont aussi dans les bibliothèques.

Car c’est avec des paroles vivantes qu’ils pourront oser la leur et créer leurs propres écrits. Pour autant, bien sûr, qu’ils soient accompagnés rigoureusement dans leur démarche et qu’on leur fasse découvrir, tout au long de leur scolarité, des textes où entrevoir – à mille lieues des compilations anonymes des robots, même les plus performants – cette trace, inquiète et exigeante à la fois, qui signe la présence d’un être humain dont ils pourront dire, peut-être, « mon semblable, mon frère ».

Auteur : Philippe Meirieu, professeur émérite à l’université LUMIERE-Lyon 2

Conférence du 15 février en Lot-et-Garonne

(1) Voir, en particulier https://chat.bloombot.ai qui donne à voir comment fonctionne le robot et termine toute réponse par une question permettant un approfondissement.

(2) « Pour la Laïque », discours du citoyen Jaurès devant la chambre des députés française, janvier 1910. Jaurès cite, pour illustrer son propos, un vers de Victor Hugo. http://www.miscellanees.com/j/jaures01.htm

Ce texte a été publié dans la revue CEMEACTION ainsi que ans la revue CURSEURS (janvier 2024)