« L’homme n’est ni ange ni bête, et le malheur veut que qui veut faire l’ange fait la bête. » Cette maxime de Pascal trouve des résonances modernes notamment dans le contexte de l’éducation face à l’intelligence artificielle. 

Tout d’abord, l’être humain, « ni ange ni bête » est suspendu entre grandeur et misère. Les enseignants aspirent à la rigueur et la justice, mais demeurent soumis à la fatigue et aux préjugés. Les étudiants aimeraient toujours apprendre, évoluer au-dessus d’eux-mêmes, tout en restant soumis à la tentation du moindre effort, aux distractions, parfois à la fatuité. L’humain tient le milieu, ni résigné dans les tiédeurs du vice, ni capable d’incarner ce à quoi il aspire.

En découle que dans la même salle de classe, l’effort et la facilité s’assiéront toujours côte à côte. L’intelligence artificielle (IA) ne change pas la nature humaine – pas plus que l’imprimerie ou Internet en leur temps – elle la catalyse. La technologie est une pharmacologie disait Bernard Stiegler, tantôt remède tantôt poison. Outil pour apprendre, l’IA élève ; qui s’y repose s’abaisse. 

Ensuite, « qui veut faire l’ange fait la bête » : qui veut s’augmenter par la machine s’ampute de son humanité. C’est la rançon des études quand on cherche à optimiser la note en minimisant le travail cognitif. Il faut admettre qu’il soit tentant de confier à une IA générative (IAg) le soin de faire (pas seulement de penser) à la place du cerveau.

On croit produire un devoir éthéré, meilleur que celui que l’on aurait produit seul. Mais sous les apparences, la compréhension, la pensée, et une part de notre humanité, sont sacrifiées. Plus l’IAg sera habile, plus l’enseignant sera dupé, plus cette paresse cognitive sera récompensée. Les années passant, derrière une prétentieuse façade de bons résultats se creusera la déchéance de certains étudiants. Ce que Pascal nous suggère, c’est qu’en fantasmant le dépassement facile de soi, on s’expose à un lent appauvrissement intérieur. 

Enfin, Pascal ajoute que c’est « le malheur » qui le veut, autrement dit on se fait « bête » malgré soi, malmené par la mauvaise fortune. L’IAg promet des textes respectueux des consignes, sans faute, mais surtout sans effort. Pour une poignée de clics. On devine que la tentation puisse surpasser toute la bonne volonté du monde. Surtout quand l’échéance se rapproche. Le « malheur veut » que l’IAg soit si rapide, performante et persuasive. Le « malheur veut » qu’elle s’immisce partout, jusque dans la salle de classe. Le « malheur veut » qu’il faille plus d’énergie pour s’en détourner que pour s’y abandonner.

Dépossession progressive de soi

« Ce qu’on apprend sans peine, on l’oublie sans regret » (Alain, Propos sur l’éducation, 1932). La tentation d’éviter l’effort dans les études n’est pas née hier, en 2022, avec ChatGPT. En ce sens, la situation actuelle n’est pas une crise : il n’y a pas une rupture de tendance. Déjà dans le Phèdre, Socrate redoutait que l’écriture n’affaiblisse la mémoire vivante. En confiant au texte la charge de retenir, l’esprit risquait de perdre l’exercice intérieur du souvenir. L’imprimerie et Internet ont suscité les mêmes inquiétudes : externalisation, fragmentation, érosion du travail cognitif. 

Ainsi, les machines viennent réveiller une préoccupation aussi vieille que la civilisation : celle d’étudiants devenant sourds et aveugles à force de ne goûter à aucune connaissance ni à aucune recherche. « Ce n’est pas en donnant la vue à un aveugle qu’on le rendra clairvoyant », écrivait Platon. Ce n’est pas l’usage d’IA, aussi puissantes soient-elles, qui rendra quiconque intelligent, savant ou digne. 

Les dispositifs techniques jouent bien plus qu’un rôle d’auxiliaire dont on peut faire l’usage. Ils transforment l’être humain en modifiant les processus mêmes de la mémoire, de la perception et de l’attention. Dans Prendre soin (2008), Bernard Stiegler décortiquait les effets de la numérisation des savoirs et de la captation de l’attention.

Scroll infini, bulles de filtres, notifications, recommandations personnalisées, nous assistons à la fragmentation d’une vie de l’esprit, soumise aux impératifs marchands. Ces méthodes déloyales pour capter du temps de cerveau s’immiscent en éducation qui cherche moins à cultiver la capacité de l’esprit qu’à la laisser être absorbée. Selon la belle formule de Stiegler, ce qui était autrement acte de soin devient marchandise.

Regardons. Des formations express promettent des micro-apprentissages par tranches de 10 minutes ou vidéos de 60 secondes, avec la promesse d’apprendre vite, partout, sans effort. Des logiciels éducatifs (addictifs) s’efforcent de garder les élèves captifs en les bombardant de notifications et en cultivant la crainte de rater quelque chose (FOMO). Chaque clic est enregistré et utilisé pour maximiser l’engagement (le temps de connexion) des étudiants. Par exemple, des détecteurs de frustration peuvent zapper d’une activité à l’autre avant que l’étudiant ne semble s’ennuyer. 

Malheureusement, une éducation trop soucieuse de plaire finit par s’abîmer. On attend d’elle qu’elle forme l’esprit, non qu’elle divertisse. Elle s’efforce d’apprendre aux élèves à dépasser la lassitude, parce que l’essentiel est souvent austère au premier abord. « Le bon élève est celui qui surmonte les passages ennuyeux des grands livres », écrivait Bertrand Russell en 1962, « celui qui préfère l’objectif lointain aux plaisirs immédiats. »

Ô miroir mon beau miroir

Dans Technology and the Virtues (2016), puis dans AI Mirror (2024), Shannon Vallor affirme que les technologies ne sont pas neutres ; elles trahissent nos valeurs comme notre faiblesse de caractère. L’IA en particulier agit comme un miroir moral qui reflète ce que nous sommes (« ni ange ni bête »). Elle ne corrompt pas nos vertus ; elle en révèle la fragilité. 

Ce miroir déforme. Comme ces algorithmes de recommandation (YouTube, TikTok) qui renforcent nos goûts et croyances en s’alignant sur ce que nous pensons. Comme ces chatbots qui privilégient la perspective occidentale dans leurs réponses, par ignorance de tous les livres qui n’ont pas été numérisés.

Ce miroir lisse les aspérités. Les textes générés par IA sont autant dénués de défaut que de qualité. Ils se répandent partout, impeccables et sans souffle, des réseaux sociaux aux campagnes publicitaires, des rapports d’entreprise aux devoirs universitaires. 

Ce miroir dévoile ce que nous dissimulons. La technologie n’invente pas la discrimination ou la partialité, mais peut rendre visible nos angles morts culturels et sociaux. Par exemple, quand des algorithmes de reconnaissance identifient beaucoup moins bien les visages de femmes noires que ceux d’hommes blancs, c’est que les données d’entraînement ne sont pas représentatives. 

Ce miroir nous trompe. L’IA générative peut très diversement se tromper (hallucination de sources, invention de citations, fautes de logique, interprétations inexactes…). Elle le fait avec une assurance qui rappelle nos propres raccourcis cognitifs – biais, préjugés, stéréotypes – façonnés par des millions d’années d’évolution. Les délires de l’IA imitent nos certitudes infondées, nos théories du complot et autres excès de confiance, humains, trop humains. 

Ce miroir montre notre passé. Fondamentalement, l’IA générative extrapole le monde de demain à partir du passé. Elle compresse notre mémoire collective, pointe vers l’arrière, forgée par des océans de données qui indiquent ce que nous avons déjà été. Le danger, selon Shannon Vallor, c’est de prendre ces reflets pour notre destin.

L’IA révèle les vertus de l’éducation

Dans les médias, de nombreux discours, souvent de courte vue, dictent ce qu’il faut apprendre, comment et à quel rythme. Quelquefois ils prétendent que, face à l’IA, les études deviennent inutiles ou l’enseignement obsolète ; ils agitent des épouvantails. Bousculées, les institutions éducatives intègrent rapidement l’IA, à la fois comme objet d’étude et comme outils pour enseigner et apprendre.

Heureusement, elles ne font pas que cela, parce que personne ne souhaiterait d’un enseignement obsédé par la transmission de savoirs calibrés pour satisfaire des besoins marchands. Un tel système serait entièrement cantonné à l’utilité, la performance et la rentabilité. Rien ne serait enseigné qui ne soit préalablement jugé utile à une fonction sociétale. Il garderait les élèves (utilisateurs) engagés (captifs) à renfort de notifications, gamification et zapping d’une activité à l’autre. Il s’agirait assurément de dressage pavlovien où chaque cerveau serait dépossédé de sa liberté. 

Aucun enseignant ne rivaliserait avec la capacité d’adaptation, la patience et la disponibilité d’une IA bien programmée. Paradoxalement, c’est un immense service rendu à l’éducation. Comme l’IA excelle dans la transmission mécanique du savoir, elle enjoint tous les enseignants à être à la hauteur de ce qui échappe à la mécanisation du métier (rencontre, dialogue, relation, confiance, émotion…). Si l’IA remplaçait les enseignants, il ne s’agirait plus d’éduquer ou d’élever, mais d’endoctriner et d’effacer le sujet.

Ainsi, les prouesses de l’IA rendent visibles la véritable valeur de l’éducation : reconnaître en chaque élève une fin en soi. Un être humain, social et sensible, promis à devenir ce qu’il est, « ni ange ni bête », à condition qu’il puisse continuellement exercer sa responsabilité, son discernement moral et sa liberté. Éduquer, c’est émanciper, c’est-à-dire offrir la capacité de choisir et d’agir librement. C’est un chemin lent et exigeant, où les rencontres et l’effort engendrent le sens. C’est un programme aussi vieux que l’humanité et qui se terminera avec elle.