Logo Epoch Times

La dette cognitive que nous contractons à chaque usage de l’IA

top-article-image

Photo: Illustration par Epoch Times, Shutterstock

author-image
Partager un article

Durée de lecture: 12 Min.

Quand des chercheurs du Massachusetts Institute of Technology (MIT), en français Institut de technologie du Massachusetts, ont demandé à des étudiants de rédiger des essais avec et sans l’aide de ChatGPT, les conclusions furent alarmantes : 83 % de ceux ayant eu recours à l’IA pour ébaucher leur travail étaient incapables de se remémorer une seule phrase, bien qu’ils l’aient rédigée quelques minutes auparavant.
Cette amnésie provoquée par l’IA illustre plus qu’un simple effet secondaire de l’intelligence artificielle. ChatGPT et les outils similaires propulsés par l’IA sont aujourd’hui employés quotidiennement et massivement pour une multitude de tâches, des courriels aux dissertations. Néanmoins, comme le révèle cette nouvelle étude, nous pourrions bien sacrifier nos facultés cognitives et notre créativité au profit d’une commodité immédiate.
L’amnésie due à l’IA
L’étude du MIT a réuni 54 participants de la région de Boston. Les étudiants ont produit des essais selon trois modalités : en utilisant ChatGPT, en effectuant des recherches via Google, ou en s’appuyant entièrement sur leurs propres connaissances et leur raisonnement. Les chercheurs ont analysé leurs performances en termes de mémoire, d’activation neuronale et de sentiment d’appropriation.
Le déficit mémoriel ne représentait qu’un aspect d’une tendance plus vaste.
Lorsque les chercheurs ont surveillé l’activité cérébrale, ils ont découvert que les utilisateurs d’IA montraient un engagement neural significativement réduit. Les rédacteurs sans aide de l’IA ont généré près du double de connexions dans la bande de fréquence alpha, associée à l’attention focalisée et à la créativité, par rapport aux utilisateurs de ChatGPT.
Dans la bande thêta, liée à la formation de la mémoire et à la pensée profonde, l’écart était encore plus grand : 62 connexions pour les rédacteurs humains contre 29 pour ceux utilisant l’IA.

(Illustration par Epoch Times)

À l’image des systèmes GPS qui érodent progressivement nos capacités de navigation, les outils de rédaction basés sur l’IA poussent notre cerveau à se reposer en laissant un système externe gérer le travail cognitif, se mettant en retrait, conformément à sa tendance naturelle à conserver de l’énergie.
En soi, ce n’est pas forcément une mauvaise chose. Après tout, nous concevons des outils et des technologies pour déléguer des processus et économiser des efforts. Cependant, en ce qui concerne les résultats du MIT, où les étudiants ont oublié ce qu’ils venaient d’écrire quelques minutes auparavant, c’est inquiétant, a déclaré Steven Graham, professeur émérite au Département du leadership et de l’innovation de l’Arizona State University’s Teachers College, qui étudie l’impact de l’écriture sur l’apprentissage.
Les étudiants sont censés utiliser l’écriture comme un outil d’apprentissage, a-t-il affirmé. « Si vous ne pouvez pas vous souvenir des informations de base contenues dans les textes, la question se pose : ‘Qu’avez-vous appris ?' »
Les personnes qui abusent de ChatGPT pour des tâches cognitives routinières privent leur mémoire de la stimulation essentielle dont elle a besoin pour rester performante, a expliqué Mohamed Elmasry, professeur émérite en génie informatique, qui écrit sur l’utilisation de l’IA et l’intelligence humaine.
« Oui, même si le cerveau humain est un organe sans pièces mobiles, il a quand même besoin d’exercice ! », a ajouté le Pr Elmasry. Il craint que la dépendance à la technologie de l’IA ne conduise à des effets à long terme plus préoccupants.
Les effets à long terme
Quatre mois après le premier essai, les mêmes participants du groupe IA de l’étude du MIT ont été invités à rédiger un dernier essai en n’utilisant que leurs propres capacités. Cependant, même lorsqu’on leur a dit de penser de manière indépendante, les scans EEG ont montré que leurs réseaux neuronaux étaient moins activés par rapport à ceux qui avaient pensé et écrit de manière autonome depuis le début.
Les chercheurs ont désigné ce phénomène comme une « dette cognitive » : à l’image d’une dette financière, l’aide de l’IA procure des avantages immédiats tout en pouvant générer des coûts à long terme.
L’écriture représente un travail exigeant, a précisé le Pr Graham. « Certaines idées sont complexes et difficiles à saisir, et elles requièrent que nous nous engagions à divers degrés ; par conséquent, si une machine s’en charge à notre place, nous ne recueillerons pas les bénéfices que nous tirerions vraisemblablement de notre propre implication. »
L’acte d’écrire nous contraint à prendre de la distance et à déterminer quelles informations sont pertinentes – il nous incite à prendre des décisions. Par ailleurs, nous devons organiser l’information de façon cohérente, la personnaliser, la formuler avec nos propres termes et la « maîtriser », selon le Pr Graham. L’algorithme pourrait insidieusement affaiblir – ou simplement altérer – les réseaux neuronaux qui sous-tendent le raisonnement autonome, la synthèse créative et l’expression originale.
« En optant pour la voie la plus aisée et la plus rapide pour les tâches cognitives quotidiennes, en employant des raccourcis comme ChatGPT, nous altérons progressivement les capacités de mémoire intelligente de notre cerveau », a affirmé le Pr Elmasry.
La sous-utilisation cognitive pourrait avoir de graves conséquences, a-t-il déclaré. « Lorsque la mémoire humaine s’atrophie par manque de stimulation et de défis, en vieillissant, nous devenons plus vulnérables à une démence plus précoce et plus sévère, ainsi qu’à d’autres formes de déclin cognitif. »
Il est important de noter qu’il n’existe actuellement aucune preuve directe liant l’utilisation de l’IA à la démence. Cependant, l’inquiétude est que si nos cerveaux s’adaptent à un moindre défi mental, ils pourraient devenir moins résilients à long terme.
Parfaitement uniforme, étrangement ennuyeux
L’étude a également mis en évidence un effet subtil, mais non moins troublant, des essais assistés par l’IA : la perte d’individualité et de créativité.
Les sujets donnés aux étudiants étaient des questions fondamentalement centrées sur l’humain, comme « La vraie loyauté exige-t-elle un soutien inconditionnel ? » et « Les personnes plus favorisées devraient-elles avoir une obligation morale plus grande d’aider celles qui le sont moins ? »
Ces sujets auraient dû stimuler des réponses imprégnées d’expérience personnelle et de raisonnement. Au lieu de cela, les essais générés par l’IA ont démontré une homogénéisation algorithmique. Les étudiants ont inconsciemment adopté des phrases, des structures de phrases et des perspectives similaires – leurs voix individuelles étant subsumées dans un modèle prévisible.
Ces observations ne sont « pas surprenantes », a déclaré le Pr Graham, « car ces modèles reproduisent ce qu’ils voient dans la base de données sur laquelle ils sont entraînés. C’est en grande partie une formule toute faite, ils peuvent utiliser les mêmes mots encore et encore. »
Des professeurs d’anglais qui ont évalué les essais, sans savoir lesquels avaient été générés par l’IA, ont décrit le travail de ChatGPT comme ayant une « utilisation quasi parfaite de la langue et de la structure tout en ne parvenant pas à donner des aperçus personnels ou des déclarations claires ». Les professeurs ont trouvé ces essais « sans âme » parce que « de nombreuses phrases étaient vides de contenu, et les essais manquaient de nuances personnelles », ont écrit les chercheurs.
L’uniformité de l’expression soulève de sérieuses questions sur la pensée individuelle. Alors que nous externalisons la difficulté de trouver nos propres mots, externalisons-nous la formation de nos propres pensées ?
Externaliser diminue notre autonomie
Penser coûte cher. Le travail cognitif consomme une énergie neurale importante, et nos cerveaux cherchent naturellement à conserver leurs ressources lorsque des alternatives existent.
Pourtant, lorsque nous pouvons instantanément solliciter l’IA pour gérer nos tâches mentales, nos cerveaux pourraient s’habituer à être des consommateurs passifs de nos propres pensées.
Depuis des siècles, notre faculté de pensée autonome est tenue pour essentielle à la dignité humaine. Nombreux sont ceux qui ont affirmé que l’autonomie requiert la capacité de raisonner par soi-même.
Certains participants à l’étude ont exprimé un sentiment de « culpabilité » à l’égard de l’utilisation de l’IA, même quand celle-ci générait des résultats immédiats supérieurs. Cette culpabilité pourrait constituer un signal significatif, suggérant une compréhension intuitive qu’une valeur précieuse est en train de se perdre dans cet échange. Un sentiment répandu concernant l’usage de l’IA, comme formulé par un participant, est que cela « donne l’impression de tricher ».
Qu’advient-il de l’autonomie lorsque le raisonnement se transforme en un service que nous acquérons auprès d’algorithmes ? L’étude du MIT laisse entendre que chaque requête, bien que source de commodité, atténue l’ardeur de la créativité humaine – et potentiellement celle du raisonnement.
L’emploi de l’IA est inéluctable. « Le train est en marche », a constaté le Pr Graham. « Mais il nous appartient de décider de quelle manière nous le laissons avancer ».
Il pourrait y avoir un moment, un lieu et une application appropriés pour l’IA dans le domaine de l’écriture, a-t-il précisé. Grâce à une utilisation réfléchie et délibérée, l’IA est susceptible d’accroître la productivité et même de sublimer la créativité. La vigilance et l’intentionnalité sont capitales pour encourager les étudiants et les utilisateurs à devenir des penseurs critiques qui mobilisent leur esprit en premier lieu, et qui emploient l’IA comme un outil – et non comme une béquille.
Makai Allbert est un journaliste spécialisé dans la santé, titulaire d\'une licence en sciences biomédicales et d\'une maîtrise en lettres. Il a mené des recherches biomédicales à l\'université du Maryland, collaboré à des projets d\'analyse de données avec la NASA et a été chercheur invité au Center for Hellenic Studies de l\'université Harvard. Son objectif est de fournir des informations bien documentées sur le journalisme de santé. Contactez Makai à l\'adresse makai.allbert@epochtimes.nyc

Articles actuels de l’auteur