Disponible pour le public depuis fin novembre 2022, le robot conversationnel ChatGPT est rapidement devenu un symbole de la présence chaque jour plus imposante de l’intelligence artificielle dans nos vies. Dans cet article, Aurélie Biancarelli nous invite à interroger notre rapport aux savoirs et à l’apprentissage qui se trouve profondément changé avec l’utilisation de cet outil. Produisant des réponses consensuelles à partir de la collecte de grandes quantités d’informations, l’un de ses dangers réside dans la complexité et l’opacité des technologies de deep learning qu’il met en œuvre et dans l’instrumentalisation à des fins idéologiques que peuvent en faire les classes dominantes. Pour ne pas tomber dans ces écueils, il est ainsi essentiel de replacer la pensée critique et rationnelle au centre des apprentissages et d’assurer la maîtrise démocratique de ces nouveaux outils dont toute interdiction est vaine.
Symbole des Intelligences artificielles (IA) qui interviennent dans nos vies de plus en plus quotidiennement, ChatGPT focalise tout à la fois des inquiétudes et des espoirs sur le rôle que pourraient jouer les IA dans nos vies.
Il faut à minima, comme pour toute nouvelle technologie, comprendre dans les grandes lignes son fonctionnement : il construit mot après mot un texte de façon à ce que le mot suivant soit statistiquement le plus probable cela à partir d’une gigantesque base de données créée par ses concepteurs.
Comme un simple « Dis Siri » lance l’interface de votre iPhone pour écouter de la musique ou téléphoner à votre meilleur∙e ami∙e, poser une question à une IA devient au fil des mois une action du quotidien. Nous avons tou∙te∙s des exemples autour de nous d’utilisation d’une IA pour répondre à des tâches ou des questions simples : écrire un courrier, écrire une dissertation, rédiger un rapport de stage et même retrouver une recette de cuisine.
Et si pour commencer nous jouions avec ChatGPT ?
J’ai choisi de lui poser une question : « Quelles sont les questions les plus posées à ChatGPT ? ». Voici la réponse que me propose, en quelques secondes, le robot conversationnel :
« Les questions les plus posées à ChatGPT varient en fonction des besoins et des intérêts des utilisateurs. Cependant, voici quelques catégories courantes de questions :
- Questions informatives : Les utilisateurs posent souvent des questions pour obtenir des informations sur des sujets variés, tels que des définitions, des faits historiques, des données scientifiques, des actualités, etc.
- Aide à la résolution de problèmes : Les gens utilisent ChatGPT pour obtenir de l’aide dans la résolution de problèmes que ce soit en mathématiques, en informatique, en programmation ou dans d’autres domaines.
- Assistance aux tâches quotidiennes : Les utilisateurs posent des questions sur des conseils de vie, des recettes de cuisine, des recommandations de films, des suggestions de livres, etc.
- Avis et opinions : Les gens sollicitent souvent l’avis de ChatGPT sur des sujets divers, comme des dilemmes personnels, des décisions à prendre, des critiques de produits, etc.
- Assistance à l’écriture : Les écrivains et les étudiants demandent souvent de l’aide pour la rédaction, la correction grammaticale, la génération d’idées, etc.
- Divertissement : Les utilisateurs posent des questions triviales, des devinettes, des blagues, et même des demandes de création de poèmes ou de chansons.
- Débats philosophiques et éthiques : Les gens s’engagent dans des discussions sur des questions philosophiques et éthiques, telles que l’existence de Dieu, l’éthique de l’avortement, la nature de la conscience, etc.
- Curiosité et créativité : Certains utilisateurs posent des questions inhabituelles ou créatives pour voir quelles réponses ChatGPT peut générer.
- Langues et traduction : Les utilisateurs sollicitent fréquemment l’aide de ChatGPT pour des traductions, des phrases en langues étrangères, ou pour en savoir plus sur des langues spécifiques.
- Aide à l’éducation : Les étudiants posent des questions liées à leurs cours, à la recherche, ou à la compréhension de concepts académiques.
Il est important de noter que, bien que ChatGPT puisse fournir des réponses à un large éventail de questions, il doit être utilisé avec discernement et ne doit pas être considéré comme une source d’information infaillible. Les utilisateurs doivent toujours vérifier la validité des informations qu’ils obtiennent et consulter des sources supplémentaires lorsque cela est nécessaire. »
En quelques instants, le robot me propose au mieux une base de réflexion, au pire une réponse que nous pouvons choisir de considérer comme ferme et définitive.
Mais le danger est-il seulement dans la question qu’on lui pose et la réponse qu’il nous propose ou dans le rapport aux savoirs qui est induit par le fait même de poser la question à une IA ?
Les robots conversationnels comme ChatGPT fournissent en quelques instants une réponse à des sujets complexes et parfois même parfois éthiquement et moralement discutables. La problématique ne se réduit dès lors pas à la fraude sur une dissertation de philosophie ou d’histoire. Il s’agit de nous interroger collectivement sur notre rapport aux savoirs et à l’apprentissage, parfois long et laborieux, de ceux-ci.
Son fonctionnement implique donc que sa réponse sera la plus consensuelle possible, elle pourra véhiculer les stéréotypes les plus communs ; elle pourra tout aussi bien être totalement absurde si la question est mal formulée ou ambigüe. Il reste malgré cela un outil dont la capacité de collecte de l’information et de rédaction défie sans aucun doute les meilleures intelligences humaines.
Plus que n’importe quel moteur de recherche, le robot conversationnel met à disposition en quelques instants un savoir contextualisé et formaliser dans un cadre rassurant et consensuel pour l’utilisateur. Et c’est là que réside l’un des dangers de ces nouveaux outils, en fournissant des réponses qui semblent objectives, ils peuvent contribuer à annihiler l’esprit critique et les dynamiques de questionnement.
De plus, en s’imposant comme la ressource principale pour répondre à toutes les questions imaginables, ChatGPT entraîné sur un corpus de textes en anglais issu du web pourrait devenir un puissant outil dans la bataille que livre la bourgeoisie capitaliste. Le risque de voir l’outil être mis au service d’un nouvel impérialisme culturel est particulièrement saillant sur les questions éthiques, morales, économiques, historiques ou sociales.
Dans sa contribution au congrès du PCF en 2018, parlant des révolutions numériques en cours, Yann Le Pollotec écrit : « Jamais l’humanité n’a disposé d’outil aussi puissant et rapide pour agir sur elle-même et transformer son environnement. Il s’agit d’un changement de nature anthropologique où avec l’intelligence artificielle, l’humanité délègue à des algorithmes la réalisation de certaines fonctions intellectuelles qui jusqu’ici lui était consubstantielle. »
Depuis 2018, les changements se sont engagés et touchent désormais notre quotidien. Alors que la quantité de savoir disponible n’a jamais été aussi grande, alors que l’accès à celui-ci se simplifie chaque jour un peu plus, comment repositionner nos processus d’apprentissage et notre rapport aux savoirs ?
Besoin de comprendre le fonctionnement des IA pour évaluer la qualité de la réponse fournie
L’un des problèmes éthique et politique que posent les IA dans notre quotidien est une interrogation forte, inhérente aux algorithmes d’apprentissage profond (deep learning) : leur fonctionnement est une boîte noire pour la plupart des individus, y compris leurs propres concepteurs. Se pose dès lors un problème de confiance, car si on ignore comment l’IA concernée en est arrivée à un résultat ou une décision, comment être sûr de leur pertinence ?
La question est déjà pertinente lorsqu’il s’agit d’un robot conversationnel, mais devient politique lorsqu’il s’agit de reconnaissance faciale pour la police, d’usage des algorithmes pour les assurances ou la finance… La liste des usages possibles est aujourd’hui presque sans limites.
La période que nous traversons est également marquée par un mouvement de défiance à l’égard des sciences et techniques, la crise sanitaire comme la crise sociale et démocratique actuelle est marquée par le développement des fake news, les théories complotistes plus ou moins farfelues se répandent rapidement via les réseaux sociaux et les IA peuvent aussi être entraînés sur ces données.
Il est urgent de prendre toute la dimension de la révolution que constitue dans tous les domaines d’activité humaine, l’existence nouvelle et en forte croissance de masses gigantesques de données et des intelligences artificielles nécessaires à leurs traitements. Cela implique sans doute une critique sans équivoque de la vision du monde portée par les entreprises de la Silicon Valley.
Nous avons besoin de (ré)apprendre l’usage quotidien de la pensée critique et rationnelle, la (re)mettre au cœur de nos apprentissages et de notre rapport aux savoirs. Il s’agit d’un outil essentiel pour porter un regard critique tant sur la réponse qu’une IA fournirait à une question, que pour formuler une analyse politique du projet politique portée par les start-ups à la pointe de cette révolution numérique. Si nous pouvons considérer que l’essor récent et sans précédent de cette révolution numérique ouvre des possibilités nouvelles d’émancipation humaine, cela ne sera vrai qu’à la condition que l’humanité en obtienne et en garde la maîtrise, c’est-à-dire qu’elle se préserve de la tentation de déléguer la compréhension à ceux qui savent tout, sans céder à l’appel de la marchandisation de la connaissance.
Pour bénéficier des avancées que représentent ces nouvelles connaissances et techniques, les bases scientifiques qui les sous-tendent ne doivent pas échapper à la compréhension commune et ni faire l’objet d’un traitement médiatique que l’on peut qualifier de sensationnaliste écartant la démarche intellectuelle de création de ces savoirs et techniques. C’est une condition essentielle pour que les citoyennes et citoyens ne se sentent pas entraînés dans une aventure les dépassant et dépossédés de la maîtrise de leur destin. L’émancipation humaine ne peut se passer des sciences, mais aussi, et c’est indissociable, de culture scientifique.
Nous pouvons ici rappeler les mots d’une remarquable modernité, de Bertolt Brecht dans L’achat du cuivre (1939) : « Plus nous arrachons de choses à la nature grâce à l’organisation du travail, aux grandes découvertes et inventions, plus nous tombons, semble-t-il, dans l’insécurité de l’existence. Ce n’est pas nous qui dominons les choses, semble-t-il, mais les choses qui nous dominent. Or cette apparence subsiste parce que certains hommes, par l’intermédiaire des choses, dominent d’autres hommes. Nous ne serons libérés des puissances naturelles que lorsque nous serons libérés de la violence des hommes. Si nous voulons profiter en tant qu’hommes de notre connaissance de la nature, il nous faut ajouter à notre connaissance de la nature, la connaissance de la société humaine. »
Repenser notre rapport aux savoirs et à l’apprentissage
Toute tentative d’interdiction ou de restriction de l’usage des nouveaux algorithmes restera vaine. Il faut nous saisir de cette question pour repenser nos rapports à l’apprentissage et aux savoirs. Comme nous le disions plus haut, l’accès à l’information est facilité par ces nouveaux outils, il nous faut apprendre à maîtriser l’outil, à poser des questions sous différentes formes pour comparer les réponses, faire une analyse sémantique des questions qui induisent l’une ou l’autre des réponses possibles, à analyser ces réponses à l’aune d’autres sources (journalistiques, encyclopédiques, etc.). Et peut-être même à utiliser ce premier travail comme un brouillon à travailler et retravailler pour le personnaliser.
Il faut déverrouiller nos intelligences, ne pas se laisser enfermer dans la facilité face au matraquage publicitaire, aux réseaux sociaux, aux slogans populistes et aux théories du complot, les savoirs de l’humanité ne doivent pas devenir un dogme digéré et délivré par la machine, mais ils doivent être les outils de l’émancipation individuelle et collective. Nous trouverons également dans cette dynamique intellectuelle davantage de satisfaction que les certitudes du présent ne pourront jamais nous en procurer.
Les intelligences artificielles sont désormais incontournables, nous devons donc nous assurer de posséder la maîtrise démocratique de leurs usages économiques ou sociétaux.
