Écrire avec ChatGPT : l’art de déjouer le chant des sirènes

Début des années 2000, une grande question s’est posée à moi : qu’est-ce qui se passe dans la tête des gens quand ils écrivent ? Cette question a tellement été importante que j’en ai fait un doctorat et une recherche post-doctorale.

Alors que j’étais en train de faire ma thèse, une copine m’appelle et me dit « Ho la la, je viens de voir un truc super dans Elle. ça s’appelle les blogs. Je te verrai trop faire ça ». J’ouvre mon premier blog. Je l’intitule C’est pas bientôt fini. Je découvre que j’amuse mes lecteurs en écrivant.

Quelques années plus tard, une autre amie me dit « mais arrête de chercher ce qui se passe dans la tête des gens quand ils écrivent. Écris. » Et voilà comment, en 2017, l’écriture est devenue mon métier.

Et puis arrive janvier 2023 et ChatGPT. Continuer à espérer vivre de l’écriture me semble une chimère. Et si ChatGPT allait changer ma vie comme l’avait fait la technologie des blogs ? J’intègre le groupe de recherche du CEPEC sur l’IA et l’éducation.

Aujourd’hui, je vais vous parler de comment ChatGPT va peut-être transformer nos vies. Je vous expliquerai comment cette IA fonctionne, quels sont les enjeux économiques et sociaux, pourquoi un vent de panique morale souffle. Peu à peu, je vous amènerais à vous questionner sur comment cette IA peut freiner ou faciliter ce qu’on attend de vous en tant qu’étudiant et en tant que professionnel : innover et écrire votre processus d’innovation dans le cadre de votre thèse professionnelle. Et une fois que vous aurez toutes ces billes en main, je vous montrerai quelques astuces pour l’utiliser à bon escient.

Définition de l’IA

Stuart Russel & Peter Norvig définissent l’IA comme « l’étude et la conception d’agents artificiels qui raisonnent, apprennent et interagissent avec leur environnement. Un algorithme particulier qui prend des données en entrée et renvoie en sortie une prédiction.

Le terme d’algorithme vous est certainement plus familier. On l’utilise beaucoup lorsqu’on parle des réseaux sociaux. C’est ce fameux algorithme qui décide quel contenu vous allez voir ou à qui vous allez diffuser du contenu.

Les informaticiens travaillent sur la question des IA depuis 1956. Aujourd’hui, elles explosent car 3 éléments sont réunies:

• Un déluge de données
• Une nouvelle génération de super calculateurs qui permettent de traiter ces données
• Des techniques pour organiser ces données (deep learning et modèle Transformer)

Les enjeux économiques et sociaux

L’IA s’inscrit dans la lignée de deux autres révolutions informatiques majeures et à fort enjeux économiques et sociaux.

Tout d’abord, Internet a permis la globalisation des marchés. De nouvelles industries ont vu le jour comme le e-commerce, les systèmes de cloud ou encore la cyber-sécurité. Cette innovation a rendu possible l’accès à l’information un peu partout sur la planète. Elle est venu rebattre les carte du rapport à l’espace et au temps. En un clic, nous pouvons échanger avec n’importe qui dans le monde.

Sont ensuite apparus les réseaux sociaux. Une nouvelle ère du marketing s’est ouverte. Les conséquences sociales sont nombreuses. Tout le monde peut prendre la parole publiquement pour dire tout ce qu’il veut. Les campagnes de désinformations se propagent en quelques heures. Et que dire des effets sur la santé mentale. Si ce point vous intéresse, je vous invite à regarder le documentaire Derrière nos écrans de fumées.

Et aujourd’hui, voilà les IA et notamment les IA génératives. Pour les entreprises éditrices cela représente bien entendu une manne financière énorme. Pour les entreprises utilisatrices, elles viennent accroitre les possibilités de gain de productivité. Au niveau social, elles viennent questionner la place de l’Humain.

Le vent de panique morale

Dans cette mutation professionnelle guidée par la technologie, les métiers intellectuels sont désormais menacés. Dans le passé, les avancées technologiques modifiant le travail des ouvriers ne soulevaient pas autant de préoccupations. Certes, elles pouvaient détruire de l’emploi, mais elles étaient perçues comme un moyen d’améliorer les conditions de travail et de préserver la santé. Aujourd’hui, l’angoisse se fait sentir : quelle sera la conséquence pour les employés de bureau face à cette nouvelle vague de changements ?

De plus, comme l’explique le philosophe Eric Sadin, nsou sommes face à un changement de statut des technologies numériques. Elles ne se contentent plus de révéler les subtilités des phénomènes derrière les façades, mais prétendent désormais dicter la vérité. La technologie ne se limite plus à un rôle d’assistante de l’activité humaine ; elle s’érige en porteuse de vérité absolue, inversant ainsi la dynamique traditionnelle où l’homme était l’utilisateur principal de la technique. Prenons pour exemples une application suggérant des programmes d’entraînement, une intelligence artificielle qui prescrit des traitements médicaux ou des chatbots utilisés dans le recrutement pour filtrer les candidats. Ces innovations, bien que séduisantes, cachent une réalité : elles conduisent à la marginalisation du jugement humain au profit d’une expertise automatisée et impersonnelle. Ce phénomène traduit un déplacement inquiétant, où les considérations politiques et éthiques sont reléguées au second plan, subordonnées aux résultats générés par les machines.

Souveraineté des données et biais culturels

La notion de souveraineté des données prend une importance croissante, les informations personnelles devenant une arme économique et un élément central des dynamiques de pouvoir sur la scène mondiale. Le scandale impliquant Cambridge Analytica au début des années 2010 souligne l’ampleur de cette question. L’exploitation des données personnelles de 87 millions d’individus pour conseiller l’équipe de campagne de Donald Trump et le mouvement pro-Brexit a révélé dans quelle mesure les données peuvent influencer les résultats politiques majeurs.

L’utilisation de telles données ne se limite pas aux campagnes politiques ; elle est omniprésente dans divers secteurs, influençant les décisions et façonnant l’opinion publique.

D’autre part, il est important d’avoir en tête que ces IA et notamment ChatGPT ont été développés selon une culture et une morale américaine. Pour bien comprendre ce que cela sous-tend, je vous propose deux interactions que j’ai eu avec ChatGPT

Comment fonctionne ChatGPT

Le modèle linguistique ChatGPT repose sur une architecture avancée de réseaux de neurones connue sous le nom de Transformers. Chaque réseau de cette catégorie est constitué de plusieurs milliards de paramètres, ce qui lui confère une capacité impressionnante d’analyse et de génération de texte. Il possède 175 milliards de paramètres. Il a été entraîné sur un corpus textuel vaste et généraliste, comptant plus de 300 milliards de mots, et ce, jusqu’à fin 2021.

Le fonctionnement de ChatGPT est initié par un prompt ou une amorce fournie par l’utilisateur. À partir de cette sollicitation, le modèle effectue des calculs pour générer des prédictions. Ces prédictions lui permettent de produire un texte.

Emily Bender dit qu’il s’agit d’un perroquet statistique. « Des machines qui enchaînent les mots les uns à la suite des autres de manière réalistes et convaincantes, mais sans aucune conscience ni intention » (Gilles Moyse, 2023)

ChatGPT n’est pas intelligent

• peut inventer du texte vraisemblable mais faux
• n’évolue pas tant qu’il n’est pas réentrainé
• ne peut pas dire d’où vient sa connaissance, car tout ce qu’il sait est stocké dans ses 175 milliards de paramètres
• ne peut travailler que sur du déjà connu et du déjà produit

Créativité : Attention danger !

Ce qui est attendu de vous dans la thèse professionnelle, c’est d’innover, de faire preuve de créativité. Or la créativité ne peut se satisfaire de déjà connu et du déjà produit. En effet, elle se définit comme la production d’un objet ou d’une idée nouvelle et adaptée à une situation particulière.

Le processus cognitif de la créativité

Selon J.P. Guilford, le processus de créativité commence par ce qu’il appele une phase de filtrage. C’est un moment d’éveil, où l’on prend conscience du problème à résoudre et où l’attention se concentre et s’oriente vers une question spécifique.

Une fois le problème identifié, on entre dans une phase de réflexion, durant laquelle on donne du sens à la question posée et on commence à structurer le problème. Cette étape est cruciale, car elle permet de définir les contours et les paramètres au sein desquels la créativité va s’exercer.

Après la réflexion vient la production d’idées, un moment dynamique où interviennent les pensées divergentes et convergentes. La pensée divergente invite à explorer le plus grand nombre d’idées possible, sans jugement et avec une liberté totale, tandis que la pensée convergente vise à canaliser ces idées vers des solutions pratiques et réalisables.

Ce qui est particulièrement intéressant dans le modèle de Guilford, c’est qu’il n’envisage pas ces phases comme une séquence rigide. Entre chacune de ces étapes, des allers-retours sont non seulement possibles mais souvent nécessaires. Ces boucles réflexives sont dirigées par un processus d’évaluation interne, qui, tel un gardien vigilant, peut à tout moment remettre en question l’orientation prise par le processus créatif.

Ce mécanisme d’évaluation peut rejeter le problème, le renvoyant à la phase de filtrage pour un nouvel examen, ou même décider de l’écarter complètement de la résolution. Alternativement, il peut placer le problème dans une phase d’incubation, une sorte de pause durant laquelle l’esprit travaille en arrière-plan, permettant souvent de faire émerger des solutions innovantes à un moment ultérieur.

C'est cette flexibilité et cette capacité à naviguer entre différentes phases de pensée qui font de la créativité un processus non seulement intellectuel mais aussi profondément humain.

Le potentiel créatif

En considérant le modèle dynamique de créativité proposé par Guilford, où l’individu navigue constamment entre différentes phases de pensée et évaluation, nous pouvons étendre cette compréhension en intégrant la théorie de Todd Lubart. Selon Lubart, chaque personne détient un potentiel créatif intrinsèque, modulé par une diversité de facteurs qui interagissent et influencent la capacité créative.

Ces facteurs comprennent des éléments cognitifs, comme les connaissances et les capacités mentales, qui fournissent la matière première de la créativité et la complexité de la pensée nécessaire pour générer des idées novatrices. Les facteurs conatifs, qui englobent les traits de personnalité et la motivation, sont également essentiels. Ils déterminent l’engagement de l’individu dans le processus créatif et sa persévérance face aux obstacles.

Les facteurs émotionnels jouent un rôle dual : d’une part, l’émotion peut être un puissant catalyseur de créativité, incitant à l’exploration de nouvelles avenues ; d’autre part, l’acte créatif lui-même est générateur d’émotions, qui peuvent à leur tour nourrir le processus créatif.

Enfin, les facteurs environnementaux tels que la famille, les parents, l’école et les amis forment le contexte dans lequel la créativité de l’individu est soit encouragée, soit entravée.

La convergence de ces facteurs crée un écosystème complexe au sein duquel la créativité peut s’épanouir. Reconnaître et cultiver chacun de ces aspects peut conduire à une expression créative plus riche et plus profonde, permettant aux individus de réaliser pleinement leur potentiel créatif.

Aussi dans votre thèse professionnelle, c’est bien tous ces éléments que vous devez mettre en jeu. Et dans vos parcours professionnels, ils seront aussi vos défis. Si vous cédez aux sirènes des IA, si vous abandonnez tout ce qui peut vous permettre d’innover, vous risquez de perdre des avantages concurrentiels tant sur le marché du travail que sur le marché économique de votre entreprise.

En effet, il y a fort à parier que les entreprises qui se distingeront dans l’ère des IA et qui feront face à la compétititvité seront celles qui auront la plus grande capacité d’innovation.

Et au niveau de l’écriture

Et puis dans l’élaboration de votre thèse professionnelle viendra le temps de son écriture.

Il vous faudra alors transformer votre pensée en texte, transformer votre pensée multidimensionnelle sous une forme linéaire et matérialisé afin de la soumettre à la critique.

Pour Strauss-Raffy (2002) l’écriture est une activité qui engage le sujet. Lorsque vous êtes en train d’écrire, vous êtes en train de modifier sa pensée. Au fil de la plume, votre pensée peut évoluer dans un sens non prévu par le sujet. Jeter l’encre, c’est vous confronter à vous-même, c’est vous découvrir et accepter d’être un sujet ayant une pensée autonome.

Ce processus à l’oeuvre lors de l’écriture va être fondamental au moment de la soutenance de votre thèse professionnelle. Ce que le jury attend, c’est que vous portiez votre discours, que vous le défendiez, que vous montriez qu’il s’agit de votre pensée propre. A travers cet exercice, c’est non seulement votre posture professionnelle qu’on jugera mais bien au-delà : votre identité professionnelle.

En confiant massivement la rédaction de ce texte à ChatGPT, vous prenez le risque de ne pas habiter pleinement votre discours. Vous prenez le risque d’une pensée désincarnée.

Vous comme moi savons qu’il sera bien difficile de résiter à ce super assistant. Mais maintenant vous connaissez quels chants des sirènes pourraient vous faire sombrer, vous allez pouvoir l’utiliser à bon escient.

Ne donnons pas notre langue au chat, GPT ou pas, reprenons la maîtrise de nos outils numériques, pour les faire à notre image, à notre culture, à nos langues et à nos lois (Gilles Moyse)

N.B.: Ce texte est la transcription d’une conférence donnée le 18 décembre 2023 au CESI.

Références biliographiques

Moyse, G. (2023). “Donnerons-nous notre langue au Chat-gpt”

https://www.radiofrance.fr/franceculture/podcasts/france-culture-va-plus-loin-l-invite-e-des-matins/crise-chez-open-ai-quelle-troisieme-voie-face-au-schisme-de-l-ia-9274979

https://www.radiofrance.fr/franceculture/podcasts/signes-des-temps/incidence-et-risque-des-nouveaux-usages-de-l-intelligence-artificielle-dans-le-domaine-politique-et-culturel-1366763

Guilford, J. P. (1979). Some incubated thoughts on incubation. Journal of creative behavior, 13(1), 1-8.

Lubart, T. (1999). Componential models. In M.A. Runco & S. R. Pritsker (Eds). Encyclopedia of creativity (Vol. 1, p. 295-300). New-York: Academic Press.