Par Dominique Genoud & Dimitri Percia David
Extrait du livre "Promtp Futur", disponible aux éditions Georg
L’avenir est incertain et difficilement prévisible par essence. Opportunités et menaces doivent alors être appréhendées sous de multiples interconnexions, formant différents scénarios plausibles. L’enjeu est alors de penser l’avenir de telle sorte que ces mêmes opportunités
et menaces puissent être prospectées et évaluées activement – dans le but d’anticiper les changements de structures et d’en tirer profit –, plutôt que de subir les changements de manière passive. Dans ce contexte, une réflexion systématique et structurée sur l’avenir – aussi appelée « réflexion prospective », consistant à prospecter et à évaluer les scénarios futurs – constitue une solution permettant de doter les organisations d’une capacité d’action anticipative. Se basant sur une solide planification de contingences, une telle réflexion systématique et structurée sur l’avenir donnerait aux organisations une capacité active d’action se basant sur le principe « agir plutôt que réagir », augmentant alors la résilience et l’adaptation de ces dernières. La réflexion prospective exerce ainsi notre imagination, notre créativité et notre prévoyance, et ce afin d’aligner nos actions pour obtenir les résultats souhaités.
Cependant, mener une réflexion prospective efficiente et efficace constitue une activité complexe et exigeante. Une telle activité est gourmande en temps (alors même que ce dernier est souvent manquant), énergie, capacités cognitives et compétences de pensées en réseau – en particulier dans un contexte où l’avenir est volatil, incertain, complexe et dynamique. En outre, la réflexion prospective est sujette aux biais cognitifs des individus la pratiquant – tels que nos préjugés, nos émotions, nos motivations et nos valeurs –, affectant alors la qualité, la validité, et la pertinence des scénarios que nous générons et utilisons.
Or, la démocratisation en fin 2022 des modèles génératifs de langage naturel (Large Language Models, LLMs) constitue un outil disruptif permettant de pallier la plupart des défis mentionnés plus haut, liés à la réflexion prospective. Les LLMs sont des systèmes d’intelligence artificielle (IA) capables de générer des textes en langage naturel en fonction de divers paramètres, contextes
et données d’entrée. Les LLMs montrent des capacités remarquables à produire des textes cohérents, créatifs, fluides, convaincants, et souvent pertinents sur différents sujets et domaines – à tel point qu’il devient impossible de distinguer un texte généré par l’être humain de celui généré par l’IA.
Dans un tel contexte technologique, de quelle manière les LLMs peuvent-ils être utilisés pour stimuler la réflexion prospective ?
L’objectif de ce chapitre est d’analyser les forces, les faiblesses, les opportunités et les menaces
(SWOT) des LLMs dans le cadre d’une réflexion prospective devant être menée de manière rapide et efficace. L’analyse SWOT est un outil stratégique qui permet d’évaluer les facteurs internes et externes affectant la performance et le succès d’une organisation ou d’un projet. Dans ce chapitre, nous appliquons l’analyse SWOT aux LLMs en tant que technologie susceptible de faciliter la réflexion prospective.
Ce chapitre est organisé comme suit : (I) nous présentons l’analyse SWOT des LLMs pour inciter à la réflexion prospective ; (II) nous développons l’analyse SWOT en discutant les implications, défis et recommandations de chaque facteur pour inciter à la réflexion prospective ; (III) nous citons quelques exemples ou études de cas de la manière dont les LLMs ont été ou pourraient être utilisés pour susciter une réflexion prospective dans divers domaines, tels que l’éducation, la santé, l’économie ou la politique ; (IV) nous abordons également certaines questions ou controverses potentielles pouvant découler de l’utilisation des LLMs pour susciter la réflexion future, telles que les questions éthiques, juridiques ou sociales ; (V) nous mettons en évidence les principaux enseignements et idées à l’intention des praticiens et des chercheurs qui utilisent ou étudient les LLMs pour la réflexion prospective.
Analyse SWOT
Dans cette section, nous présentons l’analyse SWOT des LLMs pour inciter à la réflexion prospective. Chaque cellule contient une brève description d’un facteur et quelques exemples. Les facteurs sont classés en quatre catégories : forces, faiblesses, opportunités et menaces. Les forces et les faiblesses sont des facteurs internes liés aux caractéristiques et aux capacités des LLMs, alors que les opportunités et les menaces sont des facteurs externes liés à l’environnement et au contexte dans lequel les LLMs sont utilisés.
Forces
LLMs comme outil pouvant générer des scénarios variés et créatifs pour inciter à la réflexion prospective en fonction de divers paramètres (ex. : mots-clés, questions, images ou données diverses).
LLMs comme outil pouvant faciliter la réflexion sur l’avenir en réduisant la charge cognitive, les biais, et les efforts nécessaires pour imaginer et écrire sur l’avenir (ex. : générer des scénarios en quelques secondes ou minutes, ce qui peut faire gagner du temps et des ressources aux praticiens et aux chercheurs).
LLMs pouvant également générer des scénarios cohérents, fluides et convaincants, ce qui peut améliorer la lisibilité et la facilité d’utilisation des scénarios.
Faiblesses
LLMs comme outil pouvant produire des scénarios inexacts, biaisés ou nuisibles qui ne reflètent pas la réalité ou les normes éthiques (ex. : erreurs factuelles, incohérences logiques, informations non avérées).
LLMs pouvant également produire des scénarios offensants, discriminatoires ou violents.
LLMs comme outil pouvant réduire l’action et l’implication de l’homme dans la réflexion prospective rapide en remplaçant ou en éclipsant l’imagination et la créativité humaines (ex. : les LLMs peuvent générer des scénarios trop similaires ou trop différents des scénarios générés par l’homme, ce qui peut limiter la diversité et la nouveauté des résultats de la réflexion prospective rapide).
LLMs pouvant également générer des scénarios trop persuasifs ou trop autoritaires, ce qui peut influencer la perception et l’évaluation des scénarios par les utilisateurs.
Opportunités
LLMs comme outil pouvant améliorer la réflexion rapide sur l’avenir en fournissant de nouveaux outils et de nouvelles méthodes pour explorer et évaluer différents futurs (ex. : les LLMs peuvent générer des scénarios couvrant plusieurs horizons temporels, domaines ou dimensions de l’avenir).
LLMs pouvant également générer des scénarios intégrant le retour d’information, l’interactivité ou la personnalisation.
LLMs comme outil pouvant permettre de réfléchir rapidement à l’avenir en élargissant l’accès et la participation de groupes divers et marginalisés à la conception et à l’élaboration
de l’avenir (ex. : générer des scénarios qui reflètent les besoins, les valeurs et les aspirations des différentes parties prenantes et communautés).
LLMs pouvant également générer des scénarios qui responsabilisent et inspirent l’action et le changement parmi les utilisateurs.
Risques
LLMs comme outil pouvant nuire à la réflexion prospective en créant de la confusion, de la méfiance ou de la manipulation à l’égard des scénarios générés et de leurs sources (ex. : les LLMs peuvent générer des scénarios qui ne se distinguent pas de ceux générés par l’homme, ce qui peut soulever des questions quant à l’authenticité et à la crédibilité des scénarios).
LLMs pouvant également générer des scénarios intentionnel-lement trompeurs ou malveillants, ce qui peut présenter des risques pour l’intégrité et la pertinence des scénarios.
LLMs comme outil pouvant mettre en danger la réflexion future rapide en posant des risques pour la vie privée, la sécurité des utilisateurs ou la démocratie (ex. : générer des scénarios qui révèlent des informations sensibles ou personnelles sur les utilisateurs ou d’autres personnes).
LLMs pouvant également générer des scénarios qui influencent ou interfèrent avec des processus ou des résultats politiques ou sociaux.
Discussion
Dans cette section, nous développons l’analyse SWOT en discutant les implications, défis et recommandations de chaque facteur pour la réflexion prospective. Nous donnons quelques exemples ou études de cas sur la manière dont les LLMs ont été ou pourraient être utilisés pour favoriser la réflexion prospective dans divers domaines, tels que l’éducation, la santé, l’économie ou la politique. Nous abordons également certaines questions ou controverses potentielles qui peuvent découler de l’utilisation des LLMs pour la réflexion prospective, telles que les questions éthiques, juridiques ou sociales.
Conclusion
Ce chapitre examine les forces, faiblesses, opportunités et les menaces (SWOT) des modèles génératifs de langage naturel (Large Language Models, LLMs) pour la réflexion prospective. Il utilise l’analyse SWOT pour évaluer les facteurs internes et externes qui affectent les performances des LLMs. Il examine également des exemples d’utilisation des LLMs dans divers domaines, tels que l’éducation, la santé, les affaires et la politique, ainsi que les défis potentiels.
Les conclusions majeures sont les suivantes :
Les LLMs ont des avantages et des inconvénients pour la réflexion prospective. Ils peuvent générer des scénarios variés, mais peuvent aussi produire des résultats inexacts, biaisés ou nuisibles. Ils peuvent également diminuer la participation humaine dans la réflexion sur l’avenir.
Les LLMs représentent des opportunités et des défis. Ils peuvent améliorer la réflexion sur l’avenir avec de nouveaux outils, mais peuvent aussi causer de la confusion, de la méfiance ou de la manipulation.
Les LLMs doivent être utilisés prudemment et de manière responsable. Les utilisateurs et chercheurs doivent être conscients des limites et des biais des LLMs, ainsi que des implications éthiques et sociales de leurs résultats.
L’utilisation des LLMs pour la réflexion prospec-tive doit être un complément à l’imagination et à la créativité humaines, et non une substitution à l’intelligence humaine. Ils peuvent aider à explorer et à évaluer différents avenirs, mais ne peuvent évidemment pas déterminer ou prédire l’avenir avec certitude.
Les recherches futures devraient se concentrer sur le développement et l’amélioration des LLMs pour la réflexion prospective, ainsi que sur l’évaluation et la validation de leur utilisation. Cela comprend la conception (training and fine-tuning) de LLMs pour générer des scénarios précis, impartiaux, éthiques et pertinents, ainsi que le test et la vérification (model evaluation) de leur qualité et fiabilité.
Extrait du livre collectif Prompt Futur, 2023 - Par Dominique Genoud & Dimitri Percia David
Comments