- <style> .reveal section img { border: 0; box-shadow: none; } span.couleur { color: #f00; } span.petit { font-size: 70%; } </style> ## Aide IA pour l'appréhension d'articles scientifiques ### LP CEEDDR - UE5 Institut Agro / Fred Renier - 2024 / cc by sa 4.0 ---- #### IA générative principes Les IA génératives produisent des nouveaux contenus (images, représentations, vidéos, audios, codes, textes). ---- **GPT** = generative pretrained transformer est un modèle de langage qui produit sur une base statistique le mot suivant d'une phrase. **pre-trained** entrainé à partir de corpus de données ici textes, phrases pour apprendre la structure du langage et prédire le mot suivant dans la phrase **transformer** un modèle d'apprentissage profond plus rapide à entraîner et basé sur l'attention à l'importance des mots dans la séquence d'entrée **fine tuning** affinage de l'IA sur des données plus spécifiques (ex données médicales, tâche de traduction ou de génération de texte...) ---- ChatGPT est un agent conversationnel, développé en novembre 2022 par l'entreprise OpenAI. Il permet une interaction avec l'IA, c'est un saut qualitatif. ChatGPT produit une réponse qui est correctement rédigé et qui paraît plausible en tenant compte du contexte précisé dans la question. ChatGPT ne peut vérifier la véracité du texte produit, cette tâche revient à l'humain. ChatGPT ne comprend pas ce qu'il écrit (phénomène d'illusion) MAIS, ces outils sont très adaptés pour la reformulation ---- ##### Comment fonctionne ChatGPT ? Un tour d’horizon en moins de 5mn {%youtube K8gOvC8gvB4 %} ---- #### Ce qui se cache derrière le fonctionnement de ChatGPT (David Louapre © Science étonnante) {%youtube 7ell8KEbhJo %} ---- #### Article du dossier de la CNIL sur les risques liés à l'usage de ces IA :smile: Synthèse de l'article réalisé par ChatGPT Les principaux risques présentés dans le texte sont les suivants ---- **Erreurs factuelles** : ChatGPT peut commettre des erreurs factuelles lorsqu'il génère des réponses. Cela peut être problématique lorsqu'il est utilisé pour produire des articles journalistiques ou d'autres contenus où l'exactitude des informations est cruciale. ---- ---- **Désinformation et manipulation** : En tant que générateur de texte, ChatGPT peut être utilisé pour créer de la désinformation et de la manipulation. Il est capable de générer des arguments cohérents et plausibles, même s'ils ne sont pas nécessairement basés sur la vérité. Cela peut être exploité pour diffuser de fausses informations et influencer l'opinion publique. ---- **Utilisation malveillante** : ChatGPT peut être utilisé de manière malveillante pour créer des messages d'hameçonnage, des arnaques liées aux cryptomonnaies ou même pour propager des logiciels malveillants tels que des chevaux de Troie. ---- ---- **Réputation en ligne** : Les systèmes de génération de texte comme ChatGPT peuvent être utilisés pour créer des contenus qui portent atteinte à la réputation des personnes. Ils peuvent produire des informations fausses ou trompeuses qui peuvent être préjudiciables à l'image d'une personne ou d'une organisation. ---- **Accès limité à l'information** : L'utilisation de chatbots et d'assistants vocaux comme substituts aux moteurs de recherche peut limiter l'accès à l'information et la possibilité de vérifier les sources. Les réponses générées par ChatGPT ne fournissent pas toujours de sources vérifiables, ce qui peut rendre difficile pour les utilisateurs de vérifier l'exactitude des informations. ---- **Deepfakes** : Les systèmes de génération de texte et d'image, tels que ChatGPT, peuvent être utilisés pour créer des deepfakes, c'est-à-dire des contenus qui semblent réels mais qui sont en réalité générés de manière artificielle. Cela peut être utilisé à des fins de manipulation et de diffusion de contenus trompeurs. ---- **Protection des droits d'auteur** : Les créateurs de contenus, tels que les journalistes et les blogueurs, peuvent rencontrer des difficultés à prouver que leur travail a été utilisé pour entraîner ChatGPT. Cela peut poser des problèmes en ce qui concerne les droits d'auteur et la rétribution pour leur travail. ---- ---- Autres risques... **Consommation énergétique et matériel** : Chaque interrogation consomme 3 à 10 x plus d'énergie qu'une interro dans un moteur de recherche, l'entrainement des IA consomme énergie et ressources matériels... ---- #### questions informationnelles les moteurs de recherche donne des liens, travail d'évaluation de la qualité de la réponse les IA donne des réponses, sans être expert comment faire pour évaluer ? une réponse inventée est une hallucination, la fonction est de produire du texte crédible ---- ##### Exemples d'utilisation * Résumer des articles, si scientifiques en pdf passez par navigateur edge * Produire une liste de mots clés sur un thème * Produire des questions sur un sujet * Produire une réponse sous forme de plan et l'importer pour produire carte mentale *(chatgpt, chatmind, xmind) ---- ---- #### Le prompt Le prompting, ou l’art de d'écrire des instructions détaillées : rôle à prendre (tu es...), le contexte, le domaine, le niveau (public visé), les finalités de ce qui est demandé, la demande concrète, le style de réponse (longueur, forme, style, contrainte) ---- #### Clarifier, creuser, explorer un concept - Quelle est la différence entre l'écoféminisme matérialiste et l'écoféminisme spirituel ? - quels sont les différentes approches du concept d'accompagnement en éducation à l'environnement - quel est l'approche de maella paul sur l'accompagnement Interroger sur des concepts [bing gpt](https://github.com/dice2o/BingGPT) [chatGPT](https://chat.openai.com/) [Perplexity](https://www.perplexity.ai/) ---- donne moi des mots clés pour trouver des articles sur la dimension éthique de l'accompagnement ---- #### Chercher des articles : - [consensus.app](https://consensus.app/search/) formuler une question ou 2-3 mots clés Question : comment accompagner les publics en difficultés sociales dans des pratiques d'éducation à l'environnement ? Mots clés : https://consensus.app/results/?q=climate%20change%20and%20migration - [semanticscholar.org](https://www.semanticscholar.org/) mot clé, puis choisir un domaine académique, une période..une revueMoteur de recherche ---- Trouver des articles en lien avec un autre article https://www.researchrabbitapp.com/collection/public/N6KMVERWZ8 ---- #### Explorer un article (résumé, questions de compréhension, identification des concepts clés chatpdf.com chatgpt.com askyourpdf.com myreader.ai perplexity.ai https://askyourpdf.com/ ---- ---- https://typeset.io/ surligné un passage et demander des explications https://www.humata.ai/ https://getcody.ai/auth/login uploader plusieurs articles pour une recherche simultanée dans ce corpus Recherche et résumé d'articles https://elicit.com/ crédit limité ----