Les
IA génératives
Les IA génératives conversationnelles comme ChatGPT, Mistral AI... ont
été conçues pour générer du texte
et avoir une conversation la plus naturelle possible. Ce sont des outils conçus pour mimer le
langage humain, en s’appuyant sur grands modèles de langage (LLM). C'est
pourquoi les IAG ne font quasiment aucune faute grammaticale, sont capables de
traduire, résumer et rédiger dans différents registres.
Elles présentent de nombreuses limites :
- Aspect probabiliste :
prédiction statistique de mots ayant le plus de chances de constituer une
réponse cohérente. Cet aspect favorise les réponses aléatoires.
- Données datées :
Les données sur lesquelles les LLM se sont entraînées s'arrêtent à une certaine date. Par
exemple, pour GPT-5, sorti à l'été 2025, ses données
d'entraînement s'arrêtent fin septembre 2024.
- Hallucinations :
Les IAG sont conçues pour générer du texte fluide et cohérent, pas pour garantir
la véracité des informations. Elles peuvent générer des réponses fausses, tout en les présentant comme des
affirmations certaines.
- Des biais de genre, culturels et
linguistiques issues de leurs données d'entraînement et
utilisés pour adapter leurs réponses
aux profils des utilisateurs, créant ainsi des bulles de filtre sans que
ceux-ci en aient conscience.
- Fiabilité
des sources : Les IAG sont entraînées
majoritairement sur des contenus "grand public" : articles de presse,
forums, blogs, réseaux sociaux, Wikipédia...Les publications
scientifiques, rapports techniques spécialisés ou bases de données académiques
représentent une part minime de leur apprentissage. Au final, ces IA peuvent être très approximatives ou erronées sur des
sujets académiques ou techniques pointus.
Les IAG ne remplacent pas une démarche de
recherche rigoureuse et critique, essentielle dans un contexte académique ou
professionnel.
Les IAG peuvent en revanche être utile pour la recherche documentaire :
-
Pour la préparation : aide pour le brainstorming, identification de mots-clés (listes, synonymes,
occurrences) en plusieurs langues et pistes pour problématiques
-
Pour l'analyse : préparation
de tableaux, catégories, à partir de données, résumés et extraction de données
sur le web ou dans un fichier .pdf, rédaction de plans, explication et
reformulation, analyse et proposition de questions complémentaires et de
prévisions
-
Pour la rédaction : proposition de présentation d'idées, rédaction de contenus (ex. :
slides de présentation, emails, communiqués réseaux sociaux, billets de blogs),
reformulation et réécriture de contenus et traduction
Les IAG ne sont que des outils. Elles ne produisent pas des contenus universitaires et si elles donnent accès à des informations, à des références de livres, d'articles, l'existence de ces références sont à vérifier.
Cherchez directement les humains (chercheurs, chercheuses...) qui ont pensé les idées et produit de la connaissance.
Dans tous les cas, gardez en tête ces quatre principes :
Comparez différentes requête
Comparez les outils entre eux
Vérifiez systématiquement les réponses fournies par une IAG
Tenez-vous au courant des évolutions des outils que vous utilisez
Sources : https://callisto-formation.fr/course/section.php?id=5351#module-21907
Licence CC BY-NC-SA
Tous droits réservés © 2021-2026
Fondation Callisto
