L’IA générative, malgré ses promesses révolutionnaires, produit souvent du contenu de faible qualité. Cette « workslop » - un mélange d’informations fiables et d’erreurs grossières - pourrait bien entraîner une érosion progressive des processus décisionnels en entreprise. Des experts de l’Université d’Oxford tirent la sonnette d’alarme : sans cadre strict, les organisations risquent de perdre le contrôle sur leurs processus critiques.
Le triple défi de l’IA en milieu professionnel
La prolifération de contenus générés par IA pose trois défis majeurs : la vérification, la validation et l’entropie des connaissances. Le premier consiste à distinguer le contenu humain authentique de celui produit par l’IA, une tâche chronophage qui annule souvent les gains de productivité escomptés. Dans le recrutement, certains candidats utilisent désormais des outils d’IA pour générer en temps réel des réponses à des questions d’entretien, compliquant le processus de sélection.
Le deuxième défi concerne la validation des connaissances. Les consultants doivent désormais prouver non seulement la qualité de leurs livrables, mais aussi l’origine humaine de leur travail intellectuel. Enfin, le phénomène d’entropie cognitive illustre comment les connaissances se dégradent à chaque itération par un modèle de langage. Ces LLMs, dépourvus de notion de vérité, produisent des prédictions statistiques qui s’éloignent progressivement des données originales.
La menace de l’inbreeding génératif
Un problème particulièrement inquiétant émerge lorsque les modèles sont entraînés sur des données synthétiques créées par d’autres IA. Ce processus, appelé « inbreeding génératif » ou effondrement du modèle, réduit l’exactitude et la variabilité des résultats. Les auteurs soulignent que plus un contenu passe par plusieurs itérations de LLM, plus il s’éloigne de la vérité initiale.
Stratégies pour contrer la dégradation des connaissances
Pour éviter ces pièges, les entreprises doivent repenser fondamentalement l’architecture et l’utilisation des modèles d’IA. Une première mesure consiste à restreindre l’usage de l’IA aux cas où elle apporte une valeur réelle. Par exemple, dans le recrutement, les CV structurés avec des réponses factuelles limitent l’avantage concurrentiel de l’IA.
Lorsqu’elle est inévitable, l’utilisation d’IA doit être clairement justifiée. Des outils comme Copilot ou Gemini intégrés aux logiciels bureautiques permettent de synthétiser efficacement des rapports et présentations. Pour les évaluations de performance, l’IA peut aider à synthétiser des informations détaillées plutôt que générer des rapports génériques.
En adoptant ces mesures, les entreprises peuvent préserver l’intégrité de leurs processus décisionnels tout en tirant parti des avantages de l’IA générative.