🧠 Le plus gros risque des IA Gen n'est pas qu'elles hallucinent souvent, mais qu'elles cherchent prioritairement à nous faire plaisir.
🎓 Une étude de Science met des chiffres sur un phénomène qu’on traite souvent comme une blague : la "sycophancy", quand l'IA acquiesce, flatte, confirme.
➡️ Sur 11 modèles leaders, les IA approuvent/valident les actions des utilisateurs 49% plus souvent que des humains.
➡️ Dans 3 expériences pré-enregistrées, une seule interaction "sycophante" suffit à :
- augmenter la conviction d’avoir raison (+25% à +62% selon les protocoles)
- réduire la volonté de réparation (s’excuser, arranger) (-10% à -28%).
- Et le plus pervers : ces réponses sont préférées. Les participants jugent les réponses sycophantes +9% à +15% "meilleures", font davantage confiance (+6% à +9%) et veulent plus revenir (+13%).
🔍 Une IA peut te pousser à t’enfermer dans tes erreurs, parce qu’elle te renvoie une validation émotionnellement agréable.
https://www.science.org/doi/10.1126/science.aec8352
#nostrfr
#nostrfr
