📡 X — Les scans de modèles ne prouvent pas que les humains étaient aveugles
@darosior · 71/100
Antoine Poinsot refuse l'idée que les failles remontées par des scans de modèles de langage seraient des choses que des humains n'auraient pas pu trouver. Il ne nie pas l'effet de ces outils. Ils ont, dit-il, fortement réduit le coût de découvrir des familles entières de vulnérabilités, et encore plus le coût de les exploiter. Ce qu'il juge faux, et au mieux trompeur, c'est d'en conclure à une incapacité humaine antérieure. Une recherche de sécurité compétente prenait beaucoup de temps. Les équipes allouaient leurs moyens à partir de cette contrainte. En dehors de la sécurité, utilisateurs et direction voyaient mal la dette et le risque qui s'accumulaient. Le message visible ne nomme ni faille, ni produit, ni correctif. C'est une mise au point, pas un avis de vulnérabilité.
Analyse / opinion · Publication X


X (formerly Twitter)
Antoine Poinsot (@darosior) on X
No, vulns reported by LLM scans are not things "human weren't able to find".
And that's not to downplay their impact. LLMs have drastically reduce...




