2024-08-07 11:00:08

OpenAI a créé un détecteur de texte d’IA, mais l’entreprise ne publiera pas cette fonctionnalité tout de suite.

Le géant de la technologie a mis au point des outils capables de détecter les contenus produits par ChatGPT et ses modèles d’IA, en superposant le texte généré par l’IA à une sorte de filigrane.

L’OpenAI a noté que cela pourrait être utile pour lutter contre la désinformation et améliorer la transparence de la création de contenu.

Toutefois, des problèmes pratiques se posent, notamment le fait qu’un outil tiers devrait simplement reformuler le texte généré par l’IA pour effacer le filigrane.

Dans un billet de blog, l’entreprise a également souligné : « Alors qu’il s’est avéré très précis et même efficace contre les altérations localisées, telles que la paraphrase, il est moins robuste contre les altérations globales, telles que l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif, ou le fait de demander au modèle d’insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère – ce qui le rend facile à contourner par des acteurs malveillants. Un autre risque important que nous évaluons est que nos recherches suggèrent que la méthode du filigrane de texte peut avoir un impact disproportionné sur certains groupes. »

Visit Bang Premier (main website)