Les images générées par l’IA ne sont plus aussi faciles à reconnaître. C'est la conclusion deun nouveau rapport Microsoft, qui a révélé que la majorité des individus remarquaient à peine la différence entre les images réelles et celles générées par l’IA, en particulier dans les paysages et les zones urbaines.
L’équipe « AI for Good » de Microsoft a mené uneexpérience globale de type quizimpliquant plus de 12 500 personnes. Chacun devait décider si les images étaient réelles ou non. Sur un nombre stupéfiant de 287 000 évaluations d’images, les participants n’avaient raison que dans 62 % des cas. Juste un peu mieux que de lancer une pièce de monnaie.
Les humains étaient plus précis dans la détection des faux portraits humains. Cependant, lors de la détection d’images de la nature ou de villes générées par l’IA, elles n’ont atteint qu’une précision d’environ 59 %. De tels scénarios n’ont pas tendance à présenter d’indices flagrants tels que des visages froissés ou des textures étranges, il serait donc plus difficile de les marquer comme suspects.
Les chercheurs ont veillé à ce que l’équipe utilise une grande variété d’images que les individus peuvent effectivement rencontrer en ligne. Rien n’a été choisi pour être délicat ou manipulateur. Néanmoins, les résultats indiquent que même de simples images d’IA de tous les jours peuvent échapper au jugement humain.
Pour aider à lutter contre les dangers de la désinformation, Microsoft plaide désormais en faveur de normes de transparence plus strictes. Cela signifie qu’ils peuvent être vus sous la forme de filigranes visibles et de mécanismes de détection plus robustes. Mais les filigranes pourraient ne pas suffire. Le rapport indique que l'on peut les recadrer ou les éditer par des moyens simples.
Voir aussi :Comment repérer les e-mails frauduleux avec[email protégé]Expéditeur?
Notamment, le détecteur d’IA interne de Microsoft était précis à 95 % sur les mêmes photographies. Cela implique que nous devrons peut-être faire appel à l’assistance d’une machine afin de suivre le rythme et la nature réaliste des modèles génératifs modernes.
Bien que les meilleurs outils actuels, tels que DALL·E 3 et Midjourney, constituent de superbes œuvres d'art, les chercheurs indiquent que les méthodes plus anciennes, telles que les GAN ou l'inpainting, peuvent parfois être plus réalistes. Les modèles plus anciens génèrent des images plus grossières, d’aspect amateur, qui s’intègrent mieux dans la crasse d’Internet. Dans l’ensemble, cette recherche rappelle que la tromperie visuelle est de plus en plus avancée et que nous ne savons pas toujours qu’elle arrive.
