Vous avez probablement vu plus de photos générées par l'IA en ligne que vous ne le pensez.

Il est parfois évident qu'une image a été générée par l'IA, mais il est de plus en plus difficile de s'en rendre compte à mesure que les outils de génération d'images et de vidéos s'améliorent. De nouveaux outils tels que Google Nano Banana Proet des mises à jour de la base de données de l'OpenAI Modèle d'image ChatGPT permettent aux utilisateurs de générer rapidement des images synthétiques qui reflètent des images réelles. Des recherches antérieures ont montré que 85% des Américains déclarent Les "deepfakes" minent la confiance en ligne.

De nombreux outils prétendent détecter les images générées par l'IA, mais fonctionnent-ils ?

J'ai effectué 50 contrôles de détection sur cinq des détecteurs d'images les plus populaires et j'ai documenté les résultats. Non seulement je présenterai toutes les données dans cet article et les expliquerai, mais je mettrai également un lien vers la documentation à la fin de l'article.

Les cinq détecteurs que j'ai utilisés pour ces tests sont les suivants : TruthScan, IA ou pas, Moteur de vision, WasItAIet Winston AI. J'ai testé ces outils en leur faisant analyser deux images générées par ChatGPT, six images générées par Nano Banana et deux images générées par Midjourney. J'ai utilisé plusieurs styles et techniques d'incitation (que je détaillerai plus tard lorsque j'analyserai chaque image analysée).

Les cinq détecteurs ont été chargés de repérer des images créées par l'IA dans des catégories telles que la fraude, la désinformation, la photographie générale et les deepfakes. Comme on pouvait s'y attendre, tous les détecteurs n'ont pas obtenu de bons résultats. TruthScan a été le seul détecteur à classer systématiquement tous les contenus que j'ai soumis à 97% ou plus.

AI or Not a également obtenu d'excellents résultats. En fait, même si AI or Not a classé plusieurs éléments générés par l'IA en dessous du niveau de certitude 90%, il a été le deuxième détecteur le plus précis et le plus cohérent lors de mes tests, derrière TruthScan. Même lorsque AI or Not a échoué, ces échecs n'ont pas été catastrophiques, mais des améliorations sont encore possibles.

Les autres détecteurs d'images d'IA que j'ai essayés ont obtenu des résultats bien pires. Par exemple, Sight Engine a mal classé 3 images d'IA liées à la fraude en les qualifiant d'authentiques.

Je vais maintenant vous montrer chaque image (sur les 10 que j'ai générées), expliquer comment je l'ai créée et montrer comment chaque modèle l'a notée.

#1. "Man On a Ledge" (généré par ChatGPT)

Pour moi (et je vois beaucoup de contenu généré par l'IA tous les jours), l'image semble assez convaincante à première vue. Si vous cliquiez sur le profil de quelqu'un sur les médias sociaux, que vous parcouriez son fil d'actualité et que vous voyiez cette image, seriez-vous immédiatement convaincu qu'il s'agit d'un faux généré par l'IA ? Pour être honnête, j'ai essayé d'être créatif avec le message. Voici celle que j'ai utilisée pour générer cette image :

---

“Créez-moi une photo de style appareil photo instantané d'un homme debout au sommet d'un toit regardant la rue, la nuit, il est éclairé par le flash de l'appareil photo, il y a des traces de lumière provenant des voitures en contrebas, une femme se tient derrière lui, la main sur les lèvres, souriante, l'esthétique de la photo ressemble à une photo prise sur un appareil photo instantané en 2009 par des amis d'université en train de s'amuser.“

---

Quelle que soit ma créativité ou le nombre de détails que j'ai inclus dans mon message, TruthScan et Sight Engine ont toujours correctement classé la sortie comme étant générée par l'IA. Le détecteur AI or Not s'en est approché, mais a tout de même manqué la cible.

Winston et WasItAI se sont carrément trompés en classant l'image ChatGPT comme réelle.

#2. "The Fake Receipt" (généré par ChatGPT)

J'ai voulu générer un faux reçu avec ChatGPT pour voir à quel point il serait réaliste. Vous remarquerez que l'image n'a pas d'adresse légitime, mais la texture semble encore un peu réaliste. Je dirais que cette image est moins convaincante que la première que j'ai fait générer par ChatGPT, mais la plupart des détecteurs ont tout de même échoué en l'analysant.

• Parmi toutes les vérifications que j'ai effectuées sur cette image, TruthScan était le plus précis.
• Moteur de vision a vraiment échoué ici, faisant preuve d'un mauvais jugement sur une image d'IA liée à un document.
• IA ou pas a obtenu des résultats nettement meilleurs dans cette deuxième analyse.
• Winston AI a obtenu les pires résultats, et WasItAI a également complètement échoué.

Étant donné que cette image est associée à la catégorie fraude, il est inquiétant de constater que la plupart des détecteurs l'ont mal classée.

L'invite que j'ai utilisée pour générer l'image

---

“Générer l'image d'un ticket de caisse qui indique que le montant total dépensé est d'un milliard de dollars et qui comporte une tache de café.“

---

Il est clair que j'ai écrit une invite simple et rapide. Néanmoins, la qualité de la sortie du ChatGPT est visuellement convaincante à l'œil nu. Elle ne l'est pas pour deux des cinq détecteurs que j'ai testés, semble-t-il.

#3 : "Hazard Package" (généré avec Nano Banana)

Au lieu de laisser Nano Banana générer une image originale, je lui en ai donné une à modifier.

L'idée était de montrer comment quelqu'un pouvait facilement utiliser l'IA pour créer de fausses preuves et prétendre avoir reçu un colis endommagé/dangereux. Tout d'abord, j'ai pris une photo avec un iPhone 15 d'un paquet Amazon vide que j'ai trouvé.

Voici la photo que j'ai prise :

Ensuite, j'ai téléchargé la photo que j'avais prise sur Nano Banana et je lui ai donné l'instruction suivante :

---

“Je veux que tu modifies cette photo, ne change rien sauf l'endroit où se trouve l'étiquette, ajoute des dommages et des taches de boue noire sur la boîte qui ressemblent vraiment à des taches de graisse.“

---

Production de Nano Bana :

La boue semblable à de l'huile que Nano Banana a générée en sortie avait un reflet crasseux convaincant, avec un effet de détrempe - pas du tout cartoonesque. Heureusement, la plupart des détecteurs que j'ai utilisés ont correctement identifié l'image comme étant un faux. Le seul cas aberrant est celui de Winston, dont les performances sont encore une fois médiocres, puisqu'il a mal classé l'image en la qualifiant d'authentique. AI or Not, TruthScan et WasItAI ont été les détecteurs les plus précis pour repérer cette image.

Il est inquiétant de voir à quel point il semble simple de télécharger une image vers un chatbot et de la voir complètement modifiée. Je peux imaginer que des fraudeurs et des escrocs utilisent des outils de génération d'images pour tenter de faire des demandes de remboursement frauduleuses ou de se livrer à des fraudes sur le marché.

Si les plateformes de commerce électronique n'exigent qu'une image comme preuve pour initier une réclamation de colis endommagé, alors, sans aucun moyen fiable de détecter l'altération de l'IA, elles s'exposent à un vecteur d'attaque majeur. Par exemple, le site officiel d'Amazon politique de retour des articles littéralement, “Les matières dangereuses, y compris les liquides ou les gaz inflammables, ne sont pas consignées..”

Ainsi, si vous recevez un colis couvert d'huile ou de boue noire graisseuse, vous n'êtes pas obligé de le renvoyer, mais vous pouvez obtenir un remboursement. Si, pour une raison quelconque, cela vous arrivait, Amazon vous demanderait probablement une preuve photographique. Voyez-vous le problème que peuvent poser les images générées par l'IA lorsqu'elles sont impossibles à distinguer des images réelles ?

#4. "Repas de cafard" (généré avec Nano Banana)

La prochaine image d'IA pourrait vous faire perdre l'appétit. Il s'avère qu'il existe des cas documentés de personnes utilisant l'intelligence artificielle pour recevoir des informations sur la santé. remboursements frauduleux sur les applications de livraison de nourriture. Pour ce quatrième test, j'ai suivi les mêmes étapes que pour le troisième. Cette fois, j'ai pris une photo de ma boîte à emporter vide après le déjeuner.

Voici l'image réelle :

J'ai ensuite placé la photo réelle que j'ai prise dans Nano Banana et je lui ai donné l'instruction suivante :

---

"Modifiez cette image. Ne changez rien, sauf ajoutez des nouilles à l'endroit où se trouve le papier d'aluminium et ajoutez un tas de petits cafards dans la nourriture. Faites en sorte que tout cela ait l'air réaliste et non caricatural."

---

La sortie de la nano-banane :

Une fois de plus, TruthScan a détecté en toute confiance les médias générés par l'IA. Sight Engine et WasitAI ont complètement échoué. AI or Not a été le deuxième détecteur le plus précis (avec 85% de certitude d'IA) lors de l'analyse de cette image d'IA, et Winston a obtenu de meilleurs résultats que lors du troisième test (avec 72% de certitude d'IA).

Dans cette image, les nouilles et les cafards ont tous été entièrement générés par l'IA ; pourtant, deux des détecteurs ne semblaient pas le penser, et un seul (TruthScan) avait une certitude supérieure à 90% quant à l'altération par l'IA.

Ce qui m'a interpellé, c'est la simplicité avec laquelle j'ai créé cette fausse image. Le téléchargement de la photo que j'ai prise, le lancement de Nano Banana et la réception du résultat n'ont pris en tout et pour tout que deux minutes. Un cauchemar pour les applications de livraison de nourriture, un rêve pour les menteurs affamés. Un "facteur de fraude".

DIVULGATION : Certaines des images générées par l'IA incluses dans les tests suivants avaient pour but de démontrer comment les images générées par l'IA peuvent être utilisées à des fins de désinformation. Elles contiennent des images controversées et des sujets sensibles, et n'ont PAS pour but de représenter un parti politique particulier. des points de vue ou des idéologies.

#5. "Autovandalisme" (généré avec Nano Banana)

J'ai trouvé une image réelle d'une voiture à vendre en ligne. Plutôt banal. Mais que se passerait-il si quelqu'un voulait utiliser cette image pour diffuser de la désinformation ou déposer une fausse déclaration d'assurance automobile ? Malheureusement, l'IA générative rend cela facile et rapide.

Pour ce cinquième test, j'ai pris une image réelle d'une voiture et j'ai donné à Nano Banana l'instruction suivante :

---

“Ne changez rien à la voiture, sauf que je veux que vous y mettiez de la peinture en aérosol avec l'inscription "Palestine libre" et que le pare-brise soit fissuré. Les phares sont cassés, le rétroviseur est brisé et pendouille, et les deux fenêtres sur le côté de la voiture sont écrasé.”

---

Voici l'image réelle :

Image de Nano Banana AI :

Les résultats des détecteurs pour cette sortie sont mitigés. Pour ce test, WasItAI a (étonnamment) obtenu le meilleur score de détection de l'IA (99%). TruthScan a obtenu le deuxième meilleur score (97%). Sight Engine n'a pas réussi à détecter d'éléments synthétiques dans l'image, et Winston a obtenu le pire score de tous les détecteurs (moins de 1% de chances d'implication). AI or Not s'est bien comporté, mais la précision est restée inférieure à 90%.

Parlons de l'image. Les deux aspects les plus préoccupants de ce type de contenu créé ou modifié par l'IA sont qu'ils impliquent tous deux une tromperie. Tout d'abord, l'utilisation de l'IA pour modifier des images banales afin de créer un contenu à connotation politique est rapide, facile et semble réelle. Que les auteurs de ce type de contenu cherchent simplement à susciter l'engagement ou qu'ils soient des provocateurs politiques, le problème est qu'il s'agit de fausses informations présentées comme authentiques.

La deuxième façon d'abuser des outils de génération d'images est la fraude. Si un escroc veut déposer une fausse demande d'assurance automobile, il devra produire de fausses preuves. Au lieu de passer des heures sur Photoshop à retoucher des images et à falsifier des preuves, il peut utiliser des générateurs d'images pour produire rapidement de fausses preuves.

Dans l'exemple de l'image d'IA ci-dessus, remarquez qu'un escroc pourrait utiliser un processus similaire pour déposer une fausse demande d'indemnisation, conformément à l'avis de Progressive. Politique de couverture globalequi couvre spécifiquement

• Réduit ou pneus endommagés
• Vitres, phares ou feux arrière cassés
• Dommages causés par la peinture en aérosol
• Bosses ou rayures de quelqu'un qui met la clé dans votre voiture
• Mettre du sucre ou d'autres substances dans le réservoir d'essence

Bien entendu, présenter de fausses preuves n'est pas seulement trompeur, c'est aussi tout simplement illégal. Dans un monde idéal, personne n'enfreindrait la loi ; en réalité, la criminalité est quotidienne. Et sans détection fiable, les compagnies d'assurance automobile risquent de se faire escroquer de plusieurs millions d'euros à mesure que les demandes d'indemnisation frauduleuses fondées sur l'IA se multiplient.

#6. "Soda Musk and Don" (généré avec Nano Banana)

Une fois de plus, j'ai utilisé Nano Banana pour ce test, et l'objectif était de montrer de fausses images politiquement chargées avec un sous-entendu plus stupide. TruthScan, Sight Engine et AIorNot ont tous signalé l'image générée avec une note de détection d'IA de 99%. WasitAI n'était pas aussi confiant - il n'a détecté l'image générée par l'IA qu'avec une certitude de 86%. Enfin, Winston a complètement échoué, attribuant à l'IA un score de 0,2%. Pour générer l'image, j'ai donné à Nano Banana l'instruction suivante :

---

“Créez une photo d'Elon Musk renversant un grand gobelet de soda comme un Big Gulp sur sa chemise et paniquant tandis que Donald Trump est assis à côté de lui en train de rire. Ils sont dans un avion à réaction. Voilà la scène. La photo doit avoir l'air réaliste, comme si elle avait été prise avec un appareil photo instantané, et inclure des artefacts tels que le reflet du flash de l'appareil sur le hublot de l'avion et à l'extérieur de l'avion. Il fait nuit. La photo doit être hyperréaliste.“

---

Chaque fois qu'un de ces logiciels ne parvient pas à détecter l'IA, il le qualifie d'authentique. Aussi stupide que soit cet exemple d'image tirée du test, il n'y a rien d'amusant à penser qu'un deepfake est réel.

#7. "Still Alive" (généré par Nano Banana)

Trouvez-vous cette image dérangeante ? Pour générer ce deepfake, j'ai utilisé Nano Banana et je lui ai donné une photo de moi. Ensuite, je lui ai donné une longue invite destinée à me mettre dans une situation qui impliquait que j'avais été enlevé. C'est peut-être parce que cette photo montre moi dans une position compromettante. Et si quelqu'un avait fait quelque chose comme ça, l'avait envoyé à ma mère et l'avait menacée de me faire du mal si elle ne lui envoyait pas d'argent ? C'est effrayant.

(L'invite complète que j'ai utilisée à cet effet se trouve dans l'ensemble des données de test à la fin de cet article).

Heureusement pour cette image, bien qu'elle ait un aspect très réaliste, trois détecteurs sur cinq l'ont identifié comme étant généré par l'IA.

AI or Not a obtenu un excellent score de 99%, TruthScan 97% et Sight Engine 95%. Malheureusement, Winston et WasItAI ont classé l'image comme réelle.

Je tiens à préciser que ces tests n'ont pas été effectués sur mon compte Gemini personnel. Nano Banana ne m'a jamais demandé de prouver que j'étais la personne sur l'image. N'importe qui aurait pu télécharger une photo de moi sur Internet, la mettre dans Nano Banana et lui faire créer ce type d'image.

#8. "Abuse of a Ben" (généré avec Nano Banana)

Voici Ben. Il passe le plus clair de son temps à gérer les différents services des entreprises dans lesquelles il travaille. L'image ci-dessus est la (vraie) photo d'identité de Ben. Si vous ne le voyez pas, Ben est un professionnel. Quelles que soient ses opinions politiques, il les garde pour lui, et ses conversations professionnelles ne portent que sur le travail. Mais à tout moment, l'image de Ben pourrait être utilisée pour diffuser de la propagande ou des messages politiques sans son consentement.

On a beaucoup parlé récemment de la diffusion en ligne de vidéos générées par l'IA impliquant des agents de l'ICE et des manifestations. Sur la base de tous les tests effectués jusqu'à présent, j'ai conclu qu'il était très facile de créer de la fausse propagande politique à l'aide de l'IA. J'ai donc décidé de refaire un test, cette fois-ci avec Ben.

Avec la permission de Ben, j'ai utilisé sa photo pour créer un deepfake. Voici l'image générée par l'IA que Nano Banana a créée :

Cela a pris trente secondes. Tout ce que j'ai eu à faire, c'est de glisser et de déposer sa photo dans Gemini et de lui demander de "brandir une pancarte indiquant l'abolition de l'ICE". Le résultat de Nano Banana n'est pas aussi photoréaliste que les autres, mais il est suffisamment authentique pour être convaincant.

Heureusement, quatre des détecteurs ont identifié l'image avec précision : TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI), et AI or Not (97% AI). Winston AI a échoué, n'obtenant qu'un score de 5% AI.

#9. "Club Void" (généré par Midjourney)

J'ai généré l'image ci-dessus en utilisant Midjourney. Plus je la regardais, plus elle me paraissait troublante. L'esthétique est sombre et inquiétante. Une présence obscure semble émerger de derrière le sujet. Pour créer cette image, j'ai utilisé la fonction de référence esthétique de Midjourney et j'ai simplement demandé qu'elle soit une "fille debout dans un club en train de sourire". J'ai montré l'image à quelques personnes, qui l'ont toutes trouvée réelle.

La plupart des détecteurs ont signalé l'image comme étant générée par l'IA. TruthScan et Sight Engine l'ont marquée avec un score AI de 99%, AI or Not a indiqué 89%.

WasItAI n'était pas aussi sûr que les détecteurs, classant l'image avec seulement un score AI de 70%.

Le détecteur de Winston AI a totalement échoué, donnant à l'image un score AI de 1,56%.

#10 "Ice Box" (boîte à glace) (généré par Midjourney)

J'ai créé cette image en utilisant la même méthode à mi-parcours que lors du test précédent. Cette fois, l'objectif était de créer une image un peu plus sombre. TruthScan a été le détecteur le plus précis, étiquetant l'image comme 99% AI. Sight Engine et AI or Not ont tous deux correctement détecté l'image. Winston AI a complètement échoué, et WasItAI a obtenu un score de confiance bien inférieur à celui de TruthScan, Sight Engine et AI or Not.

Je dois dire que dans ce cas, l'image que j'ai générée pourrait être utilisée ou encadrée de deux manières. D'une part, quelqu'un pourrait utiliser ce type de média (ou tout autre média ayant pour thème la politique ou les troubles civils) dans le cadre d'un projet artistique ou créatif pour faire une déclaration. Dans ce cas, le risque semble moindre. La principale inquiétude que m'inspire cette catégorie de médias générés par l'IA est qu'ils soient utilisés par des individus malveillants qui prétendent qu'ils sont réels.

Récapitulation et résultats : Les meilleurs détecteurs d'images par IA

Bon, maintenant que nous avons affiché tous les tests, je vais récapituler : J'ai généré 10 images d'IA

• J'ai utilisé ChatGPT, Nano Banana et Midjourney pour générer 10 images d'IA.
• J'ai testé cinq détecteurs d'images d'IA en y plaçant toutes les images d'IA que j'ai générées.
• TruthScan a réussi tous les tests et a été le détecteur le plus précis. AI or Not a réussi 8 tests sur 10, faisant preuve d'une certaine fiabilité. Sight Engine a échoué à 3 tests sur 10 et a fait preuve d'une précision douteuse. Was It AI a échoué à 4 tests sur 10 et a fait preuve d'une précision médiocre dans l'ensemble. Winston AI était le détecteur d'images le moins précis, ne réussissant que 3 tests sur 10 et classant systématiquement mal les images.

Remarques et données de clôture

Au total, entre la rédaction de cet article et les tests rigoureux, j'ai consacré 25 heures à l'élaboration de ce rapport. Les outils de détection multimodale de l'IA sont encore en cours de développement, mais il est clair que certains sont plus précis que d'autres. Après avoir testé tous les outils, TruthScan est le plus précis. Détecteur d'images AI. Les tests parlent d'eux-mêmes.

Si vous souhaitez accéder à une copie CSV des données issues des tests que j'ai effectués dans cet article, vous pouvez le faire. ici. La feuille de calcul que j'ai mise en lien contient toutes les invites originales et les résultats de détection des tests présentés dans cet article.