Comment reconnaître les images de Midjourney, cette intelligence artificielle qui met Trump en prison et Macron dans les manifestations ?

Ces images ne sont pas de réelles photographies mais le résultat d’une intelligence artificielle dénommée Midjourney. Reste qu’elles se rapprochent fortement de photos réalistes.

Face à l’engouement mais aussi l’interrogation de certains internautes, la pilule a du mal à passer du côté du créateur de Midjourney. Le développeur de l’IA n’a pas eu l’air d’apprécier cette nouvelle notoriété et a décidé de bannir le journaliste après la publication à succès, tout en interdisant la génération d’images mettant en scène des arrestations. Désormais, le terme "arrêté" en anglais (arrested) n’est plus pris en compte par l’IA.

Pour l’instant, ces créations d’internautes utilisant cette IA ont plutôt provoqué les rires et l’étonnement sur la toile tant les situations dans lesquelles sont dépeints ces dirigeants sont assez peu crédibles. Toutefois, des modifications plus subtiles peuvent passer bien plus inaperçues et réellement nous faire douter sur la véracité de ce que l’on peut voir sur internet.

Vous l’aurez compris, le développement de ce genre d’outils pose certains problèmes. En matière de créativité artistique - comme l’a prouvé la victoire d’une œuvre générée par Midjourney lors d’un concours d’art - de droits d’auteur et de propagation de fake news via le partage de "clichés" réalistes. Comment les détecter ? Voici quelques éléments de réponse…

À l’instar du bien connu ChatGPT, Midjourney fonctionne très simplement via la formulation d’une requête textuelle en langage naturel. En bref, une simple phrase suffit à inspirer l’IA.

Mais à la différence de ChatGPT, qui est un robot conversationnel (chatbot) générant une réponse sous forme écrite, Midjourney crée une image selon la description reçue. Un processus que l’on appelle le "prompt crafting" (fabrication d’instruction).

Plus ces instructions sont précises, meilleur sera le travail réalisé par l’intelligence artificielle. Vous aimeriez voir un pigeon jouant de la guitare au sommet de la Tour Eiffel ? Avec cette intelligence artificielle, il suffit de le lui demander et ce sera possible.

En outre, Midjourney n’est pas la seule IA génératrice d’image. Dans cette catégorie, on peut retrouver DALL-E - conçue par l’américain OpenAI à l’origine de ChatGPT - mais également Imagen, DreamBooth ou encore Stable Diffusion.

Selon Axel Legay, professeur à l’UCLouvain et spécialiste en cybersécurité, l’intelligence artificielle pour la reconnaissance d’images n’a rien de nouveau : "Dans Google, il y avait déjà la reconnaissance d’images. Vous pouvez lui donner une image qu’il peut comparer avec des images existantes, mais ce n’est pas du tout la même chose avec Midjourney".

Finalement, c’est la suite logique de ce qui se fait avec le texte, comme avec ChatGPT

Ce qui est inédit est plutôt la manipulation, le détournement et surtout la "créativité" dont sont capables ces IA. L’autre élément disruptif est la mise à disposition de ces outils pour le grand public ainsi que la facilité de leur prise en main. "Avant, les gens ne comprenaient pas comment ça marchait et ne savaient pas comment interagir avec ces outils. Les développeurs sont vraiment en train de changer l’expérience utilisateur, en plus des technologies qui se renforcent", explique Axel Legay.

"Ce que créé une IA, une autre IA peut éventuellement le détecter", lance l’expert. Comme on a pu le voir avec ChatGPT, il existe de nombreux logiciels qui se targuent de pouvoir détecter les images provenant d’IA, comme Mayachitra ou Illuminarty. Comment cela fonctionne ? Le logiciel prend l’image à analyser et la découpe en grille. Ensuite, ce logiciel cherche les éléments répétitifs ou les plus anormaux, absents en temps normal dans les réalisations humaines.

Cependant, si l’on prend l’exemple de la génération de texte par intelligence artificielle, une récente étude de l’université de Cornell aux États-Unis insiste sur la non-infaillibilité des logiciels de détection. Selon elle, le simple fait de paraphraser légèrement les textes peut rendre inefficace toute une gamme de détecteurs. La prudence reste donc de mise.

"Ce sera toujours un jeu du chat et de la souris et une histoire de capacité de calcul, d’images, de données mises à disposition, …", explique Axel Legay.

Malgré cela, la détection des images générées par IA comprenant des personnes reste, pour l’instant, assez simple pour l’œil humain. Si l’on se focalise sur certains détails, des imperfections sont rapidement détectables et servent d’indices visuels. Par exemple, Midjourney a encore quelques difficultés quant au nombre de doigts dans une main ou le nombre de dents à générer dans ses productions.

Par contre, sur le long terme, il est plus que probable que les IA continueront à s’améliorer, ce qui compliquera davantage le repérage de ces fausses images.

Afin de lutter contre le mésusage de ces logiciels sur les réseaux sociaux, Axel Legay explique que les plateformes peuvent et doivent implémenter des outils de détection afin de limiter la propagation incontrôlée des images générées ou, du moins, de les marquer comme telles pour ne pas tromper les utilisateurs. "Tout dépend de la volonté des plateformes", précise le professeur.

Malgré la prudence et le recul à avoir face à ces outils, ils restent très impressionnants. Bien utilisés, il est possible de créer de magnifiques œuvres grâce à ces derniers.