Adobe a fait croire aux utilisateurs qu'il utilisait entièrement son propre stock d'images pour former son modèle Firefly, générateur d'images IA, mais les rapports montrent qu'il incluait également des images IA de concurrents comme Midjourney.

Firefly est présenté comme le générateur d'images le plus éthique et commercialement sûr utilisant son propre stock d'images. Mais il a été découvert qu'ils utilisent également des images générées par l'IA par des outils comme Midjourney, contrairement aux affirmations selon lesquelles Adobe Stock est utilisé.

Une IA pas si éthique

L'entreprise a vendu son Luciole comme une sorte d'« IA éthique » qui s'entraîne sur la propre bibliothèque d'images sous licence d'Adobe. Il s'agit de millions de designs, d'images, d'illustrations de la bibliothèque Adobe Stock.

Contrairement à cela, un nouveau rapport a été publié montrant que le générateur d'images n'est finalement pas aussi propre que l'image qu'il projette sur le marché. UN Bloomberg Un rapport a révélé que le créateur de Photoshop avait « quelques squelettes dans le placard ».

Certaines des images utilisées lors de la formation de Firefly provenaient d'un concurrent À mi-parcours, qui n'a pas révélé la source de ses données de formation, même si beaucoup soupçonnent que les images ont été obtenues en supprimant Internet sans aucune licence. Ceci malgré le fait que Firefly soit considéré comme « commercialement sûr ».

Pour Rachel Metz, il ne s’agit pas de « l’inceste de l’IA » comme on l’appelle désormais, mais d’une contradiction avec ce qu’Adobe projette de faire de son générateur d’images d’IA aux yeux du public.

"Il s'agit de faire un choix délibéré d'inclure les images générées par l'IA à partir d'Adobe Stock dans son ensemble de données tout en se positionnant publiquement comme très différent des entreprises dont les outils ont été utilisés pour créer ces images générées par l'IA", a répondu Metz sur X.

Certains utilisateurs estiment cependant qu’il est presque impossible d’éviter la contamination des données.

« Littéralement impossible de ne pas avoir de contamination des données d'entraînement à moins d'attribuer et de vérifier manuellement chaque image, ce qui est beaucoup trop lourd » répondu Raj Singh.

A lire également: Gen AI Music atteint un taux de réussite de 20 % dans les dossiers commerciaux

Les images labellisées IA

Le rapport Bloomberg révèle en outre qu'Adobe Stock, qui a été utilisé pour former Firefly, contient 57 millions d'images étiquetées générées par l'IA, soit environ 14 % du total des images de cette base de données.

Le créateur de Photoshop a révélé que seulement 5 % des images utilisées dans la formation Firefly entrent dans cette catégorie, tandis que le reste « faisait partie de la bibliothèque Adobe Stock, ce qui signifiait qu'elles avaient été soumises à un « processus de modération rigoureux ».

"Chaque image soumise à Adobe Stock, y compris un très petit sous-ensemble d'images générées par l'IA, est soumise à un processus de modération rigoureux pour garantir qu'elle n'inclut pas de propriété intellectuelle, de marques déposées, de personnages reconnaissables ou de noms d'artistes de référence", a déclaré un porte-parole à Bloomberg.

A son lancement, Adobe a déclaré que Firefly était contre le vol de droits d'auteur, offrant une indemnisation à ses clients commerciaux car la société les avait convaincus que son modèle d'IA était sûr.

🚨Scoop de moi et @BrodyFord_: Adobe a présenté Firefly comme une alternative sûre et éthique à des concurrents comme Midjourney… mais il a également formé discrètement Firefly sur les images Midjourney.

L'IA Firefly « éthique » d'Adobe a été formée sur des images à mi-parcours https://t.co/LIYD9RuExS

– Rachel Metz (@rachelmetz) 12 avril 2024

Mieux que ses concurrents

Adobe a également présenté son outil de création d'images IA comme une « alternative sûre » aux concurrents Midjourney et Dall-E, car il affirmait que les données étaient sous licence et « autorisées à être utilisées dans la formation du modèle ».

Selon Tom's Guide, tous les artistes n’étaient pas aussi enthousiastes à l’époque et « se sentaient contraints d’accepter que leur travail soit utilisé par le géant de la technologie créative ». Cependant, l’idée vendue était que les images réalisées avec Firefly pouvaient être utilisées en toute sécurité « sans risque d’être poursuivies pour vol de droits d’auteur ».

Le rapport Bloomberg a cependant soulevé une autre dimension de « l'éthique » d'Adobe Firefly.

Adobe a différencié son générateur d'images IA de ses pairs comme Dall-E 3, Stable Diffusion et Midjourney en déclarant « commercialement sûr ».

« Adobe a établi les principes éthiques de l'IA en matière de responsabilité, de responsabilité et de transparence » a écrit l'entreprise dans un seul message.

L'entreprise a ensuite créé un plan de rémunération pour tous les artistes dont le travail a participé à la première formation de Firefly. Certains artistes, selon Selon Quotidien des entrepreneurs, a soumis des images créées par Midjourney mais qui ont été rémunérées par Adobe pour leur contribution.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://metanews.com/firefly-training-included-rivals-ai-images/