Firma Adobe wmówiła użytkownikom, że do szkolenia modelu Firefly z generatorem obrazów AI wykorzystała wyłącznie własne zbiory obrazów, ale raporty pokazują, że zawierał także obrazy AI od rywali, takich jak Midjourney.

Firefly jest reklamowany jako najbardziej etyczny i bezpieczny komercyjnie generator obrazów wykorzystujący własny zbiór obrazów. Odkryto jednak, że wbrew twierdzeniom o korzystaniu z Adobe Stock wykorzystują także obrazy wygenerowane przez sztuczną inteligencję za pomocą narzędzi takich jak Midjourney.

Niezbyt etyczna sztuczna inteligencja

Firma sprzedała swoje Robaczek świętojański jako swego rodzaju „etyczna sztuczna inteligencja”, która trenuje na własnej bibliotece licencjonowanych obrazów stockowych firmy Adobe. To miliony projektów, obrazów i ilustracji z biblioteki Adobe Stock.

Wbrew temu pojawił się nowy raport pokazujący, że generator obrazów wcale nie jest tak czysty, jak wizerunek, jaki kreuje na rynku. A Bloomberg raport ujawnił, że twórca programu Photoshop ma „kilka szkieletów w szafie”.

Niektóre obrazy użyte podczas szkolenia Firefly pochodziły od konkurentów W połowie drogi, która nie ujawniła źródła swoich danych treningowych, chociaż wielu podejrzewa, że ​​obrazy uzyskano w wyniku usunięcia Internetu bez żadnej licencji. Dzieje się tak pomimo tego, że Firefly jest postrzegany jako „bezpieczny komercyjnie”.

Według Rachel Metz nie chodzi tu o „kazirodztwo AI”, jak jest obecnie znane, ale o sprzeczność z tym, co Adobe projektuje w oczach opinii publicznej swój generator obrazów AI.

„Chodzi o podjęcie świadomej decyzji o włączeniu do swojego zbioru danych obrazów wygenerowanych przez sztuczną inteligencję z usługi Adobe Stock przy jednoczesnym publicznym pozycjonowaniu się jako bardzo różniącej się od firm, których narzędzia wykorzystano do stworzenia tych obrazów wygenerowanych przez sztuczną inteligencję” – Metz odpowiedział w X.

Niektórzy użytkownicy uważają jednak, że uniknięcie skażenia danych jest prawie niemożliwe.

„Dosłownie niemożliwe jest uniknięcie skażenia danych treningowych, chyba że ręcznie przypiszesz i zweryfikujesz każdy obraz, co jest zbyt kłopotliwe” odpowiedzi Raja Singha.

Przeczytaj także: Gen AI Music osiąga 20% wskaźnik sukcesu w briefach komercyjnych

Obrazy oznaczone etykietą AI

Z raportu Bloomberga wynika ponadto, że w usłudze Adobe Stock, która została wykorzystana do szkolenia Firefly, znajduje się 57 milionów obrazów oznaczonych jako wygenerowane przez sztuczną inteligencję, co stanowi około 14% wszystkich obrazów w tej bazie danych.

Twórca programu Photoshop ujawnił, że tylko 5% obrazów użytych w szkoleniu Firefly należy do tej kategorii, podczas gdy pozostałe „należały do ​​biblioteki Adobe Stock, co oznaczało, że przeszły„ rygorystyczny proces moderacji ”.

„Każdy obraz przesłany do Adobe Stock, w tym bardzo niewielki podzbiór obrazów wygenerowanych za pomocą sztucznej inteligencji, przechodzi rygorystyczny proces moderacji, aby mieć pewność, że nie zawiera własności intelektualnej, znaków towarowych, rozpoznawalnych znaków ani nazwisk artystów referencyjnych” – powiedział Bloombergowi rzecznik.

W chwili premiery Adobe stwierdził, że Firefly jest przeciwny kradzieży praw autorskich, oferując odszkodowanie swoim klientom komercyjnym, gdy firma przekonała ich, że jej model sztucznej inteligencji jest bezpieczny.

🚨Zgarnij ode mnie i @BrodyFord_: Firma Adobe reklamowała Firefly jako bezpieczną i etyczną alternatywę dla konkurentów takich jak Midjourney… ale także po cichu przeszkoliła Firefly na obrazach Midjourney.

„Etyczna” sztuczna inteligencja Firefly firmy Adobe została przeszkolona na obrazach w trakcie podróży https://t.co/LIYD9RuExS

— Rachel Metz (@rachelmetz) 12 kwietnia 2024 r.

Lepszy od konkurentów

Firma Adobe uznała także swoje narzędzie do tworzenia obrazów AI za „bezpieczną alternatywę” dla konkurentów Midjourney i Dall-E, ponieważ twierdziła, że ​​dane są licencjonowane i „dopuszczone do wykorzystania w szkoleniu modelu”.

Zgodnie z Przewodnik Toma, nie wszyscy artyści byli wówczas tak chętni i „czuli, że zmuszano ich do wyrażenia zgody na wykorzystanie ich dzieł przez kreatywnego giganta technologicznego”. Jednak sprzedano pomysł, że obrazy wykonane za pomocą Firefly można bezpiecznie używać „bez ryzyka pozwu za kradzież praw autorskich”.

Raport Bloomberga nadał jednak inny wymiar „etyczności” Adobe Firefly.

Firma Adobe wyróżniła swój generator obrazów AI od konkurentów, takich jak Dall-E 3, Stable Diffusion i Midjourney, deklarując „bezpieczne handlowo”.

„Adobe ustanowiło zasady etyki sztucznej inteligencji obejmujące odpowiedzialność, odpowiedzialność i przejrzystość”, napisała firma w jednym poście.

Następnie firma stworzyła plan wynagrodzeń dla wszystkich artystów, których praca przeszła do pierwszego szkolenia Firefly. Część artystów, jak podaje Według Codziennie Przedsiębiorca, przesłali obrazy, które zostały utworzone przez firmę Midjourney, ale zostały wynagrodzone przez firmę Adobe za ich wkład.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://metanews.com/firefly-training-included-rivals-ai-images/