Nie wszystkie obrazy „wykonane przy użyciu sztucznej inteligencji” są tworzone przez sztuczną inteligencję
Szybkie linki
- Media AI są tak realne, że potrzebujemy pomocy w odróżnieniu ich od rzeczywistości
- Etykietowanie Meta łączy w sobie elementy generowane przez sztuczną inteligencję i wspomagane przez sztuczną inteligencję
- Czy istnieje różnica między sztuczną inteligencją a sztuczną inteligencją?
- Etykietowanie sztucznej inteligencji Meta nie jest niezawodne
- Nowe standardy w fotografii pojawiają się na horyzoncie
Meta wprowadziła niedawno nowy tag „Made with AI”, który ma pomóc użytkownikom odróżnić treści rzeczywiste od treści generowanych przez sztuczną inteligencję. Problem polega na tym, że tag pojawia się bez rozróżnienia na obrazach utworzonych w całości za pomocą sztucznej inteligencji i tych jedynie edytowanych za pomocą sztucznej inteligencji. Wywołało to debatę na temat tego, w jakim stopniu sztuczna inteligencja wystarczy, aby skazić obraz, i wprowadziło jeszcze większe zamieszanie co do tego, co jest prawdziwe, a co nie.
Media AI są tak realne, że potrzebujemy pomocy w odróżnieniu ich od rzeczywistości
Pamiętacie to zdjęcie Papieża w stylowej puchowej kurtce? Na pierwszy rzut oka wydawało się to zupełnie normalne i wszyscy myśleliśmy, że właśnie spaliśmy na papieskim łupie. Jednak później okazało się, że zdjęcie zostało wygenerowane przez sztuczną inteligencję.
Przeglądając go po raz drugi grzebieniem o drobnych zębach, widać, że obraz został wygenerowany przez sztuczną inteligencję, ale właśnie w tym tkwi problem - nikt nie przegląda sieci z taką intensywnością.
Wraz z rozprzestrzenianiem się usług generowania obrazów AI, w Internecie krążą tysiące, jeśli nie miliony obrazów generowanych przez sztuczną inteligencję. Facebook jest już zasypany tonami obrazów generowanych przez sztuczną inteligencję, a inne platformy mediów społecznościowych nie pozostają daleko w tyle.
Większość ludzi nie zauważy oznak, że te obrazy są generowane przez sztuczną inteligencję, i uzna je za dokładne odwzorowanie rzeczywistości. Wraz ze zbliżającym się sezonem wyborczym i w czasach, w których dezinformacja i kłamstwa są tak powszechne, stawka nigdy nie była tak wysoka, aby móc odróżnić fabrykację od rzeczywistości.
Mając to na uwadze, Meta zaczęła oznaczać obrazy wygenerowane przez sztuczną inteligencję przesyłane na Facebooka, Instagram i wątki, aby pomóc ludziom łatwo je odróżnić. Jednak nie wszyscy są zadowoleni ze sposobu, w jaki zrealizowali ten plan.
Etykietowanie Meta łączy w sobie elementy generowane przez sztuczną inteligencję i wspomagane przez sztuczną inteligencję
Wrzawa wokół oznaczania Meta sztuczną inteligencją wynika z faktu, że firma nie rozróżnia między wykorzystaniem sztucznej inteligencji do generowania fotorealistycznych obrazów a wykorzystaniem procesu sztucznej inteligencji do edycji zdjęcia. Jeśli chodzi o Meta, oba należą do tej samej kategorii.
Wielu pokrzywdzonych fotografów w mediach społecznościowych dzieli się przykładami tego, co im się przydarzyło. Były fotograf Białego Domu, Pete Souza, skarżył się, że nie mógł odznaczyć pola „Wykonane przy użyciu sztucznej inteligencji” podczas publikowania zdjęcia zrobionego przez siebie meczu koszykówki.
Inny fotograf, Peter Yan, oznaczył swoje zdjęcie góry Fuji jako „Wykonane przy użyciu sztucznej inteligencji”, ponieważ użył generatywnego narzędzia AI do usunięcia kosza na śmieci ze zdjęcia.
Czy istnieje różnica między sztuczną inteligencją a sztuczną inteligencją?
Sednem debaty wokół tagu AI Meta jest to, czy sprawiedliwe jest oznaczanie zdjęć jako „Wykonane przy użyciu sztucznej inteligencji”, nawet jeśli zostały one jedynie w minimalnym stopniu edytowane za pomocą generatywnych narzędzi AI.
Zrozumiałe jest, że fotografowie korzystający z generatywnych narzędzi AI nie chcą, aby etykieta „Made With AI” znajdowała się w pobliżu ich prac. Termin ten jest przeładowany, co sugeruje, że scena została sfabrykowana i sugeruje, że czerpią korzyści z pracy innych, biorąc pod uwagę, że wiele programów sztucznej inteligencji jest szkolonych w zakresie dzieł chronionych prawem autorskim bez zgody. Co więcej, oznaczenie ich pracy jako „Wykonane przy użyciu sztucznej inteligencji” podważa wysiłek i umiejętności włożone w stworzenie ostatecznego zdjęcia.
Z drugiej strony zwolennicy etykietowania Meta twierdzą, że użycie dowolnego narzędzia generatywnej sztucznej inteligencji, niezależnie od tego, jak małe, wprowadza sztuczną inteligencję do miksu. Dlatego zdjęcie nie jest już dokładnym odzwierciedleniem uchwyconej sceny i z technicznego punktu widzenia powinno należeć do kategorii „Wykonane przy użyciu sztucznej inteligencji”.
Przeciwnicy etykietowania twierdzą, że ludzie od zawsze edytują zdjęcia - czy naprawdę istnieje różnica między usuwaniem tła zdjęcia za pomocą sztucznej inteligencji a użyciem magicznej różdżki? Jeśli Meta tak bardzo zależy na dokładnym ukazaniu rzeczywistości taką, jaka jest, to czy nie powinna istnieć etykieta identyfikująca, kiedy zdjęcie zostało w jakikolwiek sposób zmienione?
Następnie zwracają uwagę, że narzędzia sztucznej inteligencji są teraz wbudowane we wszystko, od „Space Zoom” w Galaxy S20 Ultra po standardowe w branży aplikacje do edycji zdjęć, takie jak wypełnianie generatywne w programie Adobe Photoshop. Oznaczając obrazy z niewielkimi zmianami AI jako „Wykonane za pomocą” AI”, Meta tworzy scenariusz „chłopca, który płakał jak wilk”, w którym niewinne obrazy są oznaczane jako „Wykonane przy użyciu sztucznej inteligencji”, co powoduje, że ludzie tracą zaufanie do etykiety i stają się bardziej podatni na faktyczne treści sztucznej inteligencji wprowadzające w błąd.
Inni próbują znaleźć złoty środek, sugerując oddzielny tag „wspomagany sztuczną inteligencją” dla obrazów, które zostały jedynie minimalnie zmienione przez sztuczną inteligencję. Jednak pomysł ten od razu napotyka trudności. Na ile modyfikacji AI należy zezwolić, zanim zdjęcie zostanie uznane za „Wykonane przy użyciu AI?” I czy taki system w ogóle miałby czemukolwiek służyć? Czy złośliwy aktor nie mógłby po prostu zmienić niewielkiej części obrazu za pomocą sztucznej inteligencji, aby stworzyć wprowadzającą w błąd scenę?
Etykietowanie sztucznej inteligencji Meta nie jest niezawodne
Cała debata „Made With AI” może i tak być kwestią dyskusyjną, ponieważ każdy, kto chce, może po prostu całkowicie uniknąć tagu. Meta opiera się na informacjach zawartych w metadanych zdjęć w celu identyfikacji procesów AI, a usunięcie ich jest banalnie proste. PetaPixel stwierdził w swoich testach, że wystarczyło skopiować i wkleić obraz do pustego dokumentu, aby obejść tag, a wysłanie zrzutu ekranu obrazu również pozwala uniknąć tagu.
Wiarygodność oznakowania jest również podejrzana, ponieważ na platformach Meta znajduje się kilka obrazów w sposób oczywisty wygenerowanych przez sztuczną inteligencję, które nie zawierają znacznika. Natomiast inne obrazy bez sztucznej inteligencji są nim uderzane.
Nowe standardy w fotografii pojawiają się na horyzoncie
Pomimo obecnego trudnego stanu rzeczy na horyzoncie widać nadzieję. Wielu dużych cyfrowych odtwarzaczy multimedialnych ponownie zastanawia się nad zdjęciami i filmami, kładąc większy nacisk na ich pochodzenie i autentyczność. Podejrzewam, że w nadchodzących latach w tej dziedzinie nastąpią ogromne zmiany. Już teraz pojawiają się nowe inicjatywy mające na celu uwierzytelnianie mediów cyfrowych, z których największą jest Koalicja na rzecz pochodzenia i autentyczności treści, w skrócie C2PA.
C2PA to wspólny projekt dużych firm technologicznych, takich jak Adobe, Arm, Intel, Microsoft i Google, którego celem jest zapewnienie kontekstu i historii wszystkim mediom cyfrowym. Ideą jest to, że od momentu uchwycenia tworzony jest zapis cyfrowy, który jest powiązany ze wszystkimi nośnikami, ze szczegółowym określeniem, gdzie został wykonany, jakim aparatem i przez kogo. Każda kolejna edycja tematu jest również dodawana do tego rekordu, a wszystkie te informacje są następnie przekazywane oglądającemu, dzięki czemu zawsze jest on świadomy pochodzenia zdjęcia.
C2PA jest wciąż na wczesnym etapie rozwoju, ale już powstają nowe aparaty obsługujące ten standard i podejrzewam, że nie minie dużo czasu, zanim stanie się to normą.
Coraz trudniej niż kiedykolwiek odróżnić, co jest prawdziwe, od tego, co wygenerowało sztuczna inteligencja, a nowa wytwórnia Meta z pewnością nie pomaga. Inicjatywy takie jak C2PA są światełkiem w ciemnym tunelu, ale do powszechnego przyjęcia jeszcze trochę czasu.
Twoim obowiązkiem jest krytyczna ocena mediów, z których korzystasz, i upewnienie się, że to, co widzisz, jest autentyczne. Zapytaj źródło, poszukaj dodatkowych informacji i pamiętaj, że nie wszystkie obrazy „Made With AI” zostały wykonane przez sztuczną inteligencję.