Amazon dołącza do komitetu sterującego C2PA, aby identyfikować treści generowane przez sztuczną inteligencję
C2PA poszerza swoje szeregi, ale inne organizacje o pochodzeniu cyfrowym są zaniepokojone listą swoich członków.
Ponieważ fałszywe i syntetyczne media stają się coraz bardziej powszechne dzięki generatywnej sztucznej inteligencji (gen AI), kilka organizacji próbuje udoskonalić cyfrowe znaki wodne, aby określić pochodzenie treści. Żadna z nich nie odniosła jeszcze tak naprawdę sukcesu, ale jedna z takich grup, Koalicja na rzecz Pochodzenia i Autentyczności Treści (C2PA), wzmacnia swoje szeregi.
W piątek C2PA ogłosiło, że Amazon został jednym z członków komitetu sterującego organizacji. Należąca do rodziny Linux Foundation firma C2PA opisuje siebie jako „otwarty organ ds. standardów technicznych, zajmujący się rozpowszechnieniem wprowadzających w błąd informacji w Internecie poprzez opracowywanie standardów technicznych potwierdzania źródła i historii (lub pochodzenia) treści cyfrowych”.
Firma Adobe współtworzyła C2PA i pomogła w ustanowieniu poświadczeń treści, które C2PA utrzymuje obecnie jako jedno ze sposobów zwiększania przejrzystości pochodzenia treści cyfrowych. Poświadczenia treści ujawniają, jak i kiedy treść została wygenerowana lub zmodyfikowana. Koalicja ma nadzieję, że poświadczenia treści staną się standardem ogólnobranżowym.
Dołączając do koalicji, Amazon zgadza się powiązać dane uwierzytelniające z treścią wygenerowaną przez Titan Image Generator v1 i v2, jego twórcę obrazów AI dla przedsiębiorstw.
„Dzięki implementacji poświadczeń treści konsumenci będą mogli zweryfikować pochodzenie i autentyczność treści generowanych przez sztuczną inteligencję”.
Firma doda także narzędzie pochodzenia do AWS Elemental MediaConvert, „opartej na plikach usługi przetwarzania wideo, która transkoduje treść na potrzeby transmisji i dostarczania na wiele ekranów na dużą skalę” - wyjaśnia komunikat. Oznacza to, że organizacje informacyjne, komentatorzy sportowi, agregatorzy i inni klienci będą mogli sprawdzić, skąd pochodzą udostępniane przez nich filmy przed ich dalszą dystrybucją.
„Wszystkie obrazy generowane przez Amazon Titan domyślnie zawierają niewidoczny znak wodny, co stanowi dyskretny mechanizm pomagający ograniczyć rozprzestrzenianie się dezinformacji” - powiedział Vasi Philomin, wiceprezes gen AI w AWS. „Dołączenie do C2PA i przyjęcie poświadczeń treści stanowi kolejny kluczowy krok w naszej podróży w kierunku odpowiedzialnych innowacji w zakresie sztucznej inteligencji”.
„Wdrożenie poświadczeń treści w narzędziach i usługach, które docierają zarówno do organizacji informacyjnych, jak i do ogółu konsumentów, stanowi kontynuację misji C2PA polegającej na promowaniu przejrzystości w ekosystemie mediów cyfrowych” - powiedział Andrew Jenks, przewodniczący wykonawczy C2PA. W idealnym przypadku standaryzacja danych uwierzytelniających treści zmniejszyłaby ilość krążących dezinformacji i dezorientacji konsumentów.
Philomin dodał, że Amazon planuje „opracować znaczące narzędzia” zapewniające bezpieczeństwo sztucznej inteligencji we współpracy z innymi członkami C2PA, do których należą między innymi Google, Meta, OpenAI, Microsoft, BBC i Intel.
Jednak dla niektórych ten gwiazdorski skład jest nieodłącznym problemem.
W lipcu podmiot certyfikujący treści cyfroweNumbers Protocol wraz z kilkoma innymi organizacjami zajmującymi się blockchainem i sztuczną inteligencją założył Creative Origin Alliance, „demokratyczną, przejrzystą i zdecentralizowaną alternatywę” dla C2PA, w której „wszyscy członkowie będą mieli równy głos, a twórcy będą mieli usiądź przy stole.”
Sojusz powstał w wyniku aktualizacji Warunków świadczenia usług Adobe, która sugerowała, że praca użytkowników może zostać wykorzystana do szkolenia Firefly, narzędzia Adobe do tworzenia obrazów AI, dzięki któremu społeczność twórców cyfrowych poczuła się „okupowana przez wielką technologię”. Zaniepokojony konfliktami interesów między C2PA a założycielami takimi jak Adobe, Sojusz ma na celu zwrócenie uwagi mniejszych głosów w branży, opowiadając się za prywatnością i technologią open source, pozycjonując się jako Dawid i Goliat C2PA.
Adobe utrzymuje, że tak nie było.
„Rozumiemy, że niedawna ponowna akceptacja Warunków użytkowania mogła spowodować nieporozumienia wśród naszych klientów, ale nie sugerowaliśmy naszym klientom, że ich praca może zostać wykorzystana do szkolenia Firefly” - wyjaśniła firma w oświadczeniu przesłanym ZDNET. „Właściwie od samego początku stanowisko Adobe w tej sprawie było spójne, że nie szkolimy i nigdy nie szkoliliśmy programu Adobe Firefly w zakresie treści klientów”.
Więcej o polityce firmy Firefly możesz przeczytać tutaj.