Giganci technologiczni obiecują zwalczać fałszywe treści AI w roku wielkich wyborów
Firmy technologiczne, takie jak Google, Meta i OpenAI, podpisały porozumienie dotyczące filtrowania zwodniczych treści generowanych przez sztuczną inteligencję w 2024 r. - roku, w którym odbędzie się najwięcej wyborów w historii.
Google, Meta, OpenAI i X (dawniej Twitter) należą do 20 firm technologicznych, które zobowiązały się do wyeliminowania fałszywych treści generowanych przez sztuczną inteligencję (AI) w ramach działań mających na celu zabezpieczenie światowych wyborów, które odbędą się w tym roku.
Zespół firm podpisał Porozumienie technologiczne w sprawie zwalczania oszukańczego użycia sztucznej inteligencji podczas wyborów w 2024 r. na Konferencji Bezpieczeństwa w Monachium, które określa „dobrowolne ramy zasad i działań” obejmujące zapobieganie, wykrywanie, reagowanie i ocenę oraz identyfikowanie źródła oszukańczych treści wyborczych AI.
Jak wynika ze wspólnego oświadczenia wydanego przez sygnatariuszy porozumienia technologicznego, do których należą także TikTok, Amazon, IBM, Anthropic i Microsoft, obejmuje to również wysiłki mające na celu podniesienie świadomości społecznej na temat sposobów ochrony przed manipulacją takimi treściami.
Na mocy porozumienia 20 organizacji zobowiązało się do przestrzegania ośmiu założeń misji, w tym dążenia do wykrywania i zapobiegania rozpowszechnianiu oszukańczych treści wyborczych AI oraz zapewniania społeczeństwu przejrzystości w zakresie sposobu, w jaki odnosi się do takich treści. Będą wspólnie pracować nad opracowaniem i wdrożeniem narzędzi umożliwiających identyfikację i ograniczanie rozprzestrzeniania się treści, a także śledzenie ich pochodzenia.
Wysiłki te mogą obejmować opracowanie klasyfikatorów lub metod i standardów pochodzenia, takich jak znak wodny lub podpisane metadane, a także dołączanie informacji nadających się do odczytu maszynowego do treści generowanych przez sztuczną inteligencję.
Osiem zobowiązań będzie miało zastosowanie w stosownych przypadkach do usług świadczonych przez każde przedsiębiorstwo.
Porozumienie obejmuje treści definiowane jako „przekonujące” pliki audio, wideo i obrazy generowane przez sztuczną inteligencję, które „w zwodniczy sposób fałszują lub zmieniają wygląd, głos lub działania” kandydatów politycznych, urzędników wyborczych i innych kluczowych stron zaangażowanych w wybory lub które wywierają nacisk na fałszywe informowanie opinii publicznej o tym, gdzie, kiedy i jak głosować.
„2024 przyniesie więcej wyborów do większej liczby ludzi niż jakikolwiek rok w historii, a ponad 40 krajów i ponad cztery miliardy ludzi wybierze swoich przywódców i przedstawicieli” - stwierdza porozumienie technologiczne. „Jednocześnie szybki rozwój sztucznej inteligencji stwarza nowe możliwości, ale i wyzwania dla procesu demokratycznego. Całe społeczeństwo będzie musiało skorzystać z możliwości, jakie stwarza sztuczna inteligencja i wspólnie podjąć nowe kroki, aby chronić wybory i proces wyborczy w tym wyjątkowym roku.”
Porozumienie ma na celu określenie oczekiwań dotyczących sposobu, w jaki sygnatariusze będą zarządzać ryzykiem wynikającym ze zwodniczych treści wyborczych AI tworzonych za pośrednictwem ich platform publicznych lub otwartych modeli podstawowych lub rozpowszechnianych na ich platformach społecznościowych i wydawniczych. Są one zgodne z polityką i praktyką sygnatariuszy.
Porozumienie nie obejmuje modeli lub wersji demonstracyjnych przeznaczonych do celów badawczych lub głównie do użytku korporacyjnego.
Sygnatariusze dodali, że sztuczną inteligencję można wykorzystać, aby pomóc obrońcom w przeciwdziałaniu złym podmiotom i umożliwić szybsze wykrywanie zwodniczych kampanii. Narzędzia AI mogą również znacznie obniżyć całkowity koszt obrony, umożliwiając mniejszym organizacjom wdrożenie solidnych zabezpieczeń.
„Jako firmy technologiczne jesteśmy zobowiązani do wypełnienia swojej roli, uznając jednocześnie, że oszukańcze wykorzystanie sztucznej inteligencji to nie tylko wyzwanie techniczne, ale także kwestia polityczna, społeczna i etyczna, i mamy nadzieję, że inni w podobny sposób zaangażują się w działania w całym społeczeństwie” - sygnatariusze powiedział. „Potwierdzamy, że ochrona integralności wyborczej i zaufania publicznego jest wspólną odpowiedzialnością i dobrem wspólnym, które wykracza poza partyzanckie interesy i granice narodowe”.
Christoph Heusgen, przewodniczący Konferencji Bezpieczeństwa w Monachium, powiedział, że porozumienie jest „kluczowym krokiem” w kierunku poprawy uczciwości wyborów i odporności społecznej. Pomoże to również w stworzeniu „godnych zaufania praktyk technologicznych” - powiedział.
Jak wynika z raportu Global Risks Report 2024 opublikowanego w zeszłym miesiącu przez Światowe Forum Ekonomiczne (WEF), w tym roku dominować będą powiązane zagrożenia wynikające z dezinformacji na temat spójności społecznej opartej na sztucznej inteligencji. W raporcie wymieniono dezinformację i dezinformację jako główne globalne ryzyko w ciągu najbliższych dwóch lat, ostrzegając, że jej powszechne stosowanie oraz narzędzia służące do jej rozpowszechniania mogą podważyć legitymację nowych nadchodzących rządów.