Zespół MIT walczy ze złośliwą manipulacją obrazem AI po kilka pikseli na raz
Coraz popularniejsza jest edycja obrazów za pomocą sztucznej inteligencji, ale ta nowa technika może pomóc temu zapobiec.
W miarę jak tworzenie i edytowanie obrazów przez sztuczną inteligencję staje się coraz bardziej powszechne, pojawił się nowy problem związany z prywatnością cyfrową - nieuprawniona edycja czyjegoś dzieła sztuki lub obrazu przez sztuczną inteligencję. Jak dotąd nic nie stoi na przeszkodzie, aby ktoś zrobił zdjęcie w Internecie, przesłał je do programu AI i manipulował nim do najróżniejszych celów.
Ale nowa technika opracowana przez zespół z MIT może to zmienić.
Metoda ta, nazywana po prostu „PhotoGuard”, wymaga głębokiego zrozumienia algorytmów, na których działa sztuczna inteligencja. Mając to na uwadze, zespół opracował sposoby bardzo subtelnej zmiany obrazu, zakłócając sposób jego interpretacji przez sztuczną inteligencję. A jeśli sztuczna inteligencja nie zrozumie obrazu, nie może go edytować.
„U podstaw naszego podejścia” - wyjaśnił zespół z MIT w artykule na temat swojego projektu - „jest koncepcja uodporniania obrazu, czyli uodparniania konkretnego obrazu na manipulacje wspomagane przez sztuczną inteligencję poprzez dodanie starannie spreparowanego (niedostrzegalnego) zakłócenia w nim.”
PhotoGuard działa poprzez zmianę kilku wybranych pikseli na każdym obrazie w taki sposób, że sztuczna inteligencja widzi rzeczy, których nie ma. Zmiany te nie są widoczne dla ludzkiego oka, ale są oślepiająco jasne dla sztucznej inteligencji. Kiedy sztuczna inteligencja widzi edytowane piksele, przecenia ich znaczenie i edytuje obraz w tych pikselachzamiast w pozostałej części obrazu.
Aby przetestować swoje wyniki, zespół MIT wykonał 60 zdjęć i wygenerował zmiany AI przy użyciu różnych podpowiedzi - zarówno na uodpornionych, jak i nieimmunizowanych wersjach tego samego obrazu. Po utworzeniu nowego obrazu wykorzystano kilka wskaźników, aby określić, jak podobne były zmiany. Wynik końcowy? W teście 60 obrazów zespół stwierdził, że zmiany w obrazach uodpornionych „wyraźnie różniły się od tych w przypadku obrazów nieimmunizowanych”.
Oczywiście ta metoda nie jest niezawodna. Jeśli ktoś chciał wystarczająco mocno, nadal mógł złośliwie edytować obraz — na przykład przycinając zdjęcie do momentu wycięcia powodującego problemy piksela lub po prostu stosując filtr do obrazu. Stanowi to jednak poważną przeszkodę, która może zniechęcić wiele osób.
I chociaż ta metoda jest skuteczna w walce z sztuczną inteligencją tej generacji, nie musi to oznaczać, że stanie się tak w przyszłości. Dlatego twórcy PhotoGuard zachęcają do rozwoju w tym obszarze nie tylko za pomocą metod technicznych, ale poprzez „współpracę między organizacjami opracowującymi duże modele rozpowszechniania, użytkownikami końcowymi, a także platformami hostingu i rozpowszechniania danych”.
W tej chwili PhotoGuard to po prostu technika. Nie ma oprogramowania dostępnego publicznie, a twórca przyznaje, że czeka go sporo pracy, aby było praktyczne i dostępne dla ogółu społeczeństwa. Mimo to jest to krok naprzód w ochronie przed nowymi zagrożeniami ze strony sztucznej inteligencji, twierdzi zespół z MIT, i znak, że firmy muszą inwestować w walkę.