Nowe narzędzie Google może wykrywać obrazy wygenerowane przez sztuczną inteligencję, ale nie jest to takie proste

Narzędzie zostało stworzone przez zespół DeepMind jako krok w stronę odpowiedzialnej sztucznej inteligencji.

Narzędzie może wykryć obrazy wygenerowane przez sztuczną inteligencję nawet po edycji, zmianie kolorów lub dodaniu filtrów.

Obrazy generowane przez narzędzia sztucznej inteligencji stają się coraz trudniejsze do odróżnienia od tych, które stworzyli ludzie. Obrazy generowane przez sztuczną inteligencję mogą rozpowszechniać dezinformację na masową skalę, prowadząc do nieodpowiedzialnego wykorzystania sztucznej inteligencji. W tym celu Google zaprezentowało nowe narzędzie SynthID, które potrafi odróżnić obrazy wygenerowane przez sztuczną inteligencję od obrazów stworzonych przez człowieka.

Narzędzie stworzone przez zespół DeepMind dodaje niezauważalny cyfrowy znak wodny do obrazów generowanych przez sztuczną inteligencję - niczym podpis. To samo narzędzie może później wykryć ten znak wodny, aby wskazać, które obrazy zostały utworzone przez sztuczną inteligencję, nawet po modyfikacjach, takich jak dodanie filtrów, kompresja, zmiana kolorów i inne.

SynthID łączy dwa modele głębokiego uczenia się w jedno narzędzie. Jeden wizualnie dodaje znak wodny do oryginalnej treści w sposób niezauważalny gołym okiem, a drugi identyfikuje obrazy ze znakiem wodnym.

Obecnie SynthID nie jest w stanie wykryć wszystkich obrazów wygenerowanych przez sztuczną inteligencję, ponieważ ogranicza się do tych utworzonych za pomocą narzędzia Google do konwersji tekstu na obraz, Imagen. Jest to jednak oznaka obiecującej przyszłości odpowiedzialnej sztucznej inteligencji, zwłaszcza jeśli inne firmy wdrożą SynthID do swoich narzędzi generatywnej sztucznej inteligencji.

Narzędzie będzie stopniowo udostępniane klientom Vertex AI korzystającym z Imagen i jest dostępne tylko na tej platformie. Jednak Google DeepMind ma nadzieję wkrótce udostępnić tę funkcję w innych produktach Google i podmiotach trzecich.