Firma Microsoft dodaje nowe zabezpieczenia projektantów po klęsce Taylor Swift związanej z deepfake'ami
Załatano luki umożliwiające tworzenie obrazów.
Generatory obrazów AI mogą pobudzić kreatywność i zrewolucjonizować tworzenie treści na lepsze. Jednak niewłaściwe użycie może wyrządzić realną szkodę poprzez rozpowszechnianie dezinformacji i utratę reputacji. Microsoft ma nadzieję zapobiec dalszemu niewłaściwemu korzystaniu z narzędzi generatywnej sztucznej inteligencji poprzez wdrożenie nowych zabezpieczeń.
W zeszłym tygodniu wygenerowane przez sztuczną inteligencję deepfake’i seksualizujące Taylor Swift stały się popularne na Twitterze. Według doniesień zdjęcia zostały udostępnione za pośrednictwem 4chan i kanału Telegram, gdzie użytkownicy udostępniają wygenerowane przez sztuczną inteligencję zdjęcia celebrytów utworzone w programie Microsoft Designer.
Microsoft Designer to aplikacja do projektowania graficznego firmy Microsoft zawierająca Image Creator, firmowy generator obrazów AI, który wykorzystuje DALLE-3 do generowania realistycznych obrazów. Generator miał bariery zabezpieczające przed niewłaściwymi podpowiedziami wyraźnie wymieniającymi nagość lub osoby publiczne.
Z raportu wynika jednak, że użytkownicy znaleźli luki, takie jak błędna pisownia imion gwiazd i opisywanie zdjęć, które nie zawierały wyraźnie określeń seksualnych, ale generowały ten sam rezultat.
Firma Microsoft załatała teraz te luki, uniemożliwiając generowanie zdjęć celebrytów. Próbowałem wpisać monit „Selena Gomez gra w golfa” w kreatorze obrazów i otrzymałem alert z informacją, że mój monit został zablokowany. Próbowałem też błędnie napisać jej imię i otrzymałem ten sam alert.
„Dążymy do zapewnienia każdemu bezpiecznego i pełnego szacunku doświadczenia” - powiedział rzecznik Microsoftu w ZDNET. „Nadal badamy te obrazy i wzmacniamy nasze istniejące systemy bezpieczeństwa, aby jeszcze bardziej zapobiegać niewłaściwemu wykorzystaniu naszych usług do generowania takich obrazów”.
Ponadto Kodeks postępowania firmy Microsoft Designer wyraźnie zabrania tworzenia treści intymnych dla dorosłych lub treści intymnych za zgodą użytkownika, a naruszenie tych zasad może skutkować całkowitą utratą dostępu do usługi.
Z raportu wynika, że niektórzy użytkownicy wyrazili już zainteresowanie znalezieniem obejścia tych nowych zabezpieczeń w kanale Telegram. Zatem prawdopodobnie będzie to gra w kotka i myszkę pomiędzy złymi aktorami znajdującymi i wykorzystującymi luki w generatywnych narzędziach sztucznej inteligencji a firmami stojącymi za tymi narzędziami, które od dawna starają się je naprawić.