Firma Adobe potrzebuje Twojej pomocy w znalezieniu luk w zabezpieczeniach w Poświadczeniach treści i Firefly
Firma Adobe rozszerza swój program nagród za błędy. Jeśli jesteś etycznym hakerem lub badaczem bezpieczeństwa, oto jak możesz dołączyć (i zdobyć nagrody).
Łatanie luk w zabezpieczeniach jest niezbędne, aby chronić modele generatywnej sztucznej inteligencji (AI) przed złymi aktorami, generowaniem szkodliwych obrazów i innymi potencjalnymi nadużyciami. Aby zapewnić jak największe bezpieczeństwo niektórych swoich najnowszych i największych projektów związanych ze sztuczną inteligencją, firma Adobe rozszerzyła w środę swój program nagród za błędy, który nagradza badaczy bezpieczeństwa za znajdowanie i ujawnianie błędów, o certyfikaty treści i Adobe Firefly.
Dane uwierzytelniające treści to metadane umożliwiające łatwe stwierdzenie manipulacji dołączone do treści cyfrowych, które służą jako „etykieta wartości odżywczej”, umożliwiając użytkownikom sprawdzenie „składników” treści, takich jak imię i nazwisko twórcy, data utworzenia, wszelkie narzędzia użyte do utworzenia obrazu (w tym generatywne modele AI ) i wprowadzone zmiany.
W dobie obrazów generowanych przez sztuczną inteligencję to narzędzie dotyczące pochodzenia może pomóc ludziom odróżnić treści syntetyczne od treści stworzonych przez człowieka. Działa to jednak tylko wtedy, gdy dane uwierzytelniające treści są zabezpieczone przed manipulacją i używane zgodnie z przeznaczeniem. Firma Adobe korzysta obecnie z crowdsourcingu działań w zakresie bezpieczeństwa danych uwierzytelniających za pośrednictwem swojego programu nagród za błędy, aby wzmocnić zabezpieczenia przed potencjalnymi nadużyciami, takimi jak nieprawidłowe dołączanie danych uwierzytelniających do niewłaściwej treści.
Niektóre generatory obrazów AI, takie jak Adobe Firefly, automatycznie dołączają dane uwierzytelniające treści do treści generowanych przez sztuczną inteligencję. Firefly to grupa generatywnych modeli sztucznej inteligencji firmy Adobe, która umożliwia tworzenie obrazów na podstawie podpowiedzi, innych obrazów i nie tylko. Ta rodzina modeli jest łatwo dostępna publicznie za pośrednictwem samodzielnej aplikacji internetowej i niektórych najpopularniejszych aplikacji firmy Adobe, w tym Photoshopa.
W komunikacie podano, że Adobe chce, aby badacze bezpieczeństwa przetestowali Firefly pod kątem najważniejszych zagrożeń bezpieczeństwa Open Worldwide Application Security Project (OWASP) w aplikacjach z dużym modelem językowym (LLM), takich jak natychmiastowe wstrzykiwanie, ujawnianie poufnych informacji i zatruwanie danych szkoleniowych. Firma Adobe wykorzysta następnie tę opinię do skoncentrowania swoich badań i dalszych wysiłków na wyeliminowaniu słabych punktów Firefly.
„Mamy nadzieję, że dzięki aktywnej współpracy ze społecznością ds. bezpieczeństwa uzyskamy dodatkowy wgląd w stan bezpieczeństwa naszych technologii generatywnej sztucznej inteligencji, co z kolei zapewni cenne informacje zwrotne dla naszego programu bezpieczeństwa wewnętrznego” - oznajmiła firma Adobe w swoim komunikacie.
Firma Adobe zaprasza etycznych hakerów zainteresowanych udziałem w programie nagród za błędy do odwiedzenia strony Adobe HackerOne i przesłania zgłoszenia za pośrednictwem tego formularza, w którym zadawane są pytania dotyczące badań i wiedzy wnioskodawcy w zakresie bezpieczeństwa.
Oprócz poświadczeń treści i programu Adobe Firefly program nagród za błędy jest dostępny dla większości aplikacji internetowych firmy Adobe oraz komputerowych i mobilnych wersji aplikacji Creative Cloud. Pełną listę dołączonych aplikacji można znaleźć na stronie internetowej programu Adobe Bug Bounty.
Co dziwne, podczas gdy strona HackerOne zawiera listę nagród w wysokości od 100 do 10 000 dolarów, na stronie Adobe znajduje się informacja, że „w tym programie nie przewidziano nagród pieniężnych za zgłoszenie błędów. " Nie jest jasne, czy odnosi się to tylko do prywatnego programu nagród za błędy firmy Adobe.
OpenAI prowadzi także program nagród za błędy, dzięki któremu badacze bezpieczeństwa mogą zarobić od 200 do 20 000 dolarów, w zależności od rodzaju luki.