Wszystkie oczy zwrócone są na cyberobronę, gdy wybory wkraczają w erę generatywnej sztucznej inteligencji
Ludzi łatwiej złamać niż systemy informatyczne, a błądzący aktorzy będą wykorzystywać generatywną sztuczną inteligencję, aby wykorzystać tę szansę.
W miarę jak kraje przygotowują się do przeprowadzenia ważnych wyborów w nowej erze naznaczonej generatywną sztuczną inteligencją (AI), głównymi celami haktywistów i aktorów państw narodowych będą ludzie.
Generatywna sztuczna inteligencja może nie zmieniła sposobu rozprzestrzeniania się treści, ale zwiększyła jej objętość i wpłynęła na jej dokładność.
Według Allie Mellen, głównej analityk w Forrester Research, technologia ta pomogła cyberprzestępcom generować lepsze e-maile phishingowe na większą skalę, umożliwiające uzyskanie dostępu do informacji o docelowym kandydacie lub wyborach. Badania Mellen obejmują operacje związane z bezpieczeństwem i zagrożenia dla państw narodowych, a także wykorzystanie uczenia maszynowego i sztucznej inteligencji w narzędziach bezpieczeństwa. Jej zespół uważnie śledzi zakres dezinformacji i dezinformacji w 2024 r.
Mellen zwróciła uwagę na rolę, jaką odgrywają firmy z branży mediów społecznościowych w ochronie przed rozprzestrzenianiem się dezinformacji i dezinformacji, aby uniknąć powtórzenia wyborów w USA w 2016 r.
Z najnowszego badania opublikowanego przez Yubico i Defending Digital Campaigns wynika, że prawie 79% wyborców w USA wyraziło obawy, że treści generowane przez sztuczną inteligencję mogą być wykorzystywane do podszywania się pod kandydata politycznego lub tworzenia fałszywych treści. Kolejne 43% stwierdziło, że wierzy, że takie treści zaszkodzą wynikom tegorocznych wyborów. W ankiecie przeprowadzonej przez OnePoll wzięło udział 2000 zarejestrowanych wyborców w USA, aby ocenić wpływ cyberbezpieczeństwa i sztucznej inteligencji na przebieg kampanii wyborczej w 2024 r.
Respondenci otrzymali klip audio nagrany przy użyciu głosu AI, a 41% stwierdziło, że wierzy, że jest to głos ludzki. Około 52% otrzymało także e-mail lub SMS-a, który prawdopodobnie pochodził z kampanii, ale ich zdaniem stanowił próbę wyłudzenia informacji.
„Tegoroczne wybory są szczególnie ryzykowne ze względu na cyberataki skierowane na kandydatów, pracowników i wszystkie osoby powiązane z kampanią” - oznajmił w komunikacie prasowym prezes i dyrektor generalny Defending Digital Campaigns Michael Kaiser. „Posiadanie odpowiedniego cyberbezpieczeństwa nie wchodzi w grę - jest niezbędne dla każdego, kto prowadzi operację polityczną. W przeciwnym razie kampanie stwarzają ryzyko nie tylko utraty cennych danych, ale także utraty wyborców”.
Zauważając, że kampanie opierają się na zaufaniu, David Treece, wiceprezes ds. architektury rozwiązań w Yubico, dodał w swoim komunikacie, że potencjalne ataki hakerskie, takie jak fałszywe e-maile lub deepfake w mediach społecznościowych, które bezpośrednio wchodzą w interakcję z odbiorcami, mogą mieć wpływ na kampanie. Treece wezwała kandydatów do podjęcia odpowiednich kroków w celu ochrony swoich kampanii i przyjęcia praktyk w zakresie cyberbezpieczeństwa w celu budowania zaufania wyborców.
Kluczowa jest także zwiększona świadomość społeczna na temat fałszywych treści, ponieważ człowiek stanowi ostatnią linię obrony, Mellen powiedziała ZDNET.
Podkreśliła ponadto, że firmy technologiczne muszą mieć świadomość, że zabezpieczenie wyborów to nie tylko kwestia rządowa, ale szersze wyzwanie krajowe, które musi rozważyć każda organizacja w branży.
Najważniejsze jest zarządzanie, stwierdziła. Nie każdy atak typu deepfake lub atak socjotechniczny może zostać prawidłowo zidentyfikowany, ale organizacja może złagodzić jego skutki poprzez odpowiednie bramkowanie i procesy uniemożliwiające pracownikowi wysyłanie pieniędzy do źródła zewnętrznego.
„Ostatecznie chodzi o zajęcie się źródłem problemu, a nie jego objawami” - powiedziała Mellen. „Najbardziej powinniśmy martwić się ustanowieniem odpowiedniego zarządzania i [warstw] walidacji, aby zapewnić legalność transakcji”.
Jednocześnie stwierdziła, że powinniśmy w dalszym ciągu ulepszać nasze możliwości w zakresie wykrywania deepfakes i fałszywych treści wykorzystujących sztuczną inteligencję.
Atakujący wykorzystujący technologie generatywnej sztucznej inteligencji to głównie podmioty z państw narodowych, a inni trzymają się głównie technik ataku, które już działają. Powiedziała, że ugrupowania zagrażające na szczeblu państw narodowych są bardziej zmotywowane do zwiększania skali swoich ataków i chcą wprowadzać nowe technologie i sposoby dostępu do systemów, do których w innym przypadku nie byliby w stanie uzyskać dostępu. Przestrzegła, że jeśli tym podmiotom uda się szerzyć dezinformację, może to podważyć zaufanie publiczne i rozerwać społeczeństwa od wewnątrz.
Generatywna sztuczna inteligencja wykorzystująca ludzką słabość
Nathan Wenzler, główny specjalista ds. strategii bezpieczeństwa w firmie Tenable zajmującej się cyberbezpieczeństwem, powiedział, że zgadza się z tą opinią, ostrzegając, że podmioty z państw narodowych prawdopodobnie podniosą wysiłki, aby nadużywać zaufania poprzez dezinformację i dezinformację.
Chociaż jego zespół nie zauważył w tym roku żadnych nowych typów zagrożeń bezpieczeństwa w związku z pojawieniem się generatywnej sztucznej inteligencji, Wenzler powiedział, że technologia ta umożliwiła atakującym zwiększenie skali i zakresu.
Ta funkcja umożliwia aktorom z państw narodowych wykorzystanie ślepego zaufania społeczeństwa do tego, co widzą w Internecie i chęci zaakceptowania tego jako faktu, a także wykorzystanie generatywnej sztucznej inteligencji do rozpowszechniania treści, które służą ich celowi, Wenzler powiedział ZDNET.
Wenzler stwierdził, że zdolność technologii sztucznej inteligencji do generowania przekonujących e-maili phishingowych i deepfake’ów również przyczyniła się do uznania inżynierii społecznej za realny katalizator przeprowadzania ataków.
Narzędzia cyberobrony stały się bardzo skuteczne w eliminowaniu słabych punktów technicznych, co utrudnia złamanie zabezpieczeń systemów informatycznych. Powiedział, że przeciwnicy zagrożeń zdają sobie z tego sprawę i wybierają łatwiejszy cel.
„W miarę jak coraz trudniej jest złamać technologię, ludzi [okazuje się] łatwiej złamać, a GenAI to kolejny krok [który pomaga hakerom] w tym procesie” - zauważył. „Sprawi to, że [ataki] inżynierii społecznej będą skuteczniejsze, a atakującym umożliwi szybsze i skuteczniejsze generowanie treści, z dobrym wskaźnikiem skuteczności”.
Jeśli cyberprzestępcy wyślą 10 milionów wiadomości e-mail typu phishing, już zaledwie 1% poprawa w tworzeniu treści, które lepiej przekonają cele do kliknięcia, przyniesie zysk w postaci dodatkowych 100 000 ofiar - stwierdził.
„Chodzi o szybkość i skalę. GenAI będzie dla tych grup głównym narzędziem do tworzenia ataków socjotechnicznych” - dodał.
Jak bardzo rządy powinny przejmować się generatywnymi zagrożeniami związanymi ze sztuczną inteligencją?
„Powinni być bardzo zaniepokojeni” - powiedział Wenzler. „To znowu jest atak na zaufanie. To naprawdę uderza w ludzką psychikę. Ludzie chcą ufać temu, co widzą i chcą sobie wierzyć. Ze społecznego punktu widzenia nie radzimy sobie wystarczająco dobrze z kwestionowaniem tego, co widzimy i bądź czujny, a dzięki GenAI jest to coraz trudniejsze.
„Chcecie wzbudzić zdrowy sceptycyzm, ale jeszcze tego nie osiągnęliśmy” - stwierdził, zauważając, że trudno będzie zaradzić temu fakcie, ponieważ szkody już zostały wyrządzone, a duża część społeczeństwa błędnie uwierzyłaby w to, co widziałem przez jakiś czas.
Docelowo firmy zajmujące się bezpieczeństwem stworzą narzędzia, takie jak wykrywanie deepfake, które będą w stanie skutecznie stawić czoła temu wyzwaniu w ramach infrastruktury zautomatyzowanej obrony - dodał.
Duże modele językowe wymagają ochrony
Organizacje powinny również pamiętać o danych wykorzystywanych do uczenia modeli sztucznej inteligencji.
Mellen stwierdziła, że dane szkoleniowe w dużych modelach językowych (LLM) należy sprawdzać i chronić przed złośliwymi atakami, takimi jak zatruwanie danych. Skażone modele AI mogą generować fałszywe wyniki.
Sergy Shykevich, menedżer grupy ds. analizy zagrożeń w firmie Check Point Software, również podkreślił ryzyko związane z LLM, w tym większymi modelami sztucznej inteligencji obsługującymi główne platformy, takie jak ChatGPT firmy OpenAI i Gemini firmy Google.
Shykevich powiedział ZDNET, że podmioty z państw narodowych mogą obrać za cel te modele, aby uzyskać dostęp do silników i manipulować odpowiedziami generowanymi przez platformy generatywnej sztucznej inteligencji. Mogą wówczas wpłynąć na opinię publiczną i potencjalnie zmienić przebieg wyborów.
Ponieważ nie ma jeszcze żadnych przepisów regulujących sposób zabezpieczania LLM, podkreślił potrzebę przejrzystości ze strony firm obsługujących te platformy.
Ponieważ generatywna sztuczna inteligencja jest stosunkowo nowa, zarządzanie takimi systemami i zrozumienie, dlaczego i w jaki sposób są generowane odpowiedzi, może stanowić wyzwanie dla administratorów, stwierdziła Mellen.
Wenzler zauważył, że organizacje mogą ograniczać ryzyko, korzystając z mniejszych, bardziej ukierunkowanych i specjalnie zaprojektowanych LLM do zarządzania danymi używanymi do szkolenia generatywnych aplikacji AI i ich ochrony.
Chociaż spożywanie większych zbiorów danych przynosi korzyści, zalecił firmom sprawdzenie swojego apetytu na ryzyko i znalezienie właściwej równowagi.
Wenzler wezwał rządy do szybszych działań i ustanowienia niezbędnych mandatów i zasad, aby zaradzić zagrożeniom związanym z generatywną sztuczną inteligencją. Zasady te wyznaczą kierunek organizacjom w zakresie przyjmowania i wdrażania generatywnych aplikacji AI - dodał.