ChatGPT i nowa sztuczna inteligencja sieją spustoszenie w cyberbezpieczeństwie w ekscytujący i przerażający sposób
Nieskrępowani etyką ani prawem cyberprzestępcy ścigają się, wykorzystując sztuczną inteligencję do znajdowania nowych, innowacyjnych hacków, mówi dyrektor generalny Recorded Future Christopher Ahlberg.
Generacyjna sztuczna inteligencja zmienia cyberbezpieczeństwo, pomagając zarówno atakującym, jak i obrońcom. Cyberprzestępcy wykorzystują sztuczną inteligencję do przeprowadzania wyrafinowanych i nowatorskich ataków na dużą skalę. A obrońcy używają tej samej technologii do ochrony infrastruktury krytycznej, organizacji rządowych i sieci korporacyjnych, powiedział Christopher Ahlberg, dyrektor generalny platformy analizy zagrożeń Recorded Future.
Generatywna sztuczna inteligencja pomogła złym aktorom wprowadzać innowacje i opracowywać nowe strategie ataków, dzięki czemu mogą być o krok przed zabezpieczeniami cyberbezpieczeństwa. Sztuczna inteligencja pomaga cyberprzestępcom automatyzować ataki, skanować obszary ataku i generować treści, które odpowiadają różnym regionom geograficznym i demograficznym, dzięki czemu mogą atakować szerszą gamę potencjalnych ofiar w różnych krajach. Cyberprzestępcy przyjęli tę technologię do tworzenia przekonujących wiadomości e-mail phishingowych. Tekst wygenerowany przez sztuczną inteligencję pomaga atakującym tworzyć wysoce spersonalizowane e-maile i SMS-y, które z większym prawdopodobieństwem oszukają cele.
„Myślę, że nie trzeba myśleć zbyt kreatywnie, żeby zdać sobie sprawę, że to faktycznie może pomóc [cyberprzestępcom] zostać autorami, co stanowi problem” - powiedział Ahlberg.
Obrońcy używają sztucznej inteligencji do odpierania ataków. Organizacje korzystają z tej technologii, aby zapobiegać wyciekom i aktywnie znajdować luki w zabezpieczeniach sieci. Automatyzuje również dynamicznie zadania, takie jak konfigurowanie alertów dla określonych słów kluczowych i wykrywanie poufnych informacji w Internecie. Łowcy zagrożeń wykorzystują sztuczną inteligencję do identyfikowania nietypowych wzorców i podsumowywania dużych ilości danych, łącząc punkty z wielu źródeł informacji i ukrytych wzorców.
Do tej pracy nadal potrzebni są eksperci, ale Ahlberg twierdzi, że pomocna może być technologia generatywnej sztucznej inteligencji, którą widzimy w projektach takich jak ChatGPT.
„Chcemy przyspieszyć cykl analizy, aby pomóc nam analizować z szybkością myślenia” - powiedział. „To bardzo trudna rzecz i myślę, że widzimy tutaj przełom, co jest dość ekscytujące”.
Ahlberg omówił także potencjalne zagrożenia, jakie mogą nieść ze sobą wysoce inteligentne maszyny. W miarę jak świat staje się coraz bardziej cyfrowy i połączony ze sobą, zdolność do naginania rzeczywistości i kształtowania sposobu postrzegania może zostać wykorzystana przez złośliwe podmioty. Zagrożenia te nie ograniczają się do państw narodowych, co czyni krajobraz jeszcze bardziej złożonym i asymetrycznym.
Sztuczna inteligencja ma potencjał, aby pomóc w ochronie przed pojawiającymi się zagrożeniami, ale wiąże się również z własnym zestawem zagrożeń. Na przykład maszyny o dużych możliwościach przetwarzania mogą hakować systemy szybciej i skuteczniej niż ludzie. Aby przeciwdziałać tym zagrożeniom, musimy dopilnować, aby sztuczna inteligencja była wykorzystywana w defensywie i przy jasnym zrozumieniu, kto sprawuje kontrolę.
W miarę jak sztuczna inteligencja staje się coraz bardziej zintegrowana ze społeczeństwem, ważne jest, aby prawodawcy, sędziowie i inni decydenci rozumieli tę technologię i jej konsekwencje. Budowanie silnych sojuszy między ekspertami technicznymi a decydentami będzie miało kluczowe znaczenie dla kierowania przyszłością sztucznej inteligencji w polowaniu na zagrożenia i nie tylko.
Możliwości, wyzwania i względy etyczne związane ze sztuczną inteligencją w zakresie cyberbezpieczeństwa są złożone i ewoluują. Zapewnienie bezstronnych modeli sztucznej inteligencji i utrzymanie zaangażowania człowieka w podejmowanie decyzji pomoże sprostać wyzwaniom etycznym. Czujność, współpraca i dokładne zrozumienie technologii będą miały kluczowe znaczenie w eliminowaniu potencjalnych długoterminowych zagrożeń związanych z wysoce inteligentnymi maszynami.
Ahlberg wyraził również obawy dotyczące wdrożenia autonomicznych maszyn przez Chiny, Rosję i przeciwników gospodarczych. Kraje te prawdopodobnie nie spowalniają rozwoju sztucznej inteligencji ani nie będą podzielać względów etycznych. Chociaż możliwość „wyciągnięcia wtyczki” z takich maszyn jest mądrym zabezpieczeniem, sugeruje, że integracja technologii ze społeczeństwem i globalną gospodarką prawdopodobnie utrudni odłączenie się. Ahlberg podkreśla potrzebę projektowania produktów i maszyn w sposób przejrzysty określający, kto je kontroluje.
„Najważniejszą rzeczą, jaką w tym wszystkim dokonał Internet, było to, że stał się miejscem, do którego migrują wszystkie informacje z całego świata” - powiedział Ahlberg. „Te duże modele językowe robią naprawdę magiczne rzeczy… przyspieszając cykl myślenia”.
Dodał: „W ciągu najbliższych 25 lat świat stanie się odbiciem Internetu”.