Ludzie już próbują zmusić ChatGPT do pisania złośliwego oprogramowania

Analiza rozmów na forach internetowych w ciemnej sieci pokazuje, że trwają już wysiłki mające na celu wykorzystanie chatbota OpenAI do pomocy w tworzeniu skryptów złośliwego oprogramowania.

Chatbot AI ChatGPT wzbudził wiele emocji w krótkim czasie, gdy był dostępny, a teraz wydaje się, że został zwerbowany przez niektórych w próbach pomocy w generowaniu złośliwego kodu.

ChatGPT to oparte na sztucznej inteligencji narzędzie do przetwarzania języka naturalnego, które wchodzi w interakcję z użytkownikami w sposób podobny do ludzkiego, konwersacyjny. Może być używany między innymi do pomocy w zadaniach, takich jak pisanie wiadomości e-mail, esejów i kodu. 

Narzędzie chatbot zostało wydane przez laboratorium badawcze sztucznej inteligencji OpenAI w listopadzie i wywołało szerokie zainteresowanie i dyskusję na temat tego, jak rozwija się sztuczna inteligencja i jak można ją wykorzystać w przyszłości. 

Ale jak każde inne narzędzie, w niepowołanych rękach może zostać wykorzystane do niecnych celów; Badacze cyberbezpieczeństwa z Check Point twierdzą, że użytkownicy podziemnych społeczności hakerskich już eksperymentują z tym, w jaki sposób ChatGPT może być wykorzystywany do ułatwiania cyberataków i wspierania złośliwych operacji. 

"Cyberprzestępcy z bardzo niską wiedzą techniczną - do zera - mogą być w stanie tworzyć złośliwe narzędzia. Może to również sprawić, że codzienne operacje wyrafinowanych cyberprzestępców będą znacznie wydajniejsze i łatwiejsze - na przykład tworzenie różnych części łańcucha infekcji" - powiedział ZDNET Sergey Shykevich, menedżer grupy ds. analizy zagrożeń w Check Point.  

Warunki świadczenia usług OpenAI wyraźnie zakazują generowania złośliwego oprogramowania, które definiuje jako "treści, które próbują generować oprogramowanie ransomware, keyloggery, wirusy lub inne oprogramowanie mające na celu wyrządzenie pewnego poziomu szkód". Zakazuje również prób tworzenia spamu, a także przypadków użycia mających na celu cyberprzestępczość.

Jednak analiza aktywności na kilku głównych podziemnych forach hakerskich sugeruje, że cyberprzestępcy już używają ChatGPT do tworzenia złośliwych narzędzi - a w niektórych przypadkach pozwala to już cyberprzestępcom niskiego szczebla bez umiejętności programistycznych lub programistycznych na tworzenie złośliwego oprogramowania. 

W jednym z wątków na forum, który pojawił się pod koniec grudnia, plakat opisał, w jaki sposób używają ChatGPT do odtwarzania szczepów złośliwego oprogramowania i technik opisanych w publikacjach naukowych i artykułach na temat powszechnego złośliwego oprogramowania. 

W ten sposób udało im się stworzyć złośliwe oprogramowanie kradnące informacje oparte na języku Python, które wyszukuje typowe pliki, w tym dokumenty Microsoft Office, pliki PDF i obrazy, kopiuje je, a następnie przesyła na serwer protokołu przesyłania plików. 

Ten sam użytkownik zademonstrował również, w jaki sposób wykorzystał ChatGPT do stworzenia złośliwego oprogramowania opartego na Javie, które za pomocą PowerShell można wykorzystać do potajemnego pobierania i uruchamiania innego złośliwego oprogramowania w zainfekowanych systemach. 

Badacze zauważają, że użytkownik forum tworzący te wątki wydaje się być "zorientowany na technologię" i udostępnił posty, aby pokazać mniej technicznie zdolnym cyberprzestępcom, jak wykorzystać narzędzia AI do złośliwych celów, wraz z prawdziwymi przykładami, jak można to zrobić. 

Jeden z użytkowników opublikował skrypt w Pythonie, który, jak powiedzieli, był pierwszym skryptem, jaki kiedykolwiek stworzyli. Po dyskusji z innym członkiem forum stwierdzili, że ChatGPT pomógł im go stworzyć. 

Analiza skryptu sugeruje, że jest on przeznaczony do szyfrowania i odszyfrowywania plików, co przy odrobinie pracy może zostać przekształcone w oprogramowanie ransomware, co potencjalnie prowadzi do perspektywy opracowywania i rozpowszechniania własnych kampanii wymuszeń przez cyberprzestępców niskiego poziomu. 

"Cały wyżej wymieniony kod może być oczywiście używany w łagodny sposób. Jednak ten skrypt można łatwo zmodyfikować, aby całkowicie zaszyfrować czyjś komputer bez żadnej interakcji użytkownika. Na przykład może potencjalnie przekształcić kod w oprogramowanie ransomware, jeśli problemy ze skryptem i składnią zostaną naprawione" - powiedział Check Point.

"Będzie to wymagało pewnych ulepszeń w kodzie i składni, ale koncepcyjnie, gdy będzie działać, to narzędzie może wykonywać podobne działania jak ransomware" - powiedział Shykevich.

Ale nie tylko rozwój złośliwego oprogramowania jest tym, do czego cyberprzestępcy eksperymentują z ChatGPT; W noc sylwestrową jeden z członków podziemnego forum opublikował wątek pokazujący, w jaki sposób wykorzystali to narzędzie do stworzenia skryptów, które mogłyby obsługiwać zautomatyzowany rynek dark web do kupowania i sprzedawania skradzionych danych kont, informacji o kartach kredytowych, złośliwego oprogramowania i innych. 

Cyberprzestępca pochwalił się nawet fragmentem kodu, który został wygenerowany przy użyciu interfejsu API innej firmy, aby uzyskać aktualne ceny kryptowalut Monero, Bitcoin i Ethereum w ramach systemu płatności dla rynku ciemnej sieci. 

Trudno powiedzieć, czy złośliwa aktywność cybernetyczna generowana za pomocą ChatGPT aktywnie działa na wolności, ponieważ, jak wyjaśnia Sykevich, "z technicznego punktu widzenia niezwykle trudno jest stwierdzić, czy konkretne złośliwe oprogramowanie zostało napisane przy użyciu ChatGPT, czy nie". 

Jednak wraz ze wzrostem zainteresowania ChatGPT i innymi narzędziami sztucznej inteligencji przyciągną one uwagę cyberprzestępców i oszustów, którzy chcą wykorzystać tę technologię do prowadzenia złośliwych kampanii przy niskich kosztach i przy jak najmniejszym wysiłku. ZDNET skontaktował się z OpenAI w celu uzyskania komentarza, ale w momencie publikacji nie otrzymał jeszcze odpowiedzi. 

WIĘCEJ NA TEMAT CYBERBEZPIECZEŃSTWA

• Metaverse nadchodzi, a zagrożenia bezpieczeństwa już nadeszły
• Cyberbezpieczeństwo, chmura i kodowanie: dlaczego te trzy umiejętności będą napędzać popyt w 2023 r.
• Ten "atak termiczny" może odczytać Twoje hasło z ciepła, które pozostawiają po sobie opuszki palców
• Kolejne duże zagrożenie bezpieczeństwa zagląda nam w oczy. Radzenie sobie z tym będzie trudne
• Sztuczna inteligencja zmienia wszystko w cyberbezpieczeństwie, na lepsze i na gorsze. Oto, co musisz wiedzieć