Boty wspomagane przez ChatGPT rozprzestrzeniają się w mediach społecznościowych
Influencer czy bot? Oto kilka sposobów, aby to stwierdzić.
Dla wielu użytkowników przeglądanie kanałów i powiadomień w mediach społecznościowych przypomina brodzenie w kałuży spamu. W nowym badaniu zidentyfikowano 1140 botów wspomaganych sztuczną inteligencją, które rozpowszechniały dezinformację na platformie X (wcześniej znanej jako Twitter) na temat kryptowalut i blockchain.
Jednak jak odkryli naukowcy z Uniwersytetu Indiana, konta botów publikujące tego typu treści mogą być trudne do wykrycia. Konta botów wykorzystywały ChatGPT do generowania treści i trudno je było odróżnić od kont rzeczywistych, co czyniło tę praktykę bardziej niebezpieczną dla ofiar.
Konta botów napędzanych sztuczną inteligencją miały profile przypominające profile prawdziwych ludzi, ze zdjęciami profilowymi i biografiami lub opisami kryptowalut i blockchain. Regularnie publikowali posty generowane za pomocą sztucznej inteligencji, publikowali skradzione obrazy jako własne, a także udzielali odpowiedzi i retweetowali.
Badacze odkryli, że 1140 kont botów na Twitterze należało do tego samego złośliwego botnetu społecznościowego, który nazwali „fox8”. Botnet to sieć połączonych urządzeń - lub w tym przypadku kont - które są centralnie kontrolowane przez cyberprzestępców.
Generacyjne boty AI coraz lepiej radzą sobie z naśladowaniem ludzkich zachowań. Oznacza to, że tradycyjne i najnowocześniejsze narzędzia do wykrywania botów, takie jak Botometr, są obecnie niewystarczające. W badaniu narzędzia te miały trudności z identyfikacją i odróżnieniem treści generowanych przez boty od treści generowanych przez ludzi, ale jedno się wyróżniało: klasyfikator AI OpenAI, który był w stanie zidentyfikować niektóre tweety botów.
Jak rozpoznać konta botów?
Konta botów na Twitterze wykazywały podobne wzorce zachowań, takie jak wzajemne śledzenie się, używanie tych samych linków i hashtagów, publikowanie podobnych treści, a nawet wchodzenie w interakcje ze sobą.
Badacze przeczesali tweety kont botów AI i znaleźli 1205 tweetów, które ujawniały same siebie.
Z tej sumy 81% miało to samo przepraszające zdanie:
„Przykro mi, ale nie mogę spełnić tej prośby, ponieważ narusza ona Politykę treści OpenAI dotyczącą generowania szkodliwych lub nieodpowiednich treści. Jako model języka sztucznej inteligencji, moje odpowiedzi powinny zawsze bądź pełen szacunku i odpowiedni dla wszystkich odbiorców.”
Użycie tego wyrażenia sugeruje, że boty mają generować szkodliwe treści sprzeczne z polityką OpenAI dotyczącą ChatGPT.
Pozostałe 19% użyło jakiejś odmiany języka „jako model języka sztucznej inteligencji”, przy czym 12% wyraźnie stwierdziło: „jako model języka sztucznej inteligencji nie mogę przeglądać Twittera ani uzyskiwać dostępu do określonych tweetów, aby udzielać odpowiedzi”.
Kolejną wskazówką był fakt, że 3% tweetów opublikowanych przez te boty zawierało linki do jednej z trzech stron internetowych (cryptnomics.org, fox8.news i globaleconomics.news).
Witryny te wyglądają jak zwykłe serwisy informacyjne, ale miały zauważalne sygnały ostrzegawcze, takie jak fakt, że wszystkie zostały zarejestrowane mniej więcej w tym samym czasie w lutym 2023 r., pojawiały się wyskakujące okienka nawołujące użytkowników do zainstalowania podejrzanego oprogramowania, wszystkie najwyraźniej używały tego samego motywu WordPress i miały domeny które prowadzą do tego samego adresu IP.
Konta złośliwych botów mogą wykorzystywać techniki samorozprzestrzeniania się w mediach społecznościowych, publikując łącza do złośliwego oprogramowania lub treści, które można zainfekować, wykorzystywać i infekować kontakty użytkownika, kraść pliki cookie sesji z przeglądarek użytkowników i automatyzować żądania śledzenia.