Generatywna sztuczna inteligencja to oszustwa związane z doładowaniem (oto jak i na co należy zwrócić uwagę)
Kluczowe dania na wynos
- Oszuści stają się coraz bardziej kreatywni, korzystając z podrabianych produktów i lektorów generowanych przez sztuczną inteligencję, aby przyciągnąć niczego niepodejrzewających kupujących.
- Oszuści zajmujący się aplikacjami randkowymi wykorzystują chatboty AI do atakowania ofiar; fałszywe recenzje stają się łatwiejsze dzięki dużym modelom językowym.
- W miarę ulepszania technologii sztucznej inteligencji coraz trudniej będzie odróżnić prawdziwe treści od podróbek; zawsze szukaj informacji przed zakupem online.
Termin „oszustwo” odnosi się do wszystkiego, od wyrafinowanego ataku ukierunkowanego po podejrzaną reklamę przed filmem w Twojej ulubionej witrynie do strumieniowego przesyłania wideo. Zła wiadomość jest taka, że inżynieria tych oszustw jest coraz łatwiejsza.
Demokratyzacja fałszywych obrazów
Istnieje cienka, ale wyraźna granica pomiędzy oszustwem a spamem, ale te dwie sfery regularnie się pokrywają. Jest to szczególnie prawdziwe w przypadku reklam online, niezależnie od tego, czy przeglądasz Internet, czy przeglądasz media społecznościowe. Reklamodawcy nie zatwierdzają każdej wyświetlanej reklamy, zamiast tego polegają na raportach użytkowników, aby wyeliminować złych aktorów.
Jeśli spędzasz dużo czasu w Internecie, prawdopodobnie codziennie przewijasz niezliczone podejrzane reklamy. Być może najciekawsze z nich to produkty, które nie istnieją i są wytworami wykonanymi ręcznie lub przy użyciu generatywnej sztucznej inteligencji, takiej jak DALL-E lub Midjourney.
Zachwycanie potencjalnych nabywców podrabianymi produktami nie jest niczym nowym, ale kiedyś potrzebna była wizja, umiejętności Photoshopa i kawałek wolnego czasu. Wraz z pojawieniem się generatorów zamiany tekstu na obraz możesz spędzać tak mało lub tyle czasu, ile chcesz, na wprowadzaniu podpowiedzi do generatora obrazów, aż uzyskasz oczekiwane wyniki. Nie ma ograniczeń, jeśli chodzi o rodzaje produktów, jakie możesz wymyślić.
W kwietniu 2024 r. firma Snopes poinformowała, że duża liczba oszustw typu „Cat’s Eye Dazzle” szturmem uderzyła w media społecznościowe. Oszustwo polegało na generowaniu fałszywych kwiatów przypominających koty, aby przyciągnąć użytkowników w sieciach społecznościowych takich jak Facebook. W celu uzyskania nasion pojawiły się aukcje w serwisie eBay, podczas gdy inni „sprzedawcy” korzystali z hostowanych portali zakupowych w celu wypłaty środków.
Dla niektórych fakt, że te kwiaty są podróbkami wygenerowanymi przez sztuczną inteligencję, jest od razu oczywisty. Inne podobne oszustwa nie są tak naciągane. Kanał YouTube Atomic Shrimp stworzył film dokumentujący to zjawisko, przeglądając rozsądnie brzmiące zestawienia „prawdziwych” niebieskich róż i słoneczników, które nie istnieją.
Kwiaty wyglądające jak koty i rośliny o niemożliwych do ubarwieniach to tylko dwa przykłady oszustw, które prawdopodobnie przyłapały setki, jeśli nie tysiące ludzi. Wygenerowanie tych zdjęć zajęło kilka sekund, a opublikowanie kolejnych kilku na Facebooku.
Głosy AI zwiększają wiarygodność wideo
Prawdopodobnie doskonale zdajesz sobie sprawę z rozwoju funkcji zamiany tekstu na głos, a platformy społecznościowe takie jak TikTok ułatwiają generowanie głosu, który brzmi naturalnie, ale jest również łatwy do zrozumienia. Do tej pory głos „pani TikTok” dotyczy zarówno marki TikTok, jak i przydatnego narzędzia dla twórców treści.
Ale głosy AI to znacznie więcej. ChatGPT może generować lektora, jeśli płacisz za warstwę premium, a usługi takie jak ElevenLabs oferują bezpłatne poziomy. Widziałem mniejsze kanały YouTube prowadzone przez twórców, którzy nie czują się komfortowo rozmawiając przed kamerą, zwracających się w stronę głosów generowanych przez sztuczną inteligencję. Może to być irytujące, ale przynajmniej opiera się na dobrych intencjach.
Główną zaletą jest to, że lektor dodaje wiarygodności Twojemu filmowi. Kilka lat temu dodanie lektora do swojego filmu wymagało czasu i wysiłku oraz środków finansowych. Będziesz potrzebował sprzętu i ćwiczeń lub wynajętego aktora głosowego. Teraz jest to tak proste, jak napisanie scenariusza, z którego jesteś zadowolony i wybranie głosu, którego chcesz użyć.
Dzięki temu oszukańcze reklamy programów szybkiego wzbogacenia się i produktów dropshippingowych są jeszcze bardziej wiarygodne. Jeśli reklama brzmi jak prawdziwa okazja, prawdopodobnie jesteś skłonny bardziej zaufać produktowi. Osoby wyświetlające te reklamy o tym wiedzą, dlatego w ciągu ostatniego roku nastąpił gwałtowny rozwój tej praktyki.
Na razie nie jest trudno zidentyfikować lektora generowanego przez sztuczną inteligencję. Fleksja i wymowa mogą brzmieć nieco robotycznie, a naturalny rytm ludzkiej mowy nie jest do końca obecny. Zapnij pasy, ponieważ te narzędzia będą się tylko udoskonalać i ostatecznie nie będziesz w stanie dostrzec różnicy.
Oszuści aplikacji randkowych rzucają szersze sieci
Bycie przynętą w postaci fałszywych produktów i automatycznego lektora to jedno, ale co z oszustwem, które jest skierowane bezpośrednio do Ciebie? Właśnie to dzieje się na masową skalę w internetowej przestrzeni randkowej, dzięki sile dużych modeli językowych, które mogą rozmawiać jak prawdziwi ludzie (no cóż, wystarczająco blisko).
Korzystając z chatbotów opartych na sztucznej inteligencji, oszuści mogą zarzucić szeroką sieć, aby usidlić swoje ofiary za pomocą oprogramowania, które może skutecznie wstrzymać rozmowę na tyle długo, aby przykuć czyjąś uwagę. Można to wykorzystać na kilka sposobów i wszystkie wydają się inwazyjne.
Niektórzy używają chatbotów, aby wysyłać wiadomości do ogromnej liczby osób, a następnie kontaktują się z nimi w nadziei, że spotkają osobę, którą naprawdę lubią. Na początku 2024 r. pojawiły się niezliczone doniesienia o mężczyźnie, który poznał swoją żonę przy użyciu tej techniki. Niezależnie od tego, czy w to wierzysz, czy nie, istnieje ogromna liczba aplikacji i usług mobilnych, które obiecują porozmawiać z potencjalnymi partnerami (oczywiście za opłatą).
Sprawy przybierają zdecydowanie bardziej złowieszczy obrót, gdy narzędzia te są wykorzystywane do wyszukiwania celów oszustw finansowych. Oszuści internetowi od dawna wykorzystują podstawowe ludzkie pragnienie towarzystwa, aby wyłudzić pieniądze ze swoich znaków. Teraz mogą wykorzystać chatboty, które przejmą kontrolę, gdy uznają to za konieczne.
Połącz to z generatorem obrazów AI, który zapewni Ci dostęp do dowolnej liczby oryginalnych, ładnych twarzy, a oszuści nie będą już musieli nawet kraść cudzych zdjęć profilowych na randkach.
Wideo AI jest na horyzoncie
W chwili pisania tego tekstu przekonująca zamiana tekstu na wideo nie była powszechnie dostępna, ale dzięki narzędziom takim jak OpenAI SORA, które pojawią się na horyzoncie, stanie się siłą, z którą należy się liczyć. Tylko za pomocą podpowiedzi narzędzie OpenAI może wygenerować realistycznie wyglądające ruchome obrazy (choć jeśli przyjrzysz się uważnie, możesz dostrzec wady).
Jeśli nic więcej, wideo generowane przez sztuczną inteligencję tylko zaostrzy problemy stwarzane przez inne treści generowane przez sztuczną inteligencję. Dzięki wykorzystaniu stale udoskonalanej sztucznej inteligencji nietrudno wyobrazić sobie przyszłość, w której można generować fałszywe zdjęcia produktów, wideo przedstawiające użycie tego produktu w odpowiednich lokalizacjach przez „prawdziwych” ludzi oraz podkład głosowy do filmu, którego możesz użyć żeby to reklamować.
Jeśli czujesz się szczególnie przedsiębiorczy, możesz użyć dużego modelu językowego, aby poprawić pozycję swojego produktu…
AI może nawet sfałszować recenzje
Fałszywe recenzje nie są niczym nowym. Wszyscy je widzieliśmy i wielu z nas się w nich zakochało (czy o tym wiemy, czy nie). Ale jeszcze kilka lat temu fałszywe recenzje wymagały pewnego wysiłku. Wraz z pojawieniem się dużych modeli językowych fałszywe recenzje mogą dosłownie napisać się na masową skalę.
Niewłaściwe wykorzystanie dużych modeli językowych do generowania recenzji i promowania produktów lub firm to jedno, ale technologia działa w obie strony. A co powiesz na wykorzystanie tej technologii do tworzenia recenzji, które nieuczciwie krytykują konkurencyjny produkt? Wygenerowanie negatywu nigdy nie było łatwiejsze, nawet jeśli trzeba go samodzielnie skopiować i wkleić.
Połącz recenzje wygenerowane przez sztuczną inteligencję z bardziej tradycyjnymi oszustwami związanymi z szczotkowaniem, a na dodatek uzyskasz wiarygodność etykiety „zweryfikowany zakup”. Ostatecznym zadaniem właścicieli platform jest zwalczanie tej nowej fali wprowadzających w błąd treści online.
Może być tylko lepiej (gorzej)
Narzędzia te będą z biegiem czasu udoskonalane, przez co trudniej będzie odróżnić rzeczywistość od fantastyki. Jeśli chcesz wyprzedzić oszustów, musisz mądrze podchodzić do technologii. Jeśli rozumiesz, co jest możliwe, jesteś lepiej przygotowany, aby zrozumieć, co jest prawdziwe, a co nie.
Facebook szczególnie obfituje w obrazy generowane przez sztuczną inteligencję, więc zrozumienie, jak rozpoznać podróbki generowane przez sztuczną inteligencję, jest cenną umiejętnością. Zawsze powinieneś zachować ostrożność w stosunku do reklam online, niezależnie od tego, czy zauważysz je w swoich ulubionych witrynach internetowych, czy w sieci społecznościowej.
Zawsze sprawdź, zanim coś kupisz, niezależnie od tego, czy jest to technologia, czy paczka nasion, które widziałeś na Facebooku. Jak na ironię, możesz także zapytać swojego ulubionego chatbota, który zdobywa jego twierdzenia.