McAfee udostępnia wykrywacz dźwięku AI deepfake - ale jak niezawodny może być?
Zmieniony dźwięk może sygnalizować oszustwo, a Deepfake Detector obiecuje je znaleźć. Oto komputery, na których działa i ile to będzie kosztować.
Deepfakes generowane przez sztuczną inteligencję (AI) są obecne w całym Internecie, napędzając wszystko, od oszustw po dezinformację polityczną. Dostawca cyberbezpieczeństwa McAfee jest obecnie najnowszym podmiotem, który próbuje znaleźć rozwiązanie, ale nie jest ono przeznaczone dla wszystkich i może nie być uniwersalne.
W środę dostawca cyberbezpieczeństwa McAfee uruchomił Deepfake Detector, narzędzie oparte na sztucznej inteligencji, które skanuje filmy w poszukiwaniu śladów dźwięku generowanego przez sztuczną inteligencję. Zgodnie z komunikatem, gdy użytkownik wyrazi zgodę, detektor automatycznie monitoruje zawartość odtwarzaną na komputerze i ostrzega użytkownika „w ciągu kilku sekund”, jeśli wykryje dźwięk zmieniony przez sztuczną inteligencję - a wszystko to bez użycia oprogramowania innych firm ani konieczności ręczne kontrole inicjowane przez użytkownika.
Zmieniony dźwięk może wskazywać na oszustwo typu deepfake, w tym polegające na klonowaniu głosów bliskich osób w celu nakłonienia ludzi do zapłacenia fałszywego okupu lub podszywania się pod osoby publiczne w celu rozpowszechniania fałszywych informacji. W komunikacie McAfee zauważono, że rozprzestrzenianie się sztucznej inteligencji umożliwiło cyberprzestępcom tworzenie na dużą skalę „bardziej przekonujących, spersonalizowanych i generowanych przez sztuczną inteligencję oszustw”.
„Chociaż nie wszystkie treści oparte na sztucznej inteligencji powstają w złośliwych zamiarach, możliwość rozpoznania, czy film jest prawdziwy, czy fałszywy, pomaga konsumentom podejmować mądre i oparte na informacjach decyzje” - czytamy w oświadczeniu McAfee.
„Deepfake Detector analizuje tylko dźwięk, a dokładniej skanuje dźwięk w filmach odtwarzanych w przeglądarce, a nie skanuje rzeczy związanych z zarządzaniem prawami cyfrowymi, takich jak treści, które można znaleźć w usługach strumieniowego przesyłania wideo, takich jak Netflix czy Disney+” - McAfee rzecznik powiedział ZDNET.
Detektor nie monitoruje żadnego obrazu ani dźwięku odtwarzanego poza komputerem. „Nasze badanie zagrożeń wykazało, że większość fałszywych filmów wykorzystuje dźwięk zmanipulowany lub wygenerowany przez sztuczną inteligencję jako główny sposób wprowadzenia widzów w błąd. Elementy wizualne filmów to zazwyczaj ciasno przycięte, autentyczne materiały, które odwracają uwagę widzów od podejrzanej wiadomości” - dodał. rzecznik kontynuował.
Firma McAfee stworzyła narzędzie Deepfake Detector we współpracy z firmą Lenovo specjalnie dla komputerów stacjonarnych Copilot+, co oznacza, że jest on dostępny tylko na tych urządzeniach i docelowo będzie kosztować co najmniej 10 dolarów rocznie.
Wykorzystując moduł przetwarzania neuronowego (NPU) firmy McAfee, modele wykrywania sztucznej inteligencji uruchamiają wnioskowanie, czyli kompleksowy proces identyfikacji treści, całkowicie na komputerze PC. Tego rodzaju sztuczna inteligencja na urządzeniu zwiększa prywatność użytkowników, utrzymując dane osobowe poza chmurą - takie podejście stosuje Apple w przypadku Apple Intelligence, które zostanie wprowadzone na urządzenia jesienią tego roku.
Oczywiście detektor, aby działał, musi monitorować laptop użytkownika, ale firma McAfee zapewnia, że nie naruszy to prywatności. „McAfee w żaden sposób nie gromadzi ani nie nagrywa dźwięku użytkownika, a użytkownik ma zawsze kontrolę i może włączyć lub wyłączyć wykrywanie dźwięku według potrzeb” - wyjaśniła firma w komunikacie.
McAfee wyjaśnił również, że korzyści wynikające z uruchomienia narzędzia Deepfake Detector na urządzeniu obejmują większą szybkość przetwarzania i dłuższą żywotność baterii.
Ale czy wykrywanie dźwięku AI naprawdę działa?
„Koniec z zastanawianiem się, czy to rzeczywiście rozdanie gwiazd, czy ta oferta inwestycyjna jest legalna, czy ten polityk rzeczywiście wypowiedział te słowa?” powiedziała w komunikacie Roma Majumder, starszy wiceprezes ds. produktu firmy McAfee.
To wysokie oczekiwania. Wprowadzanie tego rodzaju technologii - niezależnie od tego, czy jest ona na wczesnym etapie - bezpośrednio na urządzeniach, lepiej przygotowuje konsumentów na przyszłość pełną treści generowanych przez sztuczną inteligencję. Jednak, jak wykazały własne raporty ZDNET, dokładność i skuteczność technologii wykrywania są zawodne, zwłaszcza biorąc pod uwagę tempo ewolucji generatywnej sztucznej inteligencji.
„Technologia wykorzystuje model przeszkolony na prawie 200 000 próbek i zapewnia konsumentom zaawansowane wykrywanie sztucznej inteligencji z dokładnością na poziomie 96%” - wyjaśnił rzecznik McAfee na temat detektora.
Oprócz narzędzia Deepfake Detector firma McAfee udostępniła także Smart AI Hub - edukacyjne źródło informacji o cyberbezpieczeństwie dla konsumentów, którego celem jest „budowanie świadomości na temat deepfake’ów i oszustw opartych na sztucznej inteligencji” - wynika z ogłoszenia. Użytkownicy mogą przesyłać do centrum podejrzane filmy wideo, aby firma McAfee mogła je przeanalizować. Firma twierdzi, że planuje udostępnić społeczeństwu uzyskane spostrzeżenia w formie zasobu.
Narzędzie Deepfake Detector jest już dostępne w języku angielskim dla wszystkich nowych komputerów Lenovo Copilot+ zamawianych w witrynie Lenovo oraz u wybranych sprzedawców detalicznych w USA, Australii i Wielkiej Brytanii . Po zakupie komputera klient może korzystać z detektora bezpłatnie przez 30 dni, po czym cena za pierwszy rok zaczyna się od 10 dolarów.
Funkcja zostanie wprowadzona w większej liczbie krajów jeszcze w tym roku.