Microsoft po cichu ujawnił nowy rodzaj sztucznej inteligencji (może cię po cichu spetryfikować)

Zawsze myślałeś, że może to być możliwe, ale kiedy znana firma mówi, że to zrobiła, dodaje to trochę więcej przerażenia.

Miał cię na powitanie. 

To nie lada przywilej być jednym z ostatnich, pełnych ludzi.

Zdaję sobie sprawę, że w namacalnej przyszłości artyści znani wcześniej jako ludzie będą wzruszającą hybrydą mięsa i chipsów.

Być może nie powinienem był być zaskoczony, gdy pojawili się badacze Microsoftu, aby nieco przyspieszyć rozpaczliwą przyszłość.

To wszystko wydawało się takie niewinne i tak bardzo naukowe. Nagłówek artykułu naukowców był twórczo nieprzejrzysty: "Modele językowe kodeków neuronowych to syntezatory tekstu na mowę typu zero-shot".

Jak myślisz, co to może oznaczać? Istnieje nowy, szybszy sposób, w jaki maszyna może zapisywać wypowiadane słowa? 

Streszczenie badaczy zaczyna się dość łagodnie. Używa wielu słów, fraz i akronimów, które nie są znane, powiedzmy, wielu laikom modeli języka ludzkiego. Wyjaśniono w nim, że model językowy kodeków neuronowych nazywa się VALL-E.

Z pewnością ta nazwa ma Cię zmiękczyć. Co może być przerażającego w technologii, która brzmi prawie jak ten uroczy mały robot z chwytającego za serce filmu?

Cóż, być może to: "VALL-E pojawia się w możliwościach uczenia się w kontekście i może być używany do syntezy wysokiej jakości spersonalizowanej mowy z zaledwie 3-sekundowym nagraniem niewidzianego mówcy jako podpowiedzią akustyczną".

Często chciałem rozwinąć w sobie zdolności uczenia się. Zamiast tego musiałem uciekać się do czekania, aż się pojawią.

A to, co wyłania się z ostatniego zdania badaczy, przyprawia o dreszcze. Wielkie mózgi Microsoftu potrzebują teraz tylko 3 sekund, aby coś powiedzieć, aby udawać dłuższe zdania i być może duże przemówienia, które nie zostały wygłoszone przez Ciebie, ale brzmią prawie jak Ty.

Nie będę się zbytnio zagłębiał w naukę, bo żadne z nas by na tym nie skorzystało.

Wspomnę tylko, że VALL-E korzysta z biblioteki audio stworzonej przez jedną z najbardziej podziwianych i godnych zaufania firm na świecie - Meta. Nazywa się LibriLight i jest to repozytorium 7 000 osób rozmawiających przez łącznie 60 000 godzin.

Naturalnie, posłuchałem twórczości VALL-E.

Przez 3 sekundy słuchałem męskiego mówcy. Potem wysłuchałem 8 sekund, w którym jego wersja VALL-E powiedziała: "Potem poruszali się ostrożnie wokół chaty, szukając po omacku przed sobą i wokół siebie, aby znaleźć coś, co wskazywałoby na to, że Warrenton wypełnił swoją misję".

Błagam cię, abyś zauważył dużą różnicę, jeśli w ogóle jakąkolwiek.

To prawda, że wiele z tych podpowiedzi brzmiało jak bardzo kiepskie urywki literatury XVIII wieku. Przykład: "W ten sposób ten ludzki i prawomyślny ojciec pocieszał swą nieszczęśliwą córkę, a jej matka, obejmując ją ponownie, robiła wszystko, co mogła, aby ukoić jej uczucia".

Ale cóż mogłem zrobić, jak tylko wysłuchać kolejnych przykładów przedstawionych przez badaczy? Niektóre wersje VALL-E były nieco bardziej podejrzane niż inne. Dykcja nie wydawała mi się odpowiednia. Czuli się połączeni. 

Ogólny efekt jest jednak odpowiednio przerażający.

Zostałeś już ostrzeżony, oczywiście. Wiesz, że kiedy dzwonią do Ciebie oszuści, nie powinieneś z nimi rozmawiać, na wypadek, gdyby Cię nagrali, a następnie odtworzyli Twoją dykcję, aby Twój abstrakcyjny głos nikczemnie zamawiał drogie produkty.

Wydaje się jednak, że jest to kolejny poziom wyrafinowania. Być może obejrzałem już zbyt wiele odcinków "The Capture" Peacock, w których deepfake'i są przedstawiane jako naturalna część rządu. Być może naprawdę nie powinienem się martwić, ponieważ Microsoft jest obecnie taką miłą, nieszkodliwą firmą.

Jednak myśl, że ktoś, ktokolwiek, może łatwo dać się nabrać na to, że mówię coś, czego nie powiedziałem - i nigdy bym nie powiedział - nie dodaje mi otuchy. Zwłaszcza, że naukowcy twierdzą, że mogą również odtworzyć "emocje i środowisko akustyczne" z pierwszych 3 sekund mowy.

Odetchniesz z ulgą, że naukowcy mogli dostrzec ten potencjał dyskomfortu. Naukowcy oferują: "Ponieważ VALL-E może syntetyzować mowę, która zachowuje tożsamość mówcy, może to nieść ze sobą potencjalne ryzyko niewłaściwego wykorzystania modelu, takie jak podszywanie się pod identyfikację głosową lub podszywanie się pod konkretnego mówcę".

Rozwiązanie? Budowanie systemu detekcji, twierdzą naukowcy.

Co może sprawić, że jedna lub dwie osoby będą się zastanawiać: "Dlaczego w ogóle to zrobiłeś?"

Dość często w branży technologicznej odpowiedź brzmi: "Bo mogliśmy".