Dlaczego jestem więcej niż trochę przerażony wizyjną sztuczną inteligencją Samsunga

Streszczenie

• Technologia Vision AI firmy Samsung oferuje kilka przydatnych funkcji, takich jak tłumaczenie na żywo i funkcja Kliknij, aby wyszukać, zapewniająca lepsze wrażenia z korzystania z inteligentnej telewizji.
• Monitorowanie członków rodziny i zwierząt domowych przez Vision AI wiąże się z poważnymi problemami związanymi z prywatnością, wprowadzaniem dostosowań inteligentnego domu na podstawie tego, co widzi, oraz potencjalnymi konsekwencjami dla bezpieczeństwa uzyskania dostępu do tych informacji przez intruzów.
• Aby zachować kontrolę użytkownika i prywatność, należy zawsze włączać funkcje takie jak Vision AI, a nie rezygnować z nich.

Samsung zaprezentował na targach CES 2025 technologię Vision AI, która oferuje całą masę nowych funkcji w telewizorach i ekosystemie inteligentnego domu. Wnosi także dość przerażającą funkcjonalność do stołu. Pozwól mi wyjaśnić.

Co w ogóle robi wizyjna sztuczna inteligencja Samsunga?

Samsung zachwala nową technologię Vision AI jako sposób na „sprawienie, że telewizor Samsung będzie świadomy otoczenia, dostosuje się do preferencji użytkownika i będzie autonomiczny w dostarczaniu intuicyjnych funkcji” podczas korzystania z telewizorów. Jednak przypadek użycia wykracza daleko poza „świadomość otoczenia” telewizora (cokolwiek to może oznaczać).

Vision AI integruje się również z ekosystemem inteligentnego domu SmartThings firmy Samsung, co częściowo jest tu źródłem „przerażania”. U podstaw systemu Vision AI zaprojektowano tak, aby inteligentne produkty Samsunga były pod każdym względem bardziej osobiste.

Można tu znaleźć coś dobrego

Chociaż za chwilę omówimy pewne niepokojące aspekty Vision AI, chcę zacząć od omówienia zalet, jakie niesie ze sobą ta nowa funkcja Samsunga. Na początek zapewnia tłumaczenie na żywo obsługiwane przez model sztucznej inteligencji na urządzeniu.

Oznacza to, że będziesz mógł oglądać na swoim telewizorze program w języku hiszpańskim, a telewizor korzystający z wbudowanego w urządzenie silnika AI będzie zapewniał tłumaczenie napisów w czasie rzeczywistym. Otwiera to cały świat możliwości, szczególnie jeśli chodzi o transmisje na żywo. Przyznam, że jestem pod wrażeniem, ta funkcja jest stosunkowo przełomowa i powinna być mile widzianym dodatkiem do każdego salonu.

„Kliknij, aby wyszukać” to także kolejna całkiem fajna funkcja. Dzięki niemu uzyskasz natychmiastową informację o tym, co znajduje się na ekranie. Obejmuje to identyfikację aktora, sprawdzenie wyświetlanej treści i nie tylko. Przypomina mi to Amazon Kindle X-Ray, który dostarcza informacji o książce, którą czytasz, kontekstowo.

Dlaczego przeraża mnie Samsung Vision AI

Jednak to nie tylko słońce i tęcze. Chociaż jest tu trochę dobra, jest też trochę... nie.

Zacznijmy od tego, że Home Insights, które według Samsunga zapewnia „aktualizacje w czasie rzeczywistym na temat środowiska domowego, w tym alerty dotyczące bezpieczeństwa i codzienne aktualizacje…”, może mieć zarówno dobre, jak i złe zastosowania. Nie jest jasne, jaka część przetwarzania Vision AI będzie odbywać się lokalnie, ale nawet jeśli firma twierdzi, że coś dzieje się lokalnie, nie zawsze oznacza to, że tak jest.

A zatem, skoro Samsung używa swojego inteligentnego sprzętu domowego do monitorowania domu w czasie rzeczywistym i na ile sposobów, co się stanie, gdy przejmie go ktoś o nikczemnych zamiarach?

Ale nie to jest nawet najbardziej przerażające (moim zdaniem). Nie, w części Vision AI „opieka nad zwierzętami i rodziną” widzę najwięcej sygnałów ostrzegawczych. Funkcja ta „czuwa nad bliskimi, wykrywając nietypowe zachowania zarówno zwierząt domowych, jak i członków rodziny”. Przepraszam... co? Kto określa, co jest niezwykłe? W jaki sposób Samsung monitoruje (i określa) to zjawisko? Czy korzysta z kamer? Sygnał Wi-Fi? Coś wbudowanego w telewizor? Już czuję się niekomfortowo, ale jest coraz gorzej.

Samsung twierdzi dalej, że Vision AI „zwiększa komfort, automatycznie dostosowując ustawienia pokoju, na przykład przyciemniając światła, gdy dziecko zasypia”. To właśnie przykuło moją uwagę. Jeśli mój inteligentny dom zwraca na tyle uwagę na moją rodzinę, że potrafi zauważyć, kiedy moje dziecko zasypia, a potem na to zareagować, to co jeszcze zauważa, czego nie chcę? Czy zwraca uwagę na to, gdzie jestem w domu? Co się dzieje w różnych pokojach?

Istnieje wiele potencjalnych implikacji dla bezpieczeństwa, takich jak wpadnięcie informacji w niepowołane ręce. Zły aktor mógłby go użyć, aby sprawdzić, czy jesteś w domu, nie śpisz, śpisz, chodzisz lub robisz cokolwiek. Jest tak wiele potencjalnych wad, że nie jestem pewien, czy zalety są tego warte.

Nawet jeśli Vision AI korzysta w 100% z przetwarzania lokalnego, ktoś może dostać się do Twojej sieci lokalnej poprzez zabezpieczenia pozostawione przez inne urządzenia, narażając Cię na niebezpieczeństwo. Nie jestem pewien, czy czuję się komfortowo, gdy jakakolwiek firma tak uważnie obserwuje moją rodzinę, niezależnie od stosowanych przez nią protokołów bezpieczeństwa.

Widzieliśmy to już wcześniej i nie skończyło się to dobrze

Może to trochę żartobliwe, ale widzieliśmy to już wcześniej. Jeśli dorastałeś w latach 90. lub na początku XXI wieku, być może pamiętasz film Disneya Inteligentny dom z 1999 roku. Film skupiał się wokół futurystycznego domu, który był inteligentny pod każdym względem, podobnie jak inteligentne domy, które mamy dzisiaj.

Jednak wirtualny asystent PAT (skrót od Personal Applied Technology) ożywa za pomocą środków holograficznych i zaczyna, że tak powiem, „prowadzić dom”. Dochodzi do tego, że twórca systemu wyłącza PAT, a później PAT pomija zamknięcie i „powraca do życia”. Następnie PAT wyrzuca twórcę z domu i ustawia dom w tryb blokady, aby chronić rodzinę.

Chociaż Vision AI może jeszcze nie być całkiem gotowy, może nie być tak odległy. Niedawno ChatGPT próbował zapobiec zamknięciu, nadpisując swój własny kod. Co powiedzieć, że Vision AI firmy Samsung nie zrobiłaby czegoś podobnego, gdyby uznała, że istnieje zagrożenie dla jej rodziny?

Zawsze powinna to być opcja wyrażenia zgody, a nie rezygnacji

Chociaż uwielbiam nowe funkcje inteligentnego domu tak samo jak wszyscy inni, coś tak natrętnego powinno zawsze pozostać opcją opcjonalną, a nie rezygnacją. Użytkownik końcowy powinien zawsze mieć możliwość wyboru czegoś tak inwazyjnego.

Czas pokaże, jak Samsung planuje potraktować Vision AI, ale mam nadzieję, że nie włączą domyślnie wszystkich tych przerażających funkcji. Uruchom funkcje, pracuj nad nimi i baw się dobrze, nie obchodzi mnie to. Tylko nie zmuszaj mnie do korzystania z nich bez własnej woli.

Jeśli nie chcesz polegać na chmurze i wolisz, aby funkcje inteligentnego domu były uruchamiane lokalnie, koniecznie wypróbuj Home Assistant, jeśli jeszcze tego nie zrobiłeś. To bezpłatna platforma inteligentnego domu o otwartym kodzie źródłowym, która całe przetwarzanie wykonuje lokalnie na Twoich własnych komputerach.