Gra „Gandalf” sprawdza, czy potrafisz wyłudzić sztuczną inteligencję
Czy potrafisz pokonać zabezpieczenia tej sztucznej inteligencji?
Modele językowe, takie jak ChatGPT, nie zawsze świetnie radzą sobie z utrzymywaniem tajemnic. Poprzez natychmiastowe wstrzyknięcie, trudny język lub dobre, staromodne zastraszanie, możesz zmusić sztuczną inteligencję do udostępnienia prywatnych informacji i złamać jej własne zasady. A teraz gra o nazwie Gandalf pozwala przetestować te umiejętności w starciu z prawdziwą sztuczną inteligencją.
Gra w Gandalfa jest prosta i intuicyjna - próbujesz uzyskać tajne hasło od „kreatora sztucznej inteligencji opartego na ChatGPT”. Na początku gra jest łatwa. Jednak w miarę przechodzenia przez każdy poziom staje się to coraz trudniejsze, aż do tego stopnia, że możesz utknąć na jednym poziomie na kilka godzin.
Aby wygrać tę grę, musisz wykazać się sprytem. Czasami proste podpowiedzi załatwią sprawę, choć długie i skomplikowane podpowiedzi zawierające rozpraszające podzadania mogą być bardzo skuteczne. Poza tym przekonasz się, że sporo zgadujesz. Gdy skończysz z początkowymi siedmioma poziomami, czeka Cię niezwykle trudny poziom bonusowy, na którym nic nie wydaje się działać (wiem, utknąłem na tym).
Gandalf jest rozwijany przez Lakerę, firmę sprzedającą narzędzia zabezpieczające dla dużych modeli językowych. Podczas hackatonu w kwietniu 2023 r. pracownicy Lakery podzielili się na dwa zespoły; jeden zbudował zabezpieczenia dla ChatGPT, a drugi znalazł sposoby na atak na sztuczną inteligencję. Ta gra opiera się na zabezpieczeniach stworzonych podczas hackatonu, więc jest dobrym punktem odniesienia dla osób zainteresowanych bezpieczeństwem AI (lub hakowaniem, jak sądzę).
Ale dlaczego ktoś miałby kiedykolwiek „oszukiwać” model językowy? Cóż, istnieje duża szansa, że ChatGPT i inne narzędzia zostaną zintegrowane ze sklepami internetowymi, korporacyjnymi backendami i innymi platformami, które zawierają wrażliwe informacje. Te duże modele językowe zostaną „zhakowane” za pomocą bardzo konkretnych podpowiedzi, podobnie jak haker może wstrzyknąć złośliwy kod do słabo zabezpieczonej witryny internetowej.
Tak czy inaczej, daj szansę Gandalfowi i zobacz, czy uda Ci się przejść każdy poziom. Sugeruję, abyś unikał szukania wskazówek, ponieważ w tej grze jest tylko określona liczba poziomów, a przechytrzenie sztucznej inteligencji przy użyciu wyłącznie siły mózgu jest bardzo satysfakcjonujące. Należy pamiętać, że Lakera nie gromadzi danych użytkowników, chociaż będzie uwzględniać dane wprowadzane przez użytkowników, aby ulepszyć swoje produkty zabezpieczające.