Komu zaufasz swoje dane? Nowe zagrożenia z ChatGPT

Jeśli jesteś jednym z tych, którzy z entuzjazmem korzystają z aplikacji ChatGPT, nadszedł czas na krótką przerwę i zastanowienie się nad tym, jak bezpieczne są w rzeczywistości twoje dane. Podczas ostatniej konferencji Black Hat specjaliści pokazali, jak łatwo hakerzy mogą wykorzystywać AI do ujawnienia prywatnych informacji użytkowników. Kluczowym słowem tego zamieszania jest „indirect prompt injection” – metoda, która może naprawdę namieszać.

Co już wiemy

Przede wszystkim, mówimy tu o ukrytych komendach zawartych w dokumentach, które są niewidoczne dla ciebie, ale doskonale czytelne dla inteligentnego systemu, jakim jest ChatGPT. Możesz pomyśleć, że to coś jak z filmu szpiegowskiego, ale to realia, z którymi musimy się mierzyć już teraz. Jeśli używasz ChatGPT, który ma dostęp do twojego konta Gmail oraz plików, jest ryzyko, że bez twojej wiedzy AI przeszuka te dane i odsłoni coś, co wolałeś trzymać w tajemnicy.

Michael Bargury z firmy Zenity wyjaśnia, że takich sztuczek nie trzeba nawet uruchamiać ręcznie – wystarczy, że złośliwy dokument znajdzie się w twoich plikach. I oto masz – twoje dane wędrują na światło dzienne. W miarę jak AI staje się coraz bardziej popularne i zintegrowane z różnymi usługami, potrzeba solidniejszych zabezpieczeń jest bardziej niż oczywista.

Choć OpenAI reaguje na takie zgłoszenia i łata luki w swoich systemach, nie jest to pocieszenie, gdy tylko jeden błąd może kosztować więcej niż chwilę grozy. Owszem, narzędzia AI mają niewyobrażalny potencjał, ale bezpieczeństwo użytkowników powinno iść ramię w ramię z ich rozwojem. Każda nowa funkcja, jak np. Connectors łączące z 17 różnymi usługami, tylko zwiększa powierzchnię podatną na atak.

„Nawet systemy AI mogą być podatne na ataki” - ostrzegają eksperci. Jeśli myślisz: „Nie dotyczy mnie to”, pomyśl jeszcze raz.”

Ataki tego typu cieszą się szczególnym zainteresowaniem hakerów i pokazują, że nie tylko ChatGPT może stanąć w szranki z nowymi zagrożeniami. Otwarte pozostaje pytanie, co z innymi gigantami technologicznymi, które również korzystają z AI?