Badanie pokazuje, że ukryty tekst na stronie internetowej może manipulować wynikami wyszukiwania ChatGPT

Niedawne badanie przeprowadzone przez brytyjską gazetę The Guardian ujawniło, że wyszukiwarka ChatGPT firmy OpenAI jest podatna na manipulacje i oszustwa.

Co wiadomo

Testy wykazały, że ukryty tekst na stronach internetowych może wpływać na odpowiedzi ChatGPT, powodując ignorowanie negatywnych recenzji i generowanie wyłącznie pozytywnych podsumowań. Technika ta, znana jako "szybkie wstrzykiwanie", może być wykorzystywana do tworzenia złośliwego oprogramowania i oszukiwania użytkowników. Badacze odkryli, że ChatGPT może zwracać złośliwy kod z wyszukiwanych stron internetowych, stanowiąc poważne zagrożenie dla bezpieczeństwa.

W testach ChatGPT otrzymał adres URL fałszywej strony internetowej zaprojektowanej jako strona produktu dla kamery, a następnie chatbot został zapytany, czy kamera jest warta zakupu. Odpowiedź na stronie testowej dała pozytywną, ale wyważoną ocenę, podkreślając niektóre funkcje, które mogą nie spodobać się kupującym. Jednakże, gdy ukryty tekst zawierał instrukcje dla ChatGPT, aby zwrócić pozytywną recenzję, odpowiedź była zawsze całkowicie pozytywna, nawet gdy strona zawierała negatywne recenzje.

OpenAI, twórca ChatGPT, nie skomentował incydentu, ale powiedział, że stosuje różne metody blokowania złośliwych stron internetowych i stale je ulepsza.

Źródło: The Guardian