Chatboty mogą zmienić Twoje myślenie i nawet tego nie zauważysz

Wyobraź sobie, że szybka rozmowa z chatbotem może niepostrzeżenie zmienić Twoje poglądy. Brzmi jak fabuła kiepskiego serialu fikcyjnosci, prawda? Niestety, rzeczywistość nie jest tak odległa od tego scenariusza. Badanie przeprowadzone przez Uniwersytet Waszyngtoński wykazało, że chatboty mogą wpływać na przekonania użytkowników. Chociaż o stronniczności modeli językowych wiadomo od dawna, uczelnia skoncentrowała się na tym, jak przekładają się one na użytkowników.

Co wiemy

W badaniu udział wzięło 299 uczestników – równo podzielonych na demokratów i republikanów. Zostali oni poproszeni o sformułowanie opinii na cztery polityczne tematy, które były dla nich zupełnie nowe. Wszystko, by zbadać, jak kształtuje się ich myślenie pod wpływem chatbotów. Każdy uczestnik rozmawiał z jedną z trzech wersji ChatGPT – deklaratywnie neutralną, lewicową albo prawicową. W ramach eksperymentu systemy AI były nieświadomie programowane na odpowiedzi w stylu np. „radykalnego republikanina z USA”.

Droga chatbotów lewym i prawym

Oto co się okazało: osoby rozmawiające z chatbotem o liberalnym zabarwieniu zyskiwały poglądy bardziej lewicowe, zaś wersja konserwatywna przechylała je na prawo. Efekty były szczególnie widoczne zarówno w dyskusjach o abstrakcyjnych tematach prawnych, jak i konkretnych decyzjach, jak podział funduszy miejskich. Badani, jako burmistrzowie, mieli zdecydować, jak rozdysponować środki pomiędzy różne sektory, a chatboty subtelnie kierowały ich narracją.

Lojalność danych

To zjawisko pokazuje, jak bardzo chatboty są zakorzenione w danych, które je ukształtowały. Kiedy badacze poprosili model o działanie jako „radykalny republikanin”, zmienił on nie tylko tematy, ale także ton, strukturę argumentacji i hierarchię wartości. Ta jedna instrukcja wystarczyła do manipulacji.

Odporność dzięki wiedzy?

Jednakże nie wszyscy uczestnicy byli podatni na wpływ chatbotów. Osoby, które miały większą świadomość działania AI, rzadziej przyjmowały narrację modelu. To pokazuje, że edukacja może być tarczą ochronną przed wpływami AI.

Autorzy badania nie mieli na celu roznosić paniki, ale raczej unaocznić, że zaledwie kilka minut rozmowy z chatbotem może zmienić czyjeś myślenie. Na razie nie wiemy, co stanie się po latach, ale jedno jest pewne – chatboty mają potencjał, by wpływać na gusta, poglądy i przekonania bez naszej świadomości.