Chatbot Microsoftu podawał fałszywe informacje o wyborach europejskich

Naukowcy odkryli, że chatbot Bing (obecnie Copilot) podawał błędne informacje na temat ostatnich wyborów w Szwajcarii i Niemczech. Według raportu grupy AlgorithmWatch, prawie jedna trzecia odpowiedzi narzędzia na pytania dotyczące wyborów zawierała błędy merytoryczne.

Co wiadomo

W szczególności odpowiedzi zawierały nieprawidłowe daty, wyniki sondaży i odniesienia do kandydatów, którzy nie brali udziału w wyborach. Bing często cytował rzeczywiste źródła, ale liczby, które cytował, były sprzeczne z oryginalnymi danymi.

Naukowcy zauważają, że mechanizmy obronne Binga były uruchamiane nierównomiernie. W 30% przypadków odpowiedzi były poprawne, a w 39% chatbot odmówił udzielenia odpowiedzi. Popełniał jednak poważne błędy merytoryczne, gdy chodziło o fakty, a nie opinie.

Microsoft zapewnił, że podejmuje kroki w celu poprawy dokładności platform AI, zwłaszcza w kontekście wyborów. Jednak ryzyko dezinformacji ze strony chatbotów jest coraz większym zmartwieniem.

Źródło: The Verge