Nowojorski chatbot rozpowszechnia fałszywe informacje

Niedawne dochodzenie przeprowadzone przez The Markup ujawniło, że chatbot uruchomiony przez władze Nowego Jorku w celu zapewnienia wsparcia informacyjnego właścicielom firm rozpowszechniał niedokładne, a nawet wprowadzające w błąd informacje na temat polityki miasta.

Co wiemy

Według raportu, chatbot, zasilany przez sztuczną inteligencję Microsoft Azure, dostarcza fałszywych informacji, czasami nawet łamiąc prawo.

Publikacja, przeprowadzona we współpracy z lokalnymi publikacjami non-profit Documented i The City, znalazła szereg nieścisłości w odpowiedziach chatbota na pytania dotyczące polityki mieszkaniowej, praw pracowniczych i innych istotnych tematów.

Burmistrz Adams zaprezentował chatbota w październiku jako część portalu My City, który został wprowadzony w marcu 2023 roku jako główne źródło usług miasta. Okazało się jednak, że był to tylko projekt pilotażowy, z ostrzeżeniem na stronie internetowej, że czasami informacje mogą być niedokładne, a nawet szkodliwe.

Podczas testów przeprowadzonych przez The Markup, chatbot podawał nieprawidłowe informacje w odpowiedzi na różne pytania, w tym pytania dotyczące sklepów bezgotówkowych i zasad zatrudnienia. Eksperci ds. polityki mieszkaniowej opisują chatbota jako "niebezpiecznie niedokładnego" w najgorszym przypadku.

Leslie Brown, rzecznik nowojorskiego Biura Technologii i Innowacji, powiedział, że chatbot dostarczył już tysiącom osób terminowych i dokładnych odpowiedzi. Przyznał jednak, że ich zespół będzie nadal pracował nad aktualizacją systemu, aby zapewnić lepsze wsparcie dla małych firm w mieście.

Źródło: The Markup