Sztuczna inteligencja do generowania naklejek WhatsApp czasami dodaje broń do zdjęć dzieci w zapytaniach dotyczących Palestyny

W komunikatorze WhatsApp generator naklejek AI w niektórych przypadkach generuje obrazy dzieci z bronią, gdy wprowadzane są monity związane z Palestyną.

Co wiadomo

W przeszłości model zaczął generować naklejki z tendencją do tworzenia nieodpowiednio brutalnych lub prymitywnych obrazów, w tym dzieci-żołnierzy. Według doniesień medialnych, niektórzy pracownicy firmy sygnalizowali i zaostrzali problem z podpowiedziami związanymi z wojną w Izraelu.

Rzecznik Meta, Kevin McAlister, powiedział, że firma zajmuje się tą kwestią. Dodał, że firma będzie nadal ulepszać funkcje sztucznej inteligencji w miarę ich rozwoju i w oparciu o opinie użytkowników.

Meta doświadczyła wcześniej innych przypadków stronniczości AI. Na przykład automatyczny tłumacz Instagrama wstawił słowo "terrorysta" do arabskich tekstów w profilach. Błąd ten doprowadził do aresztowania Palestyńczyka w Izraelu w 2017 roku.

Źródło: The Guardian