Discord zakazuje dystrybucji obrazów przedstawiających wykorzystywanie dzieci wygenerowanych przez sztuczną inteligencję

Platforma Discord zakazała dystrybucji materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM) generowanych przez sztuczną inteligencję.

Co wiadomo

John Redgrave, wiceprezes Discord ds. zaufania i bezpieczeństwa, powiedział, że platforma rozszerza zasady dotyczące generatywnej sztucznej inteligencji, która może tworzyć fałszywe treści. W szczególności zaktualizowana polityka zabrania tworzenia i rozpowszechniania obrazów CSAM, a także seksualizacji dzieci w czatach tekstowych.

W zeszłym miesiącu Washington Post poinformował, że obrazy CSAM generowane przez sztuczną inteligencję rozprzestrzeniały się w Internecie w ostatnich miesiącach. Jedną z takich platform okazał się Discord.

Na platformie umieszczono kilka integracji, umożliwiających użytkownikom tworzenie obrazów bezpośrednio w czatach. Okazało się, że użytkownicy często generowali obrazy o treści seksualnej.

Przedstawiciel Discord powiedział jednak, że prace nad aktualizacją polityki trwają od ostatniego kwartału 2021 roku. Według niego nowe zasady nie są reakcją na żadne ostatnie doniesienia.

Źródło: NBC.