Microsoft próbował wyciszyć lukę w DALL-E, powiedział przedstawiciel firmy

Inżynier sztucznej inteligencji Microsoftu, Shane Jones, twierdzi, że na początku grudnia odkrył lukę w modelu generowania obrazu DALL-E 3 firmy OpenAI. Deweloper twierdzi, że użytkownicy mogą ją wykorzystać do ominięcia zabezpieczeń i tworzenia złośliwych treści.

Co wiadomo

Po odkryciu luki Jones natychmiast zgłosił ją kierownictwu. Poradzono mu jednak, by skontaktował się bezpośrednio z OpenAI.

Następnie Jones opublikował post krytykujący OpenAI na LinkedIn, ale dział prawny Microsoftu zażądał jego natychmiastowego usunięcia. Deweloper zastosował się do żądania swojego pracodawcy.

Według Jonesa, ze względu na odkryte przez niego wady, DALL-E 3 stanowi zagrożenie dla bezpieczeństwa publicznego i powinien zostać usunięty z publicznego dostępu. Wezwał OpenAI do rozwiązania problemów z modelem, ale nigdy nie otrzymał odpowiedzi od firm.

Microsoft i OpenAI stwierdziły, że zbadały wiadomość Jonesa i nie znalazły dowodów na to, że luka pozwala na ominięcie obrony. Jednocześnie Microsoft nie potrafił wyjaśnić inżynierowi, dlaczego zażądał usunięcia postu.

Jones wysłał informacje o luce do prokuratora generalnego stanu Waszyngton i amerykańskich kongresmenów. Wezwał władze do stworzenia systemu śledzenia zagrożeń związanych ze sztuczną inteligencją.

Wyraził również gotowość do zostania sygnalistą i poproszenia o ochronę prawną przed nękaniem ze strony korporacji, jeśli zajdzie taka potrzeba.

Źródło: GeekWire