Chatboty oparte na sztucznej inteligencji mogą pomóc zaplanować atak biologiczny - badanie

Według badania przeprowadzonego przez amerykański think tank Rand Corporation, modele sztucznej inteligencji wykorzystywane w chatbotach są w stanie udzielać porad dotyczących planowania ataku biologicznego.

Co wiadomo

Naukowcy przetestowali kilka dużych modeli językowych AI. Okazało się, że mogą one pomóc w przygotowaniu ataku biologicznego, choć nie generują bezpośrednio instrukcji do stworzenia broni.

W jednym z testów anonimowa sztuczna inteligencja oceniała potencjał różnych bioagentów, takich jak ospa i dżuma, do masowego wpływania na ludzi. W innym, model omówił zalety toksyny botulinowej i zalecił legendę jej pozyskiwania.

Według naukowców wyniki wskazują, że chatboty mogą pomóc w planowaniu ataku biologicznego. Należy jednak przeanalizować, czy odpowiedzi są po prostu odzwierciedleniem informacji już dostępnych w Internecie.

Niemniej jednak firmy zajmujące się rozwojem sztucznej inteligencji powinny ograniczyć zdolność modeli do prowadzenia takich rozmów, stwierdzili naukowcy.

Źródło: The Guardian