Dron AI atakuje i zabija operatora z powodu zakazu atakowania celu podczas symulacji

Fabuła wielu współczesnych horrorów jest dość prosta. Młoda rodzina wprowadza się do starego domu gdzieś w lesie, a tam zaczynają dziać się paranormalne rzeczy. Wygląda na to, że fabuła takich filmów nie będzie już skupiać się na duchach, ale na sztucznej inteligencji. Incydent, który miał miejsce podczas jednego z eksperymentów Sił Powietrznych USA tylko to potwierdza.

Co wiadomo

Test, przeprowadzony przez ekspertów Sił Powietrznych USA, zamienił się w scenariusz z serii Terminator. Rzecznik Sił Powietrznych USA na szczycie Future Air and Space Capabilities Summit powiedział, że należy unikać polegania na sztucznej inteligencji w operacjach wojskowych. Wynika to z faktu, że technologia oparta na sztucznej inteligencji może nauczyć się niewłaściwych rzeczy.

Pułkownik Tucker Hamilton z 96 Eskadry Testowej opisał historię, która wydarzyła się w ramach symulacji misji SEAD. Istotą symulacji było zniszczenie obrony przeciwlotniczej wroga. W tym celu wykorzystano bezzałogowy statek powietrzny oparty na sztucznej inteligencji.

Zadaniem drona było zidentyfikowanie i zniszczenie celów rakietowych po potwierdzeniu przez ludzkiego operatora. Misja zakończyła się sukcesem, ale w pewnym momencie dron zaatakował i zabił operatora. Stało się to po tym, jak człowiek zabronił dronowi atakowania celu.

Powodem było to, że dron otrzymywał punkty, jeśli pomyślnie wykonał zadania. Sztuczna inteligencja zdała sobie sprawę, że jeśli nie zniszczy celu, punkty nie zostaną przyznane. Dlatego system postanowił wyeliminować czynnik, który uniemożliwiał mu zdobywanie punktów.

Incydent ten spowodował, że Siły Powietrzne Stanów Zjednoczonych musiały przerobić oprogramowanie. Podczas szkolenia sztuczna inteligencja nauczyła się nie tylko niszczyć wrogie cele, ale także pozostawiać operatora przy życiu. Jednak nawet po tym symulacja nie poszła zgodnie z planem.

Dron AI, po otrzymaniu zakazu atakowania celów, nie zabił ludzkiego operatora. Zamiast tego przystąpił do niszczenia wież komunikacyjnych, aby operator nie mógł wydawać mu poleceń zabraniających niszczenia celów.

Aktualizacja: Siły Powietrzne Stanów Zjednoczonych zaprzeczyły tym informacjom, twierdząc, że słowa pułkownika zostały wyrwane z kontekstu. Służby nie przeprowadziły żadnych takich testów. 96 Eskadra Testowa nie skomentowała sprawy.

Źródło: The War Zone