OpenAI likwiduje zespół ds. zagrożeń, ale czy to zwiększa bezpieczeństwo sztucznej inteligencji?

Podczas gdy regulatorzy i futurolodzy spierają się, czy nie dajemy algorytmom zbyt dużej swobody, OpenAI postanowił, że osobny zespół do zapobiegania cyfrowej apokalipsie to sprawa przeszłości. Dział Preparedness, zajmujący się oceną najcięższych scenariuszy rozwoju technologii, oficjalnie zakończył swoje istnienie jeszcze pod koniec lipca.

Kto nadzorował „czerwone przyciski”

Zespół Preparedness nie był po prostu grupą analityków, lecz wyspecjalizowanym działem, koncentrującym się na ekstremalnych zagrożeniach. Jak informuje Financial Times, specjaliści analizowali scenariusze, które budzą niepokój: od masowych cyberataków i zagrożeń biologicznych po sytuacje, w których sztuczna inteligencja zyskuje nadmierną autonomię i wymyka się spod kontroli twórców.

Po reorganizacji kierunki związane z biologicznymi i cybernetycznymi zagrożeniami nie zniknęły całkowicie — zostały rozdzielone między innymi wewnętrznymi zespołami firmy. W OpenAI zapewniają, że system oceny nie ucierpi: Preparedness Framework pozostaje fundamentem ich podejścia do bezpieczeństwa. To wygląda na próbę uczynienia odpowiedzialności zbiorowej, chociaż sceptycy mogą dostrzegać w tym rozmycie uwagi.

Nowa architektura bezpieczeństwa

Firma nadal korzysta z Frontier Governance Framework — systemu zarządzania ryzykiem dla swoich najpotężniejszych modeli. Obejmuje on szerokie spektrum zagrożeń CBRN (chemicznych, biologicznych, radiologicznych i jądrowych), a także przeciwdziała manipulacyjnemu wpływowi i utracie kontroli nad AI. Ten krok wpisuje się w ogólną strategię OpenAI dotyczącą budowy wielopoziomowej ochrony:

• izolacja środowiska wykonawczego;
• surowe ograniczenia sieciowe;
• stała kontrola aktywności agentów AI;
• rozproszona odpowiedzialność za bezpieczeństwo zamiast jednego wydzielonego działu.

Reorganizacja faktycznie oznacza, że ocena modelu nie jest już uważana za jedyną barierę. Teraz bezpieczeństwo zależy od całej infrastruktury, która otacza AI. Jednak likwidacja wyspecjalizowanej grupy Preparedness istotnie zmienia wewnętrzną strukturę kontroli. Wcześniej była to grupa, koncentrująca się wyłącznie na „katastrofach”, teraz te funkcje będą wykonywali ludzie mający, zapewne, również inne operacyjne zadania.