Meta w tarapatach: Awaria AI ujawnia niekontrolowane rozszerzenie dostępu inżynierów!

W Meta doszło do awarii systemu bezpieczeństwa z powodu działania sztucznej inteligencji. Informuje o tym The Information. Według wydania, wewnętrzny agent AI bez pozwolenia ingerował w proces roboczy pracowników i sprowokował błędny łańcuch dostępu.

Co wiadomo

Incydent rozpoczął się od tego, że jeden z pracowników użył wewnętrznego narzędzia opartego na AI do analizy prośby kolegi na korporacyjnym forum. Jednak system samodzielnie opublikował odpowiedź z rekomendacjami, chociaż takiego zadania mu nie dano. Inny pracownik wykonał te porady, co doprowadziło do błędnego rozszerzenia dostępu: część inżynierów uzyskała prawa do systemów, które nie powinni byli widzieć.

W Meta potwierdzili fakt incydentu i stwierdzili, że nie doszło do wycieku danych użytkowników. Zgodnie z wewnętrznym raportem, naruszenie trwało około dwóch godzin. Podkreślono również, że dodatkowe problemy techniczne zaostrzyły sytuację, jednak brak dowodów na nadużycie dostępu lub publiczne ujawnienie informacji.

To już nie pierwszy przypadek, kiedy autonomiczne narzędzia AI wymykają się spod kontroli. Wcześniej Amazon Web Services spotkało się z dużą awarią, którą również wiązano z agentem sztucznej inteligencji. Eksperci podkreślają: aktywne wdrażanie takich systemów wymaga jasnych ograniczeń i kontroli, inaczej zagrożenia dla bezpieczeństwa będą tylko rosły.

Źródło: The Information