Google rozszerzył swój program bug bounty o luki w systemach generatywnej sztucznej inteligencji.

Google uzupełniło swój program nagród za znajdowanie luk w zabezpieczeniach o scenariusze ataków specyficzne dla sztucznej inteligencji generatywnej.

Co wiadomo

W ramach programu bug bounty Google wypłaca etycznym hakerom nagrody pieniężne za znalezienie i odpowiedzialne ujawnienie luk w zabezpieczeniach. Według firmy zachęca to do badań nad bezpieczeństwem sztucznej inteligencji i pomoże zidentyfikować potencjalne problemy, aby technologia była bezpieczniejsza.

Biorąc pod uwagę nowe obawy dotyczące bezpieczeństwa związane ze sztuczną inteligencją, Google postanowiło przemyśleć sposób kategoryzowania błędów w swoich systemach. W tym celu firma wykorzystuje dane ze swojego zespołu AI Red Team modelującego różne cyberataki.

W szczególności zespół odkrył podatność modeli językowych na wprowadzanie złośliwych wskazówek i wydobywanie danych szkoleniowych przez atakujących. Takie scenariusze są obecnie objęte programem bug bounty.

Jednak odkryte błędy, które wiążą się z naruszeniem praw autorskich lub wydobyciem niewrażliwych danych, nie będą nagradzane.

Wysokość nagrody będzie zależeć od wagi wykrytej luki. W 2022 roku Google wypłaciło badaczom ponad 12 milionów dolarów.

Źródło: TechCrunch