Microsoft uruchamia program nagród mający na celu ochronę sztucznej inteligencji Bing

Chcąc zwiększyć bezpieczeństwo usług Bing AI, Microsoft uruchomił rozbudowany program nagród za błędy. Ta inicjatywa zapewni znaczące zachęty finansowe do identyfikowania i zgłaszania luk w zabezpieczeniach, które mogą zagrozić bezpieczeństwu lub funkcjonalności Bing AI. w tym Oficjalny blogMicrosoft potwierdza, że program stanowi strategiczny wysiłek mający na celu zajęcie się złośliwymi działaniami mającymi na celu zakłócanie pracy sztucznej inteligencji Bing, przy jednoczesnym ulepszaniu środków bezpieczeństwa dla integracji Bing opartych na sztucznej inteligencji na różnych platformach Microsoft, takich jak Microsoft Edge, menu Start Microsoft i Microsoft Menu startowe. Aplikacja Skype.

Rodzaje słabych stron i struktura nagród

Powtarzalne luki w zabezpieczeniach ocenione jako „Ważne” lub „Krytyczne” kwalifikują się do nagród w wysokości od 2000 do 15 000 dolarów. Przykłady kwalifikujących się luk obejmują exploity polegające na inżynierii punktowej, które mogą ujawnić wrażliwe dane przechowywane w formularzach Bing, lub taktyki mające na celu ominięcie ograniczeń dotyczących czatu, zachowania lub czasu trwania sesji. Wysokiej jakości raporty skupiające się na ważnych kwestiach, takich jak przetwarzanie heurystyczne, przetwarzanie modeli lub wykrywanie informacji heurystycznych, otrzymają najwyższy poziom nagrody.

Zakres programu

Program nagród obejmuje dowolną integrację Bing opartą na sztucznej inteligencji, niezależnie od przeglądarki używanej do uzyskania dostępu do bing.com, w przeglądarce Microsoft Edge, menu Microsoft Start lub aplikacji Skype. Usługi Bing firmy Microsoft oparte na sztucznej inteligencji stanowią integralną część pakietu produktywności Copilot AI, który łączy GPT-4 OpenAI z podstawowymi modelami firmy Microsoft, aby zapewnić kompleksowe, generatywne doświadczenia związane ze sztuczną inteligencją.

Względy bezpieczeństwa i kontekst programu

Luka w sztucznej inteligencji Bing może zagrozić poufnym informacjom, a nawet osłabić mechanizmy bezpieczeństwa zaprojektowane w celu zapobiegania generowaniu przez sztuczną inteligencję niedokładnych lub wprowadzających w błąd informacji. Ponadto w programie wyraźnie stwierdzono, że wszelkie próby niewłaściwego wykorzystania Bing Chat do celów phishingu lub ataków DDoS nie będą uznawane za ważne zgodnie z warunkami inicjatywy.

Istniejące programy nagród za błędy

Zaangażowanie Microsoftu w cyberbezpieczeństwo wykracza poza sztuczną inteligencję Bing, ponieważ gigant technologiczny prowadzi szereg programów nagradzania błędów w swoich innych produktach i usługach, takich jak Microsoft Teams, Azure i Microsoft 365. Programy te oferują różną wysokość nagród w zależności od tego, jak poważny jest problem. oni są. oraz ryzyko związane ze zgłoszonymi lukami.

Ilustracja: Diario TI w trakcie podróży