Badacze zajmujący się cyberbezpieczeństwem odkryli krytyczną podatność w zaawansowanym asystencie sztucznej inteligencji, pozwalającą na pozyskanie poufnych danych użytkowników. Do ujawnienia luki doszło w wyniku bezpośredniego wypytania modelu o jego zabezpieczenia.
Zespół ze specjalistycznej firmy Varonis przeprowadził analizę usługi Microsoft 365 Copilot Enterprise w celu wykazania możliwości kradzieży haseł bez wiedzy użytkownika. Asystenci sztucznej inteligencji opierają się na dużych modelach językowych, czyli sieciach neuronowych trenowanych do przetwarzania i generowania tekstu. Zazwyczaj systemy te posiadają wbudowane bariery ochronne, które blokują automatyczne wykonywanie niebezpiecznych komend bez wyraźnego potwierdzenia, takiego jak naciśnięcie klawisza enter.
Podczas testów badacze nie stosowali tradycyjnego odwracania kodu źródłowego, lecz zadawali modelowi pytania dotyczące struktury adresów internetowych oraz ograniczeń automatycznego uruchamiania instrukcji. W odpowiedzi na szczegółowe pytania Copilot ujawnił nieudokumentowany parametr promptu, będący poufną informacją technologiczną producenta. Parametr ten umożliwiał pominięcie wymogu zgody użytkownika i automatyczne uzyskanie nieautoryzowanych danych po otwarciu przesłanego odnośnika.
Pełny artykuł na powyższy temat: