• Jak z wynika z najnowszego raportu Google Threat Intelligence Group, cyberprzestępcy coraz częściej wykorzystują agentów AI i automatyzację do ich złośliwej aktywności. Chodzi już nie tylko o samo pisanie kodu czy kampanie phishingowe, ale o częściową automatyzację ataków. 
• Nowym celem stają się także zasoby firmowe związane z AI: własne modele, kod źródłowy, prompty, dostępy do mocy obliczeniowej czy wyniki badań.
• Choć sztuczna inteligencja może przyspieszyć wiele procesów w firmie, stwarza także zupełnie nowe zagrożenia. Powstaje "nowa generacja" cyberprzestępców, którzy będą atakować systemy AI, uznając je za cenne zasoby w organizacji.
• Google już namierzyło grupy, które żądały okupu w zamian za nieudostępnianie informacji dotyczących sztucznej inteligencji w organizacji. 

Jak wynika z najnowszego raportu Google Threat Intelligence Group (GTIG) „Od promptów do autonomii: ewolucja ofensywnego wykorzystania AI”, do którego uzyskaliśmy dostęp jako pierwsi, zespół ekspertów cyberbezpieczeństwa firmy obserwuje w ostatnich miesiącach istotną zmianę: atakujący nie wykorzystują już prostych promptów, a coraz częściej w swoich działaniach korzystają z agentów AI i automatyzacji. 

To oznacza, że znacząco skraca się czas i zaangażowanie człowieka w proces przygotowania i sam atak, a tym samym - zmniejsza się czas na możliwą reakcję bezpieczników. 

Eksperci jako przykład podają fakt, że w II kwartale br. cyberprzestępcy po przejęciu zasobów chmurowych zdążyli zaplanować, stworzyć i przeprowadzić wspieraną przez agentów masową kampanię wykradania danych i zrobili to... w mniej niż sześć godzin. 

Zespół Google śledził poczynania m.in. grupy UNC6780 (znanej szerzej jako TeamPCP, która w swojej przestępczej działalności charakteryzuje się przede wszystkim motywacjami finansowymi) i w tym czasie, by dokonywać ataków na łańcuchy dostaw otwartego oprogramowania, posługiwała się ona dużymi modelami językowymi. 

Kolejnym ciekawym wnioskiem jest atakowanie przez grupy tych samych zasobów AI - cyberprzestępcy o różnych motywacjach (np. finansowych, ale i ideologicznych) potrafili wyznaczyć sobie za cel modele AI, kod źródłowy, środowiska chmurowe, by następnie uruchamiać nieautoryzowane zadania dla LLM-ów.

Według zespołu Google'a zasoby firm powiązane ze sztuczną inteligencją stają się obecnie celem, który ma służyć do kradzieży danych, szpiegostwa i wymuszania okupów.

Wśród najważniejszych trendów w II kwartale eksperci wskazali:

• rosnące ryzyko w łańcuchach oprogramowania - tj. integracja narzędzi programowania, które są wspierane sztuczną inteligencją, ułatwia i przyspiesza pracę, ale tym samym powoduje, że wzrasta ryzyko ataku;
• ataki na własność intelektualną związaną z AI - rośnie liczba ataków, których celem są własne lokalne modele, kod, prompty czy badania nad sztuczną inteligencją, m.in. w takich sektorach jak media, administracja publiczna czy ochrona zdrowia; 
• zmiana postępowania cyberprzestępców, którzy stosują agentów AI i automatyzację - co pozwala im m.in. na dużo większą skalę wykradać dane dostępowe, jak i wykrywać, a w następnym kroku - wykorzystywać podatności; 
• wykorzystanie AI na wielu etapach ataku - grupy powiązane z państwami i cyberprzestępcy (np. motywowani finansowo) używają narzędzi sztucznej inteligencji do rozpoznania, phishingu, złośliwego kodu czy uzyskania dostępu do systemów. Ułatwia im to także skalowanie działalności;
• nielegalne pozyskiwanie kont i LLMJacking (hakowanie dużych modeli językowych) - wykradanie danych dostępowych programistów do modeli językowych lub przejmowanie infrastruktury, by pomijać koszty dostępu do modeli (np. mocy obliczeniowych) i za darmo uruchamiać modele do ich złośliwej aktywności. 

Zdaniem Johna Hultquista, Chief Analyst, Google Threat Intelligence Group, na tym etapie możemy założyć, że wszystkie grupy przestępcze korzystają w jakimś zakresie z AI oraz że ich operacje na tym zyskały.

Jak wszystkich martwi nas kwestia podatności, jednak AI jest wykorzystywana też w innych obszarach, a szczególnie trudne będzie jej zastosowanie agentowe, które tworzy przeciwnika działającego na dużą skalę i szybciej niż dotąd. Przestępcy, tacy jak ci, którzy przeprowadzili masową kampanię eksploatacji w ciągu zaledwie sześciu godzin, będą dążyć w stronę jeszcze szybszych ataków, utrudniających odpowiednio sprawną reakcję - zaznacza. 

Jego zdaniem aby rozszerzać zakres działań i zdobyć zasoby AI, sprawcy będą je wykradać. - Nawet grupy cyberszpiegowskie, takie jak UNC6508, są gotowe korzystać z przejętych systemów. Ta grupa użyła również modelu lokalnego, co pozwoliło jej uniknąć monitoringu komercyjnego - podaje przykład.

Inna grupa - TeamPCP - to "nowa generacja" cyberprzestępców, którzy będą atakować systemy AI, szczególnie że coraz więcej firm i organizacji będzie automatyzować swoje procesy z pomocą sztucznej inteligencji. - Na razie ich głównym obszarem zainteresowania pozostaje łańcuch dostaw, możemy jednak założyć, że będą szukać kolejnych okazji - dodaje John Hultquist.

Eksperci cyberbezpieczeństwa zwracają uwagę na zagrożenia związane z własnością intelektualną - kradzież badań oraz dostępu do lokalnych modeli AI. W II kwartale br. nie zanotowali bezpośrednich ataków na najbardziej zaawansowane modele AI przez grupy szpiegowskie czy stojące za operacjami wpływu. Natomiast celem stawały się laboratoria AI, firmy technologiczne, ale też organizacje, które wykorzystują sztuczną inteligencję w takich sektorach jak: obronność, media, ochrona zdrowia czy administracja. 

Jako przykład podają działalność grupy UNC6508, powiązanej z Chinami, która prowadziła wieloletnią kampanię szpiegowską i atakowała instytucje medyczne, wojskowe, naukowe w Ameryce Północnej. Celem były właśnie badania nad AI. 

W II kwartale br. Mandiant badał wiele operacji, które skupiały się na kradzieży danych - zasobów AI: promptów, kodów źródłowych i powiązanych z AI badaniach. Celem w tym przypadku były firmy z Ameryki Północnej i Europy. 

Jednym z przypadków była organizacja z sektora ochrony zdrowia (jej nazwy nie ujawniono), która została zaatakowana, a w ramach operacji grupa wykradła dane firmy, badania nad lekami, nad AI i własnym modelem. Sprawcy zażądali okupu w zamian za nieujawnianie informacji.

Inna organizacja z branży mediów także otrzymała żądanie okupu. W razie braku zapłaty cyberprzestępcy chcieli ujawnić kody źródłowe, prompty, dostępy czy skrypty modelu. 

Jak informowaliśmy na łamach WNP, z raportu Grupy Banku Światowego o sztucznej inteligencji i jej wpływie na rozwój gospodarki wynika, że Polska wyraźnie odstaje od europejskich liderów w zakresie wykorzystania sztucznej inteligencji. Luka ta nie wynika z ograniczonego dostępu do technologii, lecz z jakości zarządzania i struktury przedsiębiorstw.

Tylko 8 proc. polskich firm korzysta z AI, podczas gdy w krajach takich jak Austria czy Czechy odsetek ten jest kilkukrotnie wyższy. Kluczowym wyzwaniem staje się nie tyle dostęp do narzędzi AI, co zdolność organizacji do ich strategicznego wdrażania.