Kyberzločinci objavili nový spôsob útoku na Google Gemini

V súčasnosti, keď umelá inteligencia preniká do každodenného života, sa objavujú aj nové hrozby. Nedávno odhalená zraniteľnosť v systéme Google Gemini ukazuje, ako kyberzločinci využívajú prirodzený jazyk na obídenie bezpečnostných opatrení. Analytici z Miggo Security upozornili na techniku, známy ako nepriama injekcia príkazov, ktorá umožňuje útočníkom získať prístup k citlivým informáciám bez toho, aby obete museli vykonať akékoľvek podozrivé kroky.

Útočníci môžu jednoducho poslať pozvánku na udalosť prostredníctvom Google Kalendára, do ktorej vložia skryté pokyny pre umelú inteligenciu. Ak sa používateľ spýta Gemini na svoje nadchádzajúce stretnutia, umelá inteligencia môže neúmyselne zverejniť súkromné informácie, ktoré sú v pozvánke skryté. Takto sa útočník dostane k citlivým údajom bez toho, aby obete o tom vedeli. Tento problém sa týka nielen individuálnych používateľov, ale aj firemných nastavení, kde sú tieto informácie potenciálne dostupné pre útočníkov.

Hoci Google už túto konkrétnu zraniteľnosť opravil, odborníci varujú, že ide len o začiatok. Podobné techniky boli objavené aj v systéme Microsoft Copilot, čo naznačuje, že riziko narastá s rastúcou integráciou AI do pracovných nástrojov. Okrem toho, výskumníci zo spoločnosti XM Cyber identifikovali spôsoby, ako môžu útočníci získať kontrolu nad servisnými účtami v cloude Google Vertex AI, čo im umožňuje prístup k citlivým údajom a histórii četov.

V rámci tejto analýzy sa skúmali aj populárne nástroje na písanie kódu pomocou AI. Zistenia ukázali, že aj keď AI dokáže generovať funkčný kód, často zlyháva pri nastavovaní potrebných bezpečnostných opatrení. Odborníci zdôrazňujú, že umelá inteligencia, aj keď je mocným nástrojom, si vyžaduje neustály ľudský dohľad. V dnešnej dobe, keď aj bežná veta môže predstavovať hrozbu, je opatrnosť kľúčová.