Ako ste jedan od 1,8 milijardi korisnika Gmail-a, smatrajte ovo alarmom.
Google je izdao novo upozorenje: sajber-napad pokretan veštačkom inteligencijom mogao bi tiho da krade vaše podatke – bez ikakvih klikova, preuzimanja ili drugih znakova koji bi ukazali da nešto nije u redu.
U detaljnom blog postu, Google je otkrio novu vrstu pretnje svojoj globalnoj korisničkoj bazi: indirektne promptove. Za razliku od konvencionalnih hakerskih taktika koje vas navode da otkrijete svoje informacije putem lažnih veb lokacija ili sumnjivih linkova, ova koristi AI alate na koje se sada oslanjamo.
Ovi skriveni promptovi mogu manipulisati generativnim AI sistemima, poput onih ugrađenih u vaše mejlove ili ekstenzije pregledača, i da deluju u ime napadača. To znači da bi vaš AI asistent integrisan u Gmail, teoretski, mogao biti prevaren da prosleđuje vaše poruke, deli vaš kalendar ili druge lične detalje – sve bez vašeg znanja ili pristanka.
Kako izgleda napad
Nova metoda koristi način na koji AI obrađuje ulaz iz naizgled benignih izvora. Na primer, kada primite neki Google dokument, vaši AI alati ga automatski skeniraju. Skriveni prompt u dokumentu „prevari“ AI da se ponaša zlonamerno – možda šalje vaše privatne podatke na eksterni server ili kopira osetljive informacije u drugi dokument.
„Ovaj suptilan, ali potencijalno moćan napad postaje sve češći širom industrije, posebno jer sve više ljudi usvaja AI alate u svakodnevne radne tokove“, saopštio je Google.
Pretnju čini posebno opasnom sledeće:
Šta vi možete da uradite
Iako će potpuno rešenje verovatno zahtevati promene od strane tehnoloških kompanija i AI dobavljača, svakodnevni korisnici nisu bespomoćni. Evo nekoliko koraka koje možete preduzeti:
Pored ovoga, naravno, održavajte do sad najbolje dokazane prakse: dvofaktorsku autentifikaciju, jake, unikatne lozinke i pazite na neobično ponašanje ili obaveštenja.
