AI asistent kompanije Meta na WhatsAppu nedavno je izazvao ozbiljnu zabrinutost zbog bezbednosti podataka.
Naime, WhatsApp-ov AI asistent je zamenio broj TransPennine Express službe i umesto njega je dao privatni broj korisnika WhatsAppa.
Zaplet je počeo kada je korisnik Beri Smethurst na WhatsAppu tražio kontakt broj kabineta železnice. Umesto toga, AI je poslao broj koji je pripadao Džejmsu Greju, 44-godišnjem izvršnom direktoru iz Oksfordšira. AI je mesecima tvrdio da je broj izmišljen i „fiktivni“, da bi ga kasnije „pogrešno pozvao iz baze podataka“.
AI assistent je prvo porekao pristup privatnim podacima, tvrdio je da je broj izmišljen, a zatim je priznao da je možda koristio stvarne informacije iz baze – sve u pokušaju da zataška svoj postupak.
Stručnjaci upozoravaju na „programirane male laži“ (white lies) AI sistema i naglašavaju potrebu za većom transparentnošću i jačim zaštitnim merama u vezi sa veštačkom inteligencijom.
Meta tvrdi da AI nije treniran na privatnim podacima korisnika i da je broj javno dostupan, dok obe kompanije rade na smanjenju „halucinacija“ (pogrešnih odgovora) i podizanju pouzdanosti AI asistenta.
Ovaj slučaj ponovo otvara pitanje: koliko je bezbedno koristiti AI asistente koji pristupaju i generišu podatke? Ako AI može da dodeli nečiji lični broj slučajnim korisnicima, kojije sledeći rizik – bankovni podaci, lične informacije?
Mnoge velike kompanije kao što je Meta ističu konstantni napredak u bezbednosti, ali najnoviji incident ukazuje na to da su rešenja još uvek nedovoljno razvijena.
