Zvuči kao naučna fantastika, ali nije: AI može finansijski uništiti vaše poslovanje

Čini se da su svi zabrinuti zbog potencijalnog uticaja vještačke inteligencije (AI) ovih dana. Čak su i tehnološki lideri, uključujući Ilona Maska i suosnivača Apple-a Stiva Voznijaka, potpisali javnu peticiju u kojoj pozivaju OpenAI, kreatore konverzacijskog chat bota ChatGPT, da obustave razvoj ovog servisa na šest mjeseci kako bi mogao biti “strogo revidiran i nadgledan od strane nezavisnih vanjskih stručnjaka”.

Njihova zabrinutost oko uticaja vještačke inteligencije na čovječanstvo u budućnosti je opravdana – govorimo o ozbiljnim stvarima o Terminatoru, bez Švarcenegera koji bi nas spasio. Ali to je budućnost. Nažalost, postoji vještačka inteligencija koja se trenutno koristi i koja već počinje da ima veliki uticaj – čak i finansijski uništava – preduzeća i pojedince. Toliko da je američka Federalna trgovinska komisija (FTC) osjetila potrebu da izda upozorenje o AI prevari koja, prema ovom izvještaju NPR-a , “zvuči kao zaplet iz naučnofantastične priče”.

Ali ovo nije naučna fantastika, piše londonski Guardian i dodaje da su prevaranti, koristeći deepfake AI tehnologiju, prošle godine ukrali oko 11 miliona dolara od prevarenih potrošača tako što su izmislili glasove voljenih osoba, doktora i advokata koji su tražili novac od svojih rođaka i prijatelja.

„Sve što prevarantu treba je kratak audio snimak glasa člana vaše porodice – koji bi mogao dobiti iz sadržaja objavljenog na mreži – i program za kloniranje glasa“, kaže FTC. “Kada vas prevarant nazove, zvučaće kao vaša voljena osoba i vi ćete mu vjerovati.”

I ovi incidenti nijesu ograničeni samo na potrošače. Preduzeća svih veličina brzo postaju žrtve ove nove vrste prevare.

To je ono što se dogodilo menadžeru banke u Hong Kongu, koji je primio lažne pozive od svog direktora sa zahtjevom za transfer koji je bio toliko uvjerljiv da je na kraju prebacio 35 miliona dolara i nikada ga više nije vidio. Sličan incident dogodio se u energetskoj firmi sa sjedištem u Velikoj Britaniji gdje je nesvjesni zaposleni prebacio približno 250.000 dolara kriminalcima nakon što je duboko lažiran da je mislio da je primalac generalni direktor matične kompanije. FBI sada upozorava kompanije da kriminalci koriste deepfakes da kreiraju “zaposlene” na mreži za radna mjesta na daljinu, kako bi dobili pristup korporativnim informacijama.

Deepfake video tehnologija se sve više koristi u posljednjih nekoliko godina, uglavnom ciljajući na poznate ličnosti i političare poput Marka Zakerberga, Toma Kruza, Baraka Obamu i Donalda Trampa. I vjerovatno je da će ova izborna godina biti ispunjena sve većim brojem lažnih videa vrlo stvarnog izgleda koji će pokušati da utiče na birače.

Ali potencijalni uticaj na mnoge vlasnike malih preduzeća koje najviše brine. Mnogi od nas su se pojavili na javno dostupnim video-snimcima, bilo na YouTubeu, Facebooku ili LinkedIn-u. Ali čak i onima koji se nijesu pojavili na video-snimcima može im se „ukrati“ glas od strane prevaranta koji kopiraju odlazne poruke govorne pošte ili čak upućivanjem lažnih poziva kako bi uvukli meta podatke u razgovor s jedinim ciljem – da snime njihov glas.

Ovo je gore od zlonamjernog softvera ili ransomwarea. Ako se efikasno koristi, može se pretvoriti u značajne, trenutne gubitke. Pa šta da se radi? Uvedite i sprovodite kontrole.

To znači da bilo kom finansijskom menadžeru u vašem poslu ne bi trebalo dozvoliti da preduzima bilo kakvu finansijsku transakciju kao što je transfer gotovine na osnovu dolaznog telefonskog poziva. Svima je potreban povratni poziv, čak i izvršni direktor kompanije, kako bi se potvrdio izvor.

I što je jednako važno, nijedna transakcija iznad unaprijed određenog iznosa ne smije biti odobrena bez prethodnog pismenog odobrenja više rukovodilaca u kompaniji. Naravno, mora postojati i pisana dokumentacija – potpisani zahtjev ili ugovor – koja je u osnovi zahtjeva za transakciju.

Ove vrste kontrola lakše je primijeniti u većoj kompaniji koja ima više strukture. Ali računovođe u manjim preduzećima često se nađu kao žrtve nadjačavanja menadžmenta, što se najbolje može objasniti „Nije me briga kakva su pravila, ovo je moj posao, pa prebacite gotovinu odmah, dovraga!“ Ako ste vlasnik preduzeća koji ovo čitate, molimo vas: uspostavite pravila i slijedite ih. To je za vaše dobro, piše Guardianov Gene Marks.

Dakle, da, AI tehnologija kao što je ChatGPT predstavlja neke zastrašujuće buduće rizike za čovječanstvo. Ali to je budućnost. Deepfake tehnologija koja imitira rukovodioce i lažira zaposlene je već tu i sada i samo će se povećavati.