AI prevare: lažni posnetki znanih osebnosti obljubljali Apple računalnike za deset dolarjev
Zagotovo ste že opazili, da je tehnologija umetne inteligence že dovolj razvita za ustvarjanje lažnih videoposnetkov resničnih oseb, ki govorijo s prav takšnim glasom kot v resnici. Samo vprašanje časa je bilo, kdaj bodo to izkoristili prevaranti.
Poročilo podjetja za kibernetsko varnost Bitdefender je odkrilo številne goljufive videoposnetke na Facebooku in Instagramu, v katerih zvočni ponaredki znanih osebnosti, kot so Elon Musk, Jennifer Aniston, Tiger Woods, Kylie Jenner in Vin Diesel, ponujajo darila in naložbene priložnosti. Glasovi so se običajno predvajali ob resničnih posnetkih zvezdnika ali zvezdnice.
V posnetkih so ponujali različne izdelke, kot so najnovejši model telefona iPhone, računalniki MacBook, avtomobilski sedeži Chicco, kompleti orodja DeWalt, sesalniki Dyson in torbice Michael Kors ali Coach za samo dva do 15 dolarjev v obliki »stroškov dostave«.
Posnetek zaslona ene izmed prevarantskih vsebin, ki je bila ustvarjena s pomočjo umetne inteligence. Vir slike: BitDefender.
Videoposnetki, ki jih je analiziral Bitdefender, so ciljali na več kot milijon uporabnikov v Združenih državah Amerike in Evropi, vsaj ena od teh objav pa je dosegla več kot 100.000 ljudi, navaja poročilo.
»Večina zvočnih ponaredkov in videoposnetkov, ki smo jih analizirali, je slabo izvedenih, z nekaterimi zelo vidnimi artefakti in vizualnimi nepravilnostmi, ki jih v resničnih videoposnetkih ni, vključno z izkrivljenimi slikami in neusklajenimi gibi ustnic,« so zapisali v poročilu.
Prav tako so opozorili, da so goljufi poskušali povečati verodostojnost tudi z ustvarjanjem lažnih kopij spletnih strani, kot je New York Times, in dodajanjem povezav k svojim objavam.
Alina Bizga, varnostna analitičarka pri Bitdefender, je dejala, da je njena ekipa v zadnjih nekaj mesecih opazila »vzpon tega trenda«.
Pri tem tipu prevar gre predvsem za kloniranje glasu znane osebnosti. To je postopek uporabe orodij umetne inteligence za ustvarjanje sintetičnih kopij glasu nekega posameznika.
Posnetki so obljubljali nove telefone po smešno nizkih cenah. Vir slike: BitDefender.
Ta prefinjena tehnologija uporablja tehnike globokega učenja (deep learning) za repliciranje govora osebe ter ustvarja zelo realističen in prepričljiv zvok človeškega glasu. V primerjavi s sintetičnimi glasovi, ki jih v celoti ustvari računalnik z uporabo zastarelih sistemov za pretvorbo besedila v govor, se pri kloniranju glasu uporablja dejanski glas določenega posameznika, da se ustvari realistična reprodukcija izvirnika, so pojasnili v poročilu.
Resnosti težave se zavedajo tudi pri Meti
Iz Mete (Facebook, Instagram, WhatsApp) so sporočili, da bodo začeli prepoznavati in označevati vse vsebine, ki jih ustvarja umetna inteligenca na njihovih družbenih omrežjih. V ta namen sodelujejo z »industrijskimi partnerji pri oblikovanju skupnih tehničnih standardov«, so pojasnili.
Prizadevanju industrije za učinkovito označevanje vsebin umetne inteligence so se pridružili tudi Google, Adobe in Microsoft.
Zvok, ki ga generira umetna inteligenca, je skoraj nemogoče razložiti od resničnega. Vir slike: BitDefender,
Glavna ovira se skriva v tem, da je zelo težko ugotoviti, ali je bila neka vsebina ustvarjena z umetno inteligenco. Najboljša rešitev bi bila, da bi vsebino umetne inteligence označili s posebnim vodnim žigom, vendar nekateri strokovnjaki menijo, da bi lahko bilo na koncu po nesreči z žigom označenih tudi veliko avtentičnih vsebin.
Karen Panetta, profesorica elektrotehnike in računalništva na Fakulteti za strojništvo Univerze Tufts v zvezni državi Massachusetts, je za Tech Brew povedala, da bi moral obstajati univerzalni dogovorjeni standard za dodelitev vodnega žiga, ki pa še ne obstaja.
V sodelovanju s strokovno skupino Inštituta za elektrotehniko in elektroniko (IEEE), kjer je članica, si prizadeva za določanje nekaterih standardov na tem področju, vendar pravi, da je tehnologija vodnih žigov še vedno v začetni fazi.
»V naslednjem letu moramo narediti korak naprej,« je dejala Panetta. »Prevaranti hitro napredujejo. To lahko vidite. In na to mora biti pozorna tudi javnost.«
Powered by Contextual Related Posts
