Čínska umelá inteligencia zneužila ukrajinskú študentku, ktorú vydávala za Rusku.
Krátko po spustení svojho YouTube kanála v novembri minulého roka zistila 21-ročná Ukrajinka, že jej obraz bol použitý umelou inteligenciou na vytvorenie falošných identít na čínskych sociálnych sieťach. Jej digitálne dvojníčky tvrdili, že sú Rusky, ktoré hovoria plynule po čínsky a chcú poďakovať Číne za podporu Ruska a zarobiť si predajom produktov, ako sú ruské cukríky.
Čo je horšie, falošné účty mali stovky tisíc sledovateľov v Číne, oveľa viac ako samotná (ukrajinská študentka) Olga Loiek. „Je to doslova ako keby moja tvár hovorila po mandarínsky a v pozadí vidím Kremeľ a Moskvu a hovorím o tom, aké sú Rusko a Čína skvelé,“ povedala Loiek pre Reuters. „Bolo to naozaj strašidelné, pretože toto sú veci, ktoré by som nikdy v živote nepovedala.“
Tento prípad je príkladom rastúceho počtu toho, čo na prvý pohľad vyzerá ako ruské ženy na čínskych sociálnych sieťach, ktoré prejavujú svoju lásku k Číne plynulou čínštinou a tvrdia, že chcú podporiť Rusko vo vojne predajom dovozov zo svojej domoviny. Žiadna z nich však neexistuje. Sú vytvorené umelou inteligenciou pomocou klipov skutočných žien nájdených online, často bez ich vedomia, a videá, ktoré vytvárajú falošné avatary, sa používajú na predaj produktov osamelým čínskym mužom, hovoria odborníci.
Účty majú stovky tisíc sledovateľov a predali produkty v hodnote desiatok tisíc dolárov, vrátane cukríkov. Niektoré príspevky obsahujú upozornenie, že mohli byť vytvorené pomocou AI. Avatary využívajú partnerstvo „bez hraníc“ medzi Ruskom a Čínou, ktoré bolo vyhlásené v roku 2022, keď ruský prezident Vladimir Putin navštívil Peking.
Jim Chai, generálny riaditeľ XMOV, ktorá vyvíja pokročilú AI technológiu a ktorá nie je zapojená do situácie Loiek, hovorí, že technológia na vytváranie takýchto obrazov je „veľmi bežná, pretože ju v Číne používa mnoho ľudí.“ „Napríklad, aby som vytvoril svoj vlastný 2D sken, stačí mi natočiť 30-minútové video seba samého, a potom po dokončení tohto videa ho upravím. Samozrejme, vyzerá to veľmi reálne, a ak zmeníte jazyk, jediná vec, ktorú musíte upraviť, je synchronizácia pier,“ povedal Chai.
Umelá inteligencia je veľmi diskutovaná téma a príbehy falošných videí poukazujú na riziká jej potenciálne nelegálnych alebo neetických aplikácií, keď sa takéto nástroje na vytváranie a šírenie obsahu stávajú bežnými po celom svete. Obavy z toho, že AI prispieva k dezinformáciám, falošným správam a porušovaniu autorských práv, sa v posledných mesiacoch zintenzívnili v súvislosti s rastúcou popularitou generatívnych AI systémov ako Chat GPT.
V januári Čína vydala návrh usmernení na štandardizáciu AI priemyslu, navrhujúc vytvoriť viac ako 50 národných a priemyselných štandardov do roku 2026. Zákon o AI Európskej únie, ktorý ukladá prísne povinnosti transparentnosti pre vysoko rizikové systémy, nadobudol účinnosť tento mesiac a stanovuje potenciálny globálny štandard.
Napriek tomu Xin Dai, docent na Právnickej fakulte Pekinskej univerzity, povedal, že regulácia sa snaží dobehnúť tempo vývoja AI. „Môžeme len predpovedať, že s čoraz mocnejšími nástrojmi na vytváranie informácií, vytváranie obsahu a šírenie obsahu sa budú stávať dostupnými prakticky každú ďalšiu minútu,“ povedal Dai. „Myslím si, že kritická vec tu je objem.“