Ši technologija leidžia naudotojams vaizdo įraše pakeisti vieno asmens veidą kitu arba į kalbančiojo burną „įterpti“ norimus žodžius, o tai kartais būna taip tikroviška, kad kelia nerimą.

Minėtas metodas remiasi dirbtiniu intelektu ir yra populiarus socialiniuose tinkluose, kur gausu juokingų ir dažnai keistų kūrinių su veidus keičiančiomis įžymybėmis.

Tačiau Kinijos kibernetinės erdvės administracija praėjusį mėnesį įspėjo, kad šią technologiją „taip pat gali naudoti nesąžiningi žmonės... neteisėtai informacijai skleisti,.. kitų asmenų reputacijai šmeižti ir suteršti, taip pat tapatybėms vogti sukčiavimo tikslais“.

Ji teigė, kad „deepfake“ kelia „pavojų nacionaliniam saugumui ir socialiniam stabilumui“, jei nėra reguliuojama.

Pagal naująsias taisykles reikalaujama, kad įmonės, siūlančios „deepfake“ paslaugas, gautų tikrąsias savo naudotojų tapatybes. Taip pat reikalaujama, kad šios technologijos turinys būtų tinkamai paženklintas, siekiant apsaugoti visuomenę nuo „bet kokios painiavos“.

Kinija sparčiai ėmėsi reguliuoti technologijas, kurios, jos manymu, gali kelti grėsmę stabilumui ar Komunistų partijos galiai.

Pekinui pradėjus kontroliuoti šį sektorių, praėjusiais metais kelios šalies technologijų milžinės buvo priverstos perduoti valdžios institucijoms išsamią informaciją apie savo algoritmus – paprastai griežtai saugomas komercines paslaptis. 

2021 metų rugpjūtį valdžios institucijos taip pat ėmėsi veiksmų prieš dinamišką šalies vaizdo žaidimų sektorių – įšaldė leidimų išdavimą naujiems žaidimams ir nustatė laiko, kurį vaikai gali praleisti juos žaisdami, apribojimą.

Vienas iš ryškiausių susidorojimo su šios Rytų Azijos šalies technologijų sektoriumi pavyzdžių buvo 2020 metais, kai reguliavimo institucijos sustabdė tai, kas būtų tapę didžiausiu pasaulyje kada nors įvykusiu pirminiu viešu akcijų siūlymu – finansinių technologijų milžinės „Ant Group“ siūlymą.

Tai įvyko praėjus kelioms dienoms po to, kai jos įkūrėjas Jackas Ma (Džekas Ma) sukritikavo vietos reguliavimo institucijas.