中國為何決定加入打擊“深度偽造”的行列？

武漢大學媒體發展研究中心副主任肖珺表示，其目的應該還是為了避免將來技術廣泛應用後可能出現的眾多倫理問題或相關法律干預隱患。

根據新浪科技統計的數據，中國網絡音樂用戶規模達6.08億，包括短視頻在內的網絡視頻用戶規模達7.59億。廣泛傳播的音視頻內容和迅速發展的高科技已逐漸開始和基於“深度學習”、“偽造”的“深度偽造(deepfake)”這類複雜概念進行合成和應用。
“深度偽造”概念應用的知名案例就是中國的一款應用程序ZAO。今年9月，ZAO首次登上了本地App Store的榜首，隨後被捲入醜聞中心。這款APP可以讓用戶將自己的面容放在演員的臉上，從而讓自己成為影片或電視劇主角。但很快人們就開始懷疑這款APP的安全性以及個人數據隱私。
肖珺表示, 目前技術發展達到了一定的程度。眾所周知，中國自2017年進入AR/VR元年，很多人工智能產業便開始進行相關的技術投資，然後逐漸在傳播業有所使用。
她認為：

“據我瞭解，此類技術可能在新聞傳播業的使用暫時還不是特別的成熟和普及，因此我認為利用這項文件提前做預判，可以說是一個很好的管理規範。”

人工智能技術在音視頻材料中的積極滲透不僅讓中國開始警覺，今年10月美國加州的居民也收到了類似的禁令。加州政府首次禁止發佈對政治人物言行進行虛假修改的音視頻材料。當地政府認為，通過剪輯可以讓候選人符合剪輯人的期望，因此一些虛假視頻甚至可以影響選舉。例如，今年夏天一段眾議長佩洛西演講的剪輯視頻就在網上流傳，眾議長被剪輯成好像總是口吃不清的樣子，無法清晰表達自己的想法。加州的這部法律將於2023年生效。
肖珺認為，

“新技術帶來的問題可能更多地還是集中在虛擬技術的應用，因為虛擬技術在使用過程中會增大追溯新聞源或者查證等行為的難度。總的來說，我認為，這項技術還是提出了更多的挑戰。”

互聯網信息辦公室發佈的《網絡音視頻信息服務管理規定》沒有說明對違反規定的人員將採取哪些措施。但規定指出，音視頻內容必須包括使用新技術創建。規定還指出，制定相關法律旨在防範發佈含有虛假信息內容的風險。
規定指出：“任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，不得製作、發佈、傳播煽動顛覆國家政權、危害政治安全和社會穩定、網絡謠言、淫穢色情，以及侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益等法律法規禁止的信息內容。”