（原標(biāo)題：換臉？合成？新規(guī)重拳整治亂象）

最近，國(guó)家互聯(lián)網(wǎng)信息辦公室，工業(yè)和信息化部和公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)深度合成做了相關(guān)規(guī)定，包括深度合成的內(nèi)容，深度合成服務(wù)提供者的提示義務(wù)，辟謠機(jī)制的建立以及對(duì)于深度合成涉及到的相關(guān)生物信息要取得同意等。

深度合成技術(shù)的發(fā)家史

深度合成技術(shù)的發(fā)家史有點(diǎn)并不光彩，深度合成最開(kāi)始出現(xiàn)是2017年，一男子利用AI換臉制作色情視頻在外網(wǎng)發(fā)布。之后特朗普在任期間，由于其本身的社交屬性，網(wǎng)絡(luò)上出現(xiàn)了各種惡搞特朗普的AI換臉視頻，至此，深度合成技術(shù)正式進(jìn)入大眾視野。這樣不甚光彩的發(fā)家史使得深度合成技術(shù)一出生就仿佛帶著原罪，席卷著傷害、侮辱、和虛假，人們擔(dān)憂深度合成技術(shù)只會(huì)引來(lái)技術(shù)濫用和道德滑坡。

于是，在AI換臉帶著色情視頻席卷外網(wǎng)之時(shí)，社交媒體上為這種技術(shù)起了一個(gè)負(fù)向的名字“deepfake”，即“deep learning”和“fake”的合成詞，利用AI的深度學(xué)習(xí)來(lái)做虛假之物，直譯的話就會(huì)譯為“深度造假”。但是該詞在引入中國(guó)之時(shí)，有學(xué)者認(rèn)為深度合成技術(shù)本身并無(wú)錯(cuò)，利用的好也可以推動(dòng)社會(huì)發(fā)展，而且如果譯為“深度造假”也會(huì)給學(xué)術(shù)研究蒙上污點(diǎn)，不利于AI技術(shù)的發(fā)展，于是便譯為了更為中性的“深度合成”，這就是我們現(xiàn)在大規(guī)模使用的深度合成技術(shù)的命名由來(lái)了。

而從技術(shù)史來(lái)說(shuō)，深度合成技術(shù)從圖像合成技術(shù)發(fā)展而來(lái)，圖像合成技術(shù)就是我們常說(shuō)的PS技術(shù)，在簡(jiǎn)單的圖像合成基礎(chǔ)之上，利用各種方式讓合成更加逼真。更學(xué)術(shù)一點(diǎn)來(lái)說(shuō)，深度合成指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。我們所熟知的元宇宙場(chǎng)景構(gòu)建，AI換臉換頭，包括這段時(shí)間大火的ChatGPT，都屬于深度合成技術(shù)。

根據(jù)清華大學(xué)人工智能研究院發(fā)布的《深度合成十大趨勢(shì)報(bào)告2022》，互聯(lián)網(wǎng)中深度合成視頻的發(fā)布數(shù)量逐年上升，到了2021年已達(dá)24317條，其點(diǎn)贊數(shù)已超3億。2021年虛擬偶像洛天依登上央視春晚舞臺(tái)，虛擬偶像正式進(jìn)入主流視野。在深度合成與現(xiàn)實(shí)生活聯(lián)系愈加緊密的背景下，國(guó)家互聯(lián)網(wǎng)信息辦公室，中華人民共和國(guó)工業(yè)和信息化部和中華人民共和國(guó)公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，專(zhuān)門(mén)規(guī)定互聯(lián)網(wǎng)深度合成相關(guān)內(nèi)容。下面，颯姐團(tuán)隊(duì)為大家介紹一下新規(guī)重點(diǎn)。

新規(guī)重點(diǎn)解讀

什么是深度合成

規(guī)范深度合成，首先就要知道規(guī)范范圍，在新規(guī)里，第二十三條專(zhuān)門(mén)用了一整條來(lái)解釋深度合成技術(shù)：深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：

（一）篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù)；

（二）文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù)；

（三）音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù)；

（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；

（五）圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；

（六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)。

重點(diǎn)提示＋辟謠機(jī)制

深度合成技術(shù)和其他互聯(lián)網(wǎng)技術(shù)最大的不同在于其極易混淆性，隨著技術(shù)的進(jìn)步，網(wǎng)友可能憑借一雙肉眼很難判斷出自己所接觸到的到底是真是假，于是在本法中就專(zhuān)門(mén)列出兩條來(lái)解決這個(gè)問(wèn)題，一是重點(diǎn)提示，二是要有辟謠機(jī)制。

根據(jù)新規(guī)第十七條 深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況：

（一）智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；

（二）合成人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

（四）沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；

（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能，并提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識(shí)。

也就是說(shuō)要在明顯位置提示使用者這是合成的，防止被混淆。而一旦大面積的混淆出現(xiàn)，變成謠言怎么辦呢？新規(guī)還專(zhuān)門(mén)規(guī)定了辟謠機(jī)制。

根據(jù)新規(guī)第十一條，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告。俗話說(shuō)造謠一張嘴，辟謠跑斷腿。新規(guī)這一條就是把被造謠者的辟謠負(fù)擔(dān)轉(zhuǎn)接一部分給平臺(tái)，平臺(tái)作為一般來(lái)說(shuō)較強(qiáng)勢(shì)一方，要承擔(dān)起一部分辟謠的責(zé)任。

取得同意

如果要讓AI學(xué)習(xí)人臉或者人聲，要征得別人的同意嗎？新規(guī)明確地給出了答復(fù)：要。而且作為人臉、人聲編輯功能的提供者，平臺(tái)背負(fù)著提醒使用者的義務(wù)。

根據(jù)新規(guī)第十四條，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。也就是說(shuō)所有的生物信息被嚴(yán)格地保護(hù)，應(yīng)當(dāng)征得生物信息所有人的單獨(dú)同意。

除了以上幾點(diǎn)重點(diǎn)內(nèi)容以外，新規(guī)還對(duì)深度合成的內(nèi)容，范圍等做出了規(guī)范。篇幅限制，颯姐團(tuán)隊(duì)在這里就不一一展開(kāi)了，感興趣的老友們可以直接翻來(lái)看看。

寫(xiě)在最后

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》其實(shí)在今年一月份就開(kāi)始發(fā)征求意見(jiàn)稿，并于本月正式對(duì)外發(fā)布，將于2023年1月10日起正式施行。該規(guī)定的實(shí)施是我國(guó)互聯(lián)網(wǎng)管理向精細(xì)化前進(jìn)的重要一步，在《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》的基礎(chǔ)上對(duì)深度合成做出特別提示，值得各位讀者注意。

本文系未央網(wǎng)專(zhuān)欄作者:肖颯 發(fā)表，內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表網(wǎng)站觀點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場(chǎng)。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識(shí)產(chǎn)權(quán)的作品，請(qǐng)與我們?nèi)〉寐?lián)系，我們會(huì)及時(shí)修改或刪除。

Tags：[db:TAG標(biāo)簽](1451068)

轉(zhuǎn)載請(qǐng)標(biāo)注：信息網(wǎng)——換臉？合成？新規(guī)重拳整治亂象