防范與深度合成技術(shù)應(yīng)用相伴生的各種社會風(fēng)險

(資料圖)

南方財經(jīng)全媒體記者 李潤澤子 21世紀(jì)經(jīng)濟報道記者 郭美婷 實習(xí)生 曹萩兒 廣州報道

當(dāng)真假交融難辨，眼見不再為實，如何規(guī)范化身雙刃劍的深度合成技術(shù)應(yīng)用便成為了關(guān)鍵。

日前，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱《規(guī)定》)。《規(guī)定》明確了深度合成服務(wù)的一般規(guī)定、數(shù)據(jù)和技術(shù)管理規(guī)范以及監(jiān)督檢查與法律責(zé)任等內(nèi)容。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出，深度合成服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護網(wǎng)絡(luò)空間良好生態(tài)。

受訪專家告訴南方財經(jīng)全媒體記者，從目前我國正處于推動數(shù)字化轉(zhuǎn)型，倡導(dǎo)文化產(chǎn)業(yè)數(shù)字化發(fā)展的大背景下，規(guī)范深度合成技術(shù)，并且出臺有關(guān)人工智能治理的相關(guān)法規(guī)正是應(yīng)有之義，不僅能夠有利于我國數(shù)字經(jīng)濟發(fā)展，而且能夠維護網(wǎng)絡(luò)空間良好生態(tài)，為之后的進(jìn)一步發(fā)展打下堅實的基礎(chǔ)。

劃定深度合成服務(wù)的“底線”和“紅線”

AI聊天機器人、AI繪畫、AI換臉、虛擬數(shù)字人、修復(fù)影像、合成語音……近年來深度合成技術(shù)應(yīng)用場景正不斷豐富。

據(jù)介紹，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。

中國互聯(lián)網(wǎng)協(xié)會研究中心副主任、北京師范大學(xué)博士生導(dǎo)師吳沈括告訴南方財經(jīng)全媒體記者，深度合成技術(shù)在影視制作、社交娛樂、新聞宣傳、教育和電子商務(wù)等方面應(yīng)用較多。商業(yè)上有豐富用戶體驗，增強用戶粘性，拓展應(yīng)用場景和增強業(yè)務(wù)生態(tài)等多重價值。

《深度合成十大趨勢報告(2022)》顯示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長超過10倍。此外，深度合成內(nèi)容關(guān)注度也呈指數(shù)級增長，通過對互動數(shù)據(jù)進(jìn)行統(tǒng)計，2021年新發(fā)布的深度合成視頻的點贊數(shù)已超過3億。

然而，在深度合成技術(shù)向社會生活的各個領(lǐng)域滲透之時，其所帶來的負(fù)面風(fēng)險也日漸顯現(xiàn)且逐步產(chǎn)生實質(zhì)危害。

近兩年，浙江、江蘇、河南等多地就出現(xiàn)了不少利用深度合成技術(shù)實施犯罪的“變臉”詐騙案。這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”，僅需少量音視頻樣本數(shù)據(jù)，便可合成媲美真人的偽造音視頻，用來實施精準(zhǔn)詐騙，侵害他人人身和財產(chǎn)安全。

國家網(wǎng)信辦在答記者問時指出，深度合成服務(wù)在滿足用戶需求、改進(jìn)用戶體驗的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，能夠劃定深度合成服務(wù)的“底線”和“紅線”，維護網(wǎng)絡(luò)空間良好生態(tài)。

事實上，在《法治社會建設(shè)實施綱要(2020—2025年)》中就曾明確提出制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。其中，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第一個正式出臺的規(guī)制算法推薦運用的部門規(guī)章，已于今年3月施行?！兑?guī)定》則是第二部專門針對算法的規(guī)范。

顯著標(biāo)識避免公眾混淆

早在今年初，國家網(wǎng)信辦就已針對深度合成管理征求意見。直至年末，《規(guī)定》正式稿才最終出臺。

相比起此前的征求意見稿，上海匯業(yè)律師事務(wù)所律師史宇航認(rèn)為，《規(guī)定》最大的區(qū)別在于引入了更多的監(jiān)管部門，將電信主管部門與公安部門也引入到深度合成技術(shù)的監(jiān)管之中。 電信主管部門可能會從電信牌照與備案、網(wǎng)絡(luò)安全漏洞等角度進(jìn)行監(jiān)管，公安部門則更關(guān)注公安聯(lián)網(wǎng)備案、網(wǎng)絡(luò)安全等級保護的問題。

在吳沈括看來，《規(guī)定》的亮點在于就深度合成服務(wù)明確設(shè)立了涉及算法、機理、科學(xué)倫理以及信息發(fā)布等多個方面的多項審查審核機制；同時，強調(diào)了包括加強技術(shù)管理、定期審核、評估驗證，以及有關(guān)模板、模型、工具的安全評估等的平臺主體責(zé)任內(nèi)容；并且，強調(diào)實名認(rèn)證，確保發(fā)布者的真實身份，否則不予提供相應(yīng)的信息服務(wù)，并且在身份驗證中提供了多種可選方式，包括電話號碼、身份證以及網(wǎng)絡(luò)身份認(rèn)證機制等。

而《規(guī)定》中另一頗受關(guān)注的條款是對“深度合成標(biāo)識 ”的要求?！兑?guī)定》提出，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依法依規(guī)保存日志信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認(rèn);提供非上述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識功能，并提示使用者可以進(jìn)行顯著標(biāo)識。任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識。

“此項要求可能會推動深度合成技術(shù)與區(qū)塊鏈技術(shù)更為緊密的融合，借助區(qū)塊鏈上信息無法篡改的特點來履行該項義務(wù) 。 ”史宇航說。

此外，《規(guī)定》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》一脈相承，同樣注重新聞信息安全?！兑?guī)定》指出，具有輿論屬性和社會動員能力的深度合成服務(wù)提供者仍要履行算法推薦服務(wù)的備案手續(xù)，深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能也要按規(guī)定開展安全評估。

吳沈括指出，該規(guī)定是為實現(xiàn)深度合成服務(wù)的事前治理，以最大程度降低該技術(shù)伴生的社會風(fēng)險。

同時，數(shù)據(jù)安全也是《規(guī)定》重點強調(diào)的規(guī)范之一?！兑?guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當(dāng)遵守個人信息保護的有關(guān)規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個人，并取得其單獨同意。

促進(jìn)深度合成服務(wù)規(guī)范發(fā)展

促進(jìn)深度合成服務(wù)規(guī)范發(fā)展是此次《規(guī)定》出臺的重要目的。 據(jù)國家網(wǎng)信辦介紹，制定《規(guī)定》，是落實《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，對應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，能夠明確各類主體的信息安全義務(wù)，為促進(jìn)深度合成服務(wù)規(guī)范發(fā)展提供有力法治保障。

在北京大成律師事務(wù)所高級合伙人肖颯看來，《規(guī)定》的發(fā)布一方面會使得目前行業(yè)內(nèi)良莠不齊的情況得以整治，淘汰不規(guī)范的企業(yè)，促進(jìn)行業(yè)健康發(fā)展，另一方面也會使得同深度合成技術(shù)相關(guān)的新興技術(shù)行業(yè)有相似的法律依據(jù)提供參考，提前做好準(zhǔn)備，合法合規(guī)運行。

“總的來說，對行業(yè)有著極大的促進(jìn)作用，也能促使更多企業(yè)依照規(guī)范加入深度合成服務(wù)提供者的行列。 ”她表示。

史宇航也持有相同看法，他認(rèn)為《規(guī)定》的制定有助于對新技術(shù)風(fēng)險的監(jiān)管，更好地發(fā)揮新技術(shù)的價值。

然而，《規(guī)定》作為規(guī)范前沿技術(shù)的具體規(guī)定，在落地時仍面臨不少難點。肖颯指出，《規(guī)定》的落地難點主要在于深度合成技術(shù)本身的復(fù)雜性和易變性，實踐中認(rèn)定、取證和舉證的難度可能會較高 ，影響《規(guī)定》的實施效果。同時，由于目前已經(jīng)有許多企業(yè)已經(jīng)在進(jìn)行深度合成技術(shù)的應(yīng)用，因此如何處置和使得這部分企業(yè)在《規(guī)定》實施后轉(zhuǎn)為合規(guī)合法進(jìn)行深度合成服務(wù)的提供也是落地的難點之一。以上這些問題，都需要司法和執(zhí)法部門在不斷地更新自己的能力，與時俱進(jìn)。

因此，在未來進(jìn)一步推動深度合成技術(shù)規(guī)范化發(fā)展的過程中，吳沈括建議，一方面要認(rèn)可深度合成技術(shù)的積極意義，同時也要重點實現(xiàn)對于深度合成技術(shù)和服務(wù)的有序規(guī)范和引導(dǎo)，對于深度合成技術(shù)所形成的生態(tài)中的各方主體，要根據(jù)技術(shù)演進(jìn)的實際情況，不斷完善權(quán)利義務(wù)配置。同時，豐富監(jiān)管工具手段，引入新監(jiān)管機制，最大程度防范與深度合成技術(shù)應(yīng)用相伴生的各種社會風(fēng)險，劃定必要的行為紅線，及時懲處各類違法違規(guī)行為，構(gòu)建安全可持續(xù)的發(fā)展環(huán)境。

“希望執(zhí)法能夠跟上，只有切實對違法行為進(jìn)行查處、處罰，讓執(zhí)法更加公開透明，才有可能推動深度合成技術(shù)的規(guī)范化發(fā)展，否則一定會出現(xiàn)劣幣驅(qū)逐良幣的現(xiàn)象，導(dǎo)致違法活動難以遏制。”史宇航期待。

此外，值得注意的是，南方財經(jīng)全媒體記者也觀察到，除《規(guī)范》外，近期與人工智能治理相關(guān)的法規(guī)正密集出臺。

對此，肖颯認(rèn)為，這 一方面意味著人工智能這一項技術(shù)已經(jīng)在各個方面各個領(lǐng)域發(fā)揮出越來越重要的作用。面對這樣的一種新型領(lǐng)域，自然會引申出許多固有的法律法規(guī)無法回應(yīng)或妥善處理的難題，因而需要新的法律法規(guī)予以正面回應(yīng)。另一方面也意味著我國對于人工智能這樣一項新興技術(shù)并未采取置之不理或者聽之任之的態(tài)度，而是在積極接納的基礎(chǔ)上通過新的法律法規(guī)進(jìn)行規(guī)范，以適應(yīng)社會的不斷發(fā)展之勢。