網(wǎng)信辦、工信部、公安部去年11月聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》自2023年1月10日起施行。這是我國首部專門針對人工智能特定技術制定的部門規(guī)章，旨在加強互聯(lián)網(wǎng)信息服務深度合成的管理，具有示范效應，意義重大。
依法對深度合成服務使用者進行真實身份信息認證
據(jù)網(wǎng)信辦介紹，深度合成服務在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，能夠劃定深度合成服務的“底線”和“紅線”，維護網(wǎng)絡空間良好生態(tài)。
(資料圖)
北青報記者注意到，其中一條規(guī)定，深度合成服務提供者應當基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發(fā)布服務。
另外，任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動。
深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。
網(wǎng)信辦在對該《規(guī)定》解讀時提到，本次對深度合成服務提供者主體責任進行了明確規(guī)定。一是不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事法律、行政法規(guī)禁止的活動。二是建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。三是制定和公開管理規(guī)則、平臺公約，完善服務協(xié)議，落實真實身份信息認證制度。四是加強深度合成內(nèi)容管理，采取技術或者人工方式對輸入數(shù)據(jù)和合成結果進行審核，建立健全用于識別違法和不良信息的特征庫，記錄并留存相關網(wǎng)絡日志。五是建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務制作、復制、發(fā)布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網(wǎng)信部門和有關主管部門報告。
瑞萊智慧AI治理研究院副院長張偉強表示，近年來，深度合成技術被濫用現(xiàn)象逐步顯現(xiàn)。以輿論影響為切口，其影響力逐步擴大到國家安全、社會安全、軍事安全，以及公眾名譽安全、財產(chǎn)安全等領域，引發(fā)各界關注。例如，深度偽造政治人物、軍事將領音視頻，引發(fā)政治風波、渙散軍心民心；深度偽造專家學者音視頻，造成公共衛(wèi)生、金融財經(jīng)等領域的社會恐慌；深度偽造個人不雅音視頻實施敲詐勒索，或采用表情驅動方式破解活體驗證盜取公眾財物。
早在2019年，國家網(wǎng)信辦就印發(fā)《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》，提出相關主體“不得利用深度學習、虛擬現(xiàn)實等新技術新應用從事法律、行政法規(guī)禁止的活動”；并在與文旅部、廣電總局聯(lián)合印發(fā)的《網(wǎng)絡音視頻信息服務管理規(guī)定》中，針對音視頻信息服務做出類似規(guī)定。兩份法規(guī)提及的新技術、新應用，實際上就是指深度合成技術應用。隨著該技術應用的影響力逐步擴大，此次專門制定法規(guī)予以規(guī)范，對維護國家安全和社會公共利益，保護公民、法人和其他組織合法權益都非常及時、必要。
人臉、人聲識別應當告知并取得被編輯的個人同意
其中還提到，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。
同時，深度合成服務提供者應當加強深度合成內(nèi)容管理，采取技術或者人工方式對深度合成服務使用者的輸入數(shù)據(jù)和合成結果進行審核。
深度合成服務提供者應當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序，記錄并留存相關網(wǎng)絡日志。
深度合成服務提供者發(fā)現(xiàn)違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網(wǎng)信部門和有關主管部門報告；對相關深度合成服務使用者依法依約采取警示、限制功能、暫停服務、關閉賬號等處置措施。
網(wǎng)信辦表示，《規(guī)定》明確，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。深度合成服務技術支持者應當參照服務提供者履行備案和變更、注銷備案手續(xù)。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網(wǎng)站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。
本次發(fā)布的規(guī)定還明確了深度合成服務提供者和技術支持者的數(shù)據(jù)和技術管理規(guī)范：一是加強訓練數(shù)據(jù)管理。采取必要措施保障訓練數(shù)據(jù)安全；訓練數(shù)據(jù)包含個人信息的，應當遵守個人信息保護的有關規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。二是加強技術管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當依法自行或者委托專業(yè)機構開展安全評估。
張偉強表示，本次規(guī)定形成監(jiān)管機制、技術治理兩個閉環(huán)，管理舉措科學務實。
一是監(jiān)管機制閉環(huán)：壓實服務提供者主體責任?！兑?guī)定》對三種角色提出管理要求：深度合成服務提供者、技術支持者和服務使用者。其中，服務提供者承擔主體責任。一是建章立制，要求建立健全服務前(如用戶注冊、科技倫理審查等)、服務中(如數(shù)據(jù)安全、個信保護等)、服務后(如應急處置、辟謠等)的全流程管理制度，并公開相關規(guī)則、公約。二是認證備案，要求做好使用者真實身份認證、違法和不良信息記錄保存、依照算法管理規(guī)定開展算法備案。三是審查審核，要求開展科技倫理審查、輸入數(shù)據(jù)和合成結果審核、信息發(fā)布審核等。四是辟謠舉報，通過建立辟謠機制、提供舉報入口，給深合技術濫用受害者提供救濟通道。
二是技術治理閉環(huán)：注重源頭治理、過程管理、安全評估和用戶感受。從技術視角看，《規(guī)定》一是注重源頭治理，要求加強訓練數(shù)據(jù)管理和個人信息保護。尤其是涉及人臉、人聲等個人生物信息時，必須依法取得單獨同意，這延續(xù)了上位法《個人信息保護法》的相關要求。二是注重過程管理，要求對算法機制機理進行審核，尤其要求開展定期審核、評估和驗證，這符合人工智能技術持續(xù)演進、變化的客觀規(guī)律。此外，還要求建立積累用于識別違法和不良信息的特征庫。三是注重安全評估，凡涉及生物識別信息以及特殊物體、場景等非生物識別信息的，應當自行或委托專業(yè)機構開展安全評估。四是注重用戶感受，強調(diào)因治理需要添加的標識應不影響用戶使用。
深度合成可能導致公眾混淆或者誤認的 應進行顯著標識
《規(guī)定》提到，深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況：（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；（四）沉浸式擬真場景等生成或者編輯服務；（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務。
深度合成服務提供者提供前款規(guī)定之外的深度合成服務的，應當提供顯著標識功能，并提示深度合成服務使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標識。
網(wǎng)信辦表示，《規(guī)定》明確了深度合成服務提供者的標識要求：一是深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容，應當采取技術措施添加不影響用戶使用的標識，并依法依規(guī)保存日志信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。
張偉強表示，《規(guī)定》作為部門規(guī)章，一些治理條款具有原則性，屬于定性要求。在具體落地過程中，需要進一步細化的機制規(guī)范，以及配套的技術保障能力。例如，針對文本生成、語音生成、視頻生成、沉浸式擬真等深度合成應用場景，均要求進行顯著標識，但需要標識位置合理、不影響用戶使用。實踐中，深度合成細分應用場景千差萬別，如何做到既顯著標識、又用戶無感，需要做好深入調(diào)研，制定可行方案。又如，深度合成服務提供者和技術支持者應當自行或委托專業(yè)機構開展安全評估。深度合成是最新發(fā)展的前沿人工智能技術，目前，有能力開展安全評估的機構、企業(yè)為數(shù)不多。如何通過評估機制的構建和推動，發(fā)揮好這些專業(yè)機構、科技企業(yè)的作用，共建共治、向上向善，也是《規(guī)定》后續(xù)執(zhí)行過程中需要重點考慮的事項。
【版權聲明】本文著作權（含信息網(wǎng)絡傳播權）歸屬北京青年報社所有，未經(jīng)授權不得轉載
文/北京青年報記者 溫婧
編輯/樊宏偉
