AI生成內(nèi)容真假難辨對平臺治理提出挑戰(zhàn) 專家建議
明確平臺法律責(zé)任提升審核識別精度
□ 本報記者 趙麗
□ 本報見習(xí)記者 丁一
近年來,生成式人工智能(AIGC)技術(shù)迅速發(fā)展。昔日需要整個團(tuán)隊協(xié)作完成的視頻制作,如今僅憑一張圖片、一句文字指令即可實現(xiàn)。然而,伴隨技術(shù)普及而來的是濫用風(fēng)險的加劇。紛雜的AI生成內(nèi)容常常令人真假難辨,不僅干擾公眾認(rèn)知,對行業(yè)監(jiān)管和平臺治理也提出了新的挑戰(zhàn)。
今年9月1日起,《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《辦法》)施行,意味著所有利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息,必須依法添加相應(yīng)的聲明標(biāo)識。
然而在實際應(yīng)用中,AI生成內(nèi)容標(biāo)注仍存在諸多難點。例如,用AI工具生成的視頻,若用戶有心將水印去除,平臺往往難以有效識別其AI屬性,導(dǎo)致大量未標(biāo)識內(nèi)容持續(xù)傳播。
對此,《法治日報》記者采訪西南政法大學(xué)公法研究中心執(zhí)行主任楊尚東、中國農(nóng)業(yè)大學(xué)法律系副教授薛鐵成、中央財經(jīng)大學(xué)法學(xué)院教授王葉剛以及北京航空航天大學(xué)法學(xué)院副教授王天凡,共同探討應(yīng)對之策。
記者:平臺是內(nèi)容傳播和觸達(dá)公眾的關(guān)鍵環(huán)節(jié),因此承擔(dān)著監(jiān)督和管理的重要責(zé)任。據(jù)觀察,一些平臺通常會在相關(guān)帖文上標(biāo)注類似“疑似AI創(chuàng)作,請謹(jǐn)慎甄別”等提示。此類提示,是否足以認(rèn)定平臺已經(jīng)盡到合理的注意義務(wù)?是否能使其自動免除法律責(zé)任?
王葉剛:不能據(jù)此當(dāng)然認(rèn)定平臺已經(jīng)盡到合理的注意義務(wù)。平臺在性質(zhì)上屬于網(wǎng)絡(luò)服務(wù)提供者,我國民法典侵權(quán)責(zé)任編對網(wǎng)絡(luò)服務(wù)提供者的侵權(quán)責(zé)任具體規(guī)定了通知規(guī)則(避風(fēng)港規(guī)則)、知道規(guī)則(紅旗規(guī)則)。判斷平臺是否盡到了合理的注意義務(wù),是否需要承擔(dān)侵權(quán)責(zé)任,需要依據(jù)侵權(quán)責(zé)任編的規(guī)定進(jìn)行判斷,而不能以標(biāo)注“疑似AI創(chuàng)作,請謹(jǐn)慎甄別”等提示語為由認(rèn)定其盡到了注意義務(wù)。
王天凡:判斷平臺是否履行“合理注意義務(wù)”,需綜合多方因素考量。比如,標(biāo)識的顯著性與有效性方面,提示語是否足夠清晰、醒目,不易被忽略或裁剪;數(shù)字水印是否能抵抗壓縮、剪輯等。防控措施方面,平臺是否建立了與其技術(shù)能力和規(guī)模相匹配的、主動的侵權(quán)內(nèi)容識別與過濾機(jī)制,以及在接到侵權(quán)通知后,平臺是否能夠迅速響應(yīng)并采取刪除、屏蔽等必要措施。另外,對于顯而易見的、利用名人肖像進(jìn)行虛假廣告的深度偽造內(nèi)容,法律對平臺的“應(yīng)知”要求會更嚴(yán)格。
記者:調(diào)查顯示,很多AI生成內(nèi)容引發(fā)的整蠱、造謠亂象,均是內(nèi)容發(fā)布者有意為之,甚至故意繞開平臺監(jiān)管。對此,應(yīng)如何加強(qiáng)管理?
薛鐵成:必須明確,蓄意發(fā)布AI生成圖片、視頻整蠱甚至造謠的行為,可能涉嫌違法。若內(nèi)容發(fā)布者明知其行為可能引發(fā)恐慌、報警、擾亂社會秩序,仍主動發(fā)布AI生成的圖片、視頻等誤導(dǎo)性內(nèi)容,其主觀上可能構(gòu)成謊報警情的間接故意,最終行為或被認(rèn)定為報假警。根據(jù)治安管理處罰法相關(guān)規(guī)定,當(dāng)事人將被處以行政處罰。若情節(jié)嚴(yán)重,還可能觸犯刑法中的“編造、故意傳播虛假信息罪”,須依法承擔(dān)刑事責(zé)任。
加強(qiáng)對內(nèi)容發(fā)布者的管理,要進(jìn)一步壓實平臺責(zé)任?!掇k法》采用的是漏洞填補和責(zé)任加重的AI標(biāo)識管理規(guī)則。在關(guān)涉AI生成內(nèi)容發(fā)布的各個環(huán)節(jié)中,后一環(huán)節(jié)對前一環(huán)節(jié)負(fù)有檢驗和審核的責(zé)任。例如,提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)平臺發(fā)布AI生成內(nèi)容時,既需要檢驗用戶提供的AI生成內(nèi)容是否有平臺的隱式標(biāo)識,還需要檢驗用戶是否聲明AI生成內(nèi)容。如果均沒有相關(guān)AI內(nèi)容標(biāo)識和聲明,本平臺檢測到顯式標(biāo)識或者其他生成合成痕跡的,識別為疑似生成合成內(nèi)容,也應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識,提醒公眾該內(nèi)容疑似AI生成內(nèi)容。
楊尚東:首先,平臺應(yīng)明確AI生成內(nèi)容的管理規(guī)范。平臺需制定清晰的AI生成內(nèi)容管理規(guī)則,一方面強(qiáng)制要求用戶對AI生成內(nèi)容進(jìn)行標(biāo)注或主動聲明;另一方面完善平臺細(xì)則,針對惡意傳播AI違規(guī)內(nèi)容的視頻及賬號,依法依規(guī)采取提示、下架、封號等階梯式處置措施。
其次,平臺應(yīng)加強(qiáng)AI生成內(nèi)容的審核與標(biāo)識。內(nèi)容發(fā)布前,平臺應(yīng)升級審核機(jī)制,通過“技術(shù)檢測+人工復(fù)核”的雙重模式提升AI內(nèi)容識別精度,精準(zhǔn)篩選出可能擾亂社會秩序的內(nèi)容及賬號,并降低此類整蠱內(nèi)容的傳播權(quán)重。內(nèi)容發(fā)布后,平臺需在聊天、評論等交互環(huán)節(jié),進(jìn)一步強(qiáng)化AI生成內(nèi)容的明確標(biāo)識與風(fēng)險提示,引導(dǎo)用戶理性判斷。
最后,平臺應(yīng)建立快速響應(yīng)與事實核查機(jī)制。平臺可搭建公眾舉報通道,及時發(fā)現(xiàn)審核疏漏的問題內(nèi)容。針對可能擾亂公共秩序的信息,第一時間啟動事實核查與應(yīng)急響應(yīng),快速采取限流、刪除等措施,防止內(nèi)容擴(kuò)散造成更大負(fù)面影響。
記者:針對AI生成內(nèi)容標(biāo)識的規(guī)范與治理,當(dāng)前實踐中還存在哪些核心問題,又該從哪些方面推進(jìn)完善以保障落地效果?
薛鐵成:當(dāng)前相關(guān)法律制度仍缺乏AI服務(wù)提供平臺和網(wǎng)絡(luò)信息傳播平臺未履行AI標(biāo)識義務(wù)的責(zé)任規(guī)定,難以建立對相關(guān)平臺未履行AI標(biāo)識義務(wù)的懲戒機(jī)制。在相關(guān)規(guī)定已經(jīng)明確AI服務(wù)提供平臺和網(wǎng)絡(luò)信息傳播平臺在內(nèi)容生成和發(fā)布環(huán)節(jié)義務(wù)的基礎(chǔ)上,還應(yīng)進(jìn)一步明確其未履行義務(wù)的責(zé)任種類和承擔(dān)責(zé)任的方式,以督促相關(guān)責(zé)任主體履行監(jiān)管義務(wù)。
楊尚東:其一,健全AI生成內(nèi)容管理的法規(guī)體系。未來,應(yīng)在《辦法》基礎(chǔ)上進(jìn)一步細(xì)化平臺治理規(guī)范、明確政府監(jiān)管職責(zé)、規(guī)范用戶使用行為,強(qiáng)化法律執(zhí)行效力,為生成、制作與傳播合成內(nèi)容的相關(guān)主體設(shè)定清晰的法律紅線。
其二,構(gòu)建跨部門協(xié)同監(jiān)管機(jī)制。推動網(wǎng)信、公安等相關(guān)部門形成全鏈條監(jiān)管合力,加強(qiáng)對生成式人工智能大模型的審核管理及其應(yīng)用場景的監(jiān)督,嚴(yán)格落實內(nèi)容標(biāo)識要求。同時,建立跨領(lǐng)域信息共享平臺,提升監(jiān)管聯(lián)動能力與精準(zhǔn)性,實現(xiàn)高效協(xié)同治理。
其三,強(qiáng)化網(wǎng)絡(luò)空間法治宣傳教育。借助各類媒體平臺,向公眾普及人工智能基礎(chǔ)知識與AI生成內(nèi)容的識別技巧,提升全民數(shù)字素養(yǎng)與技術(shù)認(rèn)知水平。
編輯:王晨暉




京公網(wǎng)安備 11010502000576號