9月1日，此前由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱“《標(biāo)識辦法》”），以及配套《標(biāo)識辦法》發(fā)布的強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》正式開始施行。
《標(biāo)識辦法》于今年3月發(fā)布，要求所有利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息，都必須依法添加相應(yīng)的身份標(biāo)識。
新京報貝殼財經(jīng)記者注意到，截至9月2日，內(nèi)容平臺騰訊、抖音、B站、快手，以及大模型企業(yè)DeepSeek、商湯等均發(fā)布了響應(yīng)添加標(biāo)識的公告。值得注意的是，作為電商平臺，抖音電商安全與信任中心也發(fā)布了相關(guān)公告，公布了包括仿冒名人聲音帶貨、生成與現(xiàn)實不符的商品虛假宣傳等的典型案例，強(qiáng)調(diào)AI應(yīng)用必須合規(guī)，任何誤用、濫用行為將被嚴(yán)厲打擊。
內(nèi)容平臺：積極落實《標(biāo)識辦法》各項要求
在《標(biāo)識辦法》正式施行前夕，大部分主流內(nèi)容平臺已提前發(fā)布了公告。
8月29日，B站公告稱，在行業(yè)主管部門指導(dǎo)下，不斷升級完善站內(nèi)AI相關(guān)的內(nèi)容治理水平和管控能力，積極落實《人工智能生成合成內(nèi)容標(biāo)識辦法》各項要求，推出AI生成合成內(nèi)容標(biāo)識功能，幫助大家更便捷地區(qū)分內(nèi)容是否涉及AI生成。
B站站內(nèi)已在投稿側(cè)提供標(biāo)識選項，UP主可以在運用AI技術(shù)產(chǎn)出優(yōu)質(zhì)內(nèi)容的同時快捷進(jìn)行自主聲明。站內(nèi)在投稿時，可通過發(fā)布界面點擊【創(chuàng)作聲明】選擇【該視頻使用人工智能合成技術(shù)】添加標(biāo)識。站內(nèi)會對于未主動聲明的AI生成合成內(nèi)容，依據(jù)法律法規(guī)要求，按照社區(qū)規(guī)則添加標(biāo)識，用戶不得惡意篡改、隱匿相關(guān)標(biāo)識。下一步，站內(nèi)將持續(xù)落實標(biāo)識相關(guān)工作，優(yōu)化AI治理鏈路，營造健康有序的網(wǎng)絡(luò)環(huán)境。
8月31日，騰訊發(fā)布公告稱，根據(jù)《人工智能生成合成內(nèi)容標(biāo)識辦法》要求，平臺應(yīng)對AI生成合成內(nèi)容添加顯式標(biāo)識和隱式標(biāo)識。為保障用戶信息獲取的透明度與可信度，平臺進(jìn)一步優(yōu)化內(nèi)容識別能力。用戶通過平臺獲取的AI生成合成內(nèi)容，可能帶有顯式標(biāo)識或隱式標(biāo)識。平臺也會對可能是AI生成合成的內(nèi)容進(jìn)行相應(yīng)提示，以便用戶清晰辨識。
依據(jù)《人工智能生成合成內(nèi)容標(biāo)識辦法》規(guī)定，用戶在發(fā)布或傳播AI生成合成內(nèi)容時，不得以任何方式刪除、篡改、偽造或隱匿平臺添加的AI標(biāo)識。同時不得利用AI技術(shù)制作傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動。對于違反法律法規(guī)及平臺規(guī)范的行為，平臺將視違規(guī)情況進(jìn)行處罰。
9月1日，抖音發(fā)布《關(guān)于升級AI內(nèi)容標(biāo)識功能的公告》，進(jìn)一步規(guī)范平臺上的AI內(nèi)容創(chuàng)作與傳播?！豆妗凤@示，抖音已上線兩項核心功能：一是AI內(nèi)容標(biāo)識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識，方便用戶辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。
抖音相關(guān)負(fù)責(zé)人表示，平臺鼓勵創(chuàng)作者在遵守法律法規(guī)和公序良俗的前提下，運用AIGC（人工智能生成內(nèi)容）技術(shù)更好地表達(dá)個人觀點和創(chuàng)作內(nèi)容。抖音希望與用戶共同營造豐富多元、真實表達(dá)、積極健康的社區(qū)生態(tài)。
快手也發(fā)布公告稱，已上線人工智能生成合成內(nèi)容標(biāo)識和用戶主動聲明功能：首先會在平臺AI生成的內(nèi)容中添加“AI生成”顯式標(biāo)識，以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識；其次，在發(fā)布或傳播明確由AI生成的內(nèi)容或被平臺檢測為疑似AI的內(nèi)容時，會在內(nèi)容周邊進(jìn)行顯著提示。
快手方面表示，平臺鼓勵創(chuàng)作者按照國家法律規(guī)定和平臺規(guī)則，準(zhǔn)確、規(guī)范標(biāo)注AI內(nèi)容。同時不得惡意刪除、篡改、偽造、隱匿平臺已標(biāo)注的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。對于違反國家法律規(guī)定及平臺相關(guān)規(guī)則的作品，以及惡意標(biāo)注等違規(guī)行為，平臺將按照社區(qū)規(guī)則進(jìn)行處置。
大模型公司：已在平臺內(nèi)對AI生成合成內(nèi)容添加標(biāo)識
9月1日，DeepSeek公告稱，為貫徹落實《標(biāo)識辦法》等國家標(biāo)準(zhǔn)的相關(guān)要求，防止AI生成內(nèi)容可能引發(fā)的公眾混淆、誤認(rèn)以及信息失實的風(fēng)險，DeepSeek已在平臺內(nèi)對AI生成合成內(nèi)容添加標(biāo)識，并明確提醒用戶相關(guān)內(nèi)容由AI生成。用戶不得惡意刪除、篡改、偽造、隱匿此類生成內(nèi)容標(biāo)識，不得利用AI制作、傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動。
值得注意的是，DeepSeek還發(fā)布了《模型原理與訓(xùn)練方法說明》，對模型的基本原理、訓(xùn)練數(shù)據(jù)及內(nèi)容生成機(jī)制予以說明，以幫助用戶更全面地理解AI技術(shù)、合理使用 DeepSeek相關(guān)服務(wù)，切實保障用戶的知情權(quán)和控制權(quán)，防范因誤用或不當(dāng)使用可能帶來的各類風(fēng)險。
9月2日，商湯科技發(fā)布關(guān)于落實《人工智能生成合成內(nèi)容標(biāo)識辦法》的公告，稱為貫徹落實《標(biāo)識辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》的監(jiān)管政策，商湯科技面向公眾提供的生成合成服務(wù)（包括但不限于文本、圖片、音頻、視頻、虛擬場景生成等），均嚴(yán)格落實監(jiān)管政策的要求，添加了顯式標(biāo)識與隱式標(biāo)識。
用戶使用商湯人工智能服務(wù)平臺所生成的AI內(nèi)容，不得惡意刪除、篡改、偽造或隱匿其標(biāo)識信息。如需發(fā)布或傳播商湯生成的AI內(nèi)容，請確保標(biāo)識的完整性與準(zhǔn)確性，并在第三方平臺主動聲明生成屬性。同時，商湯科技已提供API接口及技術(shù)文檔，協(xié)助合作伙伴實現(xiàn)標(biāo)識功能的快速接入與合規(guī)驗證。
值得注意的是，除了內(nèi)容平臺與大模型公司之外，抖音電商作為電商平臺也發(fā)布了《關(guān)于加強(qiáng)治理AI內(nèi)容濫用的公告》。公告稱，隨著人工智能（AI）技術(shù)在電商內(nèi)容領(lǐng)域的廣泛應(yīng)用，商家和達(dá)人的創(chuàng)作效率顯著提升。但與此同時，濫用或誤用AI技術(shù)的問題也逐漸顯現(xiàn)，一些賬號借助AI生成內(nèi)容進(jìn)行虛假宣傳，損害消費者權(quán)益，擾亂平臺交易秩序。該平臺表示將加強(qiáng)治理濫用AI導(dǎo)致消費者權(quán)益受損的違規(guī)行為，并進(jìn)一步引導(dǎo)商家合規(guī)使用AI。
根據(jù)公告，典型的違規(guī)行為包括，少數(shù)商家利用AI生成虛假商品展示和夸大宣傳，誤導(dǎo)消費者下單，造成財產(chǎn)損失；創(chuàng)作者通過AI合成虛擬人物，冒充名人或特定專業(yè)身份進(jìn)行帶貨，損害用戶信任；部分視頻中出現(xiàn)AI生成的虛構(gòu)測評與體驗，制造虛假口碑，影響消費者理性判斷；還有創(chuàng)作者未按規(guī)定聲明AI生成內(nèi)容。
例如，部分賬號合成知名運動員親屬的聲音，以“家里要蓋新房”為文案博取流量，并在視頻中掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導(dǎo)消費者購買。另有創(chuàng)作者利用AI展示不符合農(nóng)業(yè)常識的豐收場景，夸大種苗產(chǎn)量，以此吸引用戶下單。此外，還有創(chuàng)作者用AI更改地方新聞報道畫面，與所售商品毫無關(guān)聯(lián)，卻在視頻中推銷潤膚露等產(chǎn)品。
針對上述行為，平臺已及時采取治理措施，并重申相關(guān)合規(guī)要求。抖音電商明確，發(fā)布AI生成內(nèi)容必須自主聲明，不得利用AI生成誤導(dǎo)性人物或事物視頻，也不得發(fā)布與商品無關(guān)的虛假素材。
平臺方面表示，人工智能應(yīng)用需在合規(guī)前提下合理使用，任何濫用、誤用導(dǎo)致消費者權(quán)益受損的行為都將受到嚴(yán)格治理。下一步，該平臺將持續(xù)強(qiáng)化風(fēng)險識別能力，推動人工智能技術(shù)合規(guī)應(yīng)用，維護(hù)消費者合法權(quán)益，保障良好的電商交易環(huán)境。
新京報貝殼財經(jīng)記者 羅亦丹
編輯 王進(jìn)雨
校對 柳寶慶
