近期，中國之聲報道了生成式人工智能技術(shù)在推動數(shù)字經(jīng)濟(jì)發(fā)展中的關(guān)鍵作用。然而，隨著AI技術(shù)的廣泛應(yīng)用，未標(biāo)注的AI生成內(nèi)容與人類創(chuàng)作內(nèi)容之間的界限變得模糊，導(dǎo)致詐騙、侵權(quán)等違法行為頻發(fā)。為應(yīng)對這一問題，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部及國家廣播電視總局聯(lián)合制定了《人工智能生成合成內(nèi)容標(biāo)識辦法》，該辦法將于今年9月1日正式生效，明確要求用戶在發(fā)布AI生成內(nèi)容時需主動聲明并進(jìn)行標(biāo)識。

盡管《標(biāo)識辦法》尚未施行，各大平臺已提前采取措施規(guī)范AI生成內(nèi)容的傳播。近日，北京互聯(lián)網(wǎng)法院審理的一起網(wǎng)絡(luò)服務(wù)合同糾紛案，就涉及平臺對用戶發(fā)言被誤判為“包含AI生成內(nèi)容但未標(biāo)識”的糾紛處理。原告在被告平臺上發(fā)表的一段關(guān)于工作與生活建議的言論，被平臺誤判為AI生成內(nèi)容，并因此受到隱藏內(nèi)容和禁言一天的處罰。原告隨即起訴平臺，要求撤銷處罰并刪除違規(guī)記錄。

庭審過程中，被告平臺強(qiáng)調(diào)，根據(jù)雙方的網(wǎng)絡(luò)服務(wù)合同，平臺有權(quán)審核并認(rèn)定用戶在使用服務(wù)時的違規(guī)行為，并采取相應(yīng)治理措施。法院審理認(rèn)為，平臺在服務(wù)協(xié)議中已明確告知用戶需對AI生成內(nèi)容進(jìn)行標(biāo)識，未標(biāo)識者將視為違規(guī)，因此平臺有權(quán)依據(jù)協(xié)議對內(nèi)容進(jìn)行審查和處理。然而，關(guān)于原告如何證明其言論非AI生成，法院指出，在缺乏創(chuàng)作底稿等直接證據(jù)的情況下，原告難以提供充分證明。

平臺方面進(jìn)一步辯稱，其有權(quán)選擇合理的技術(shù)手段進(jìn)行內(nèi)容識別，且無需向用戶透露算法邏輯和技術(shù)秘密。然而，法院認(rèn)為，作為算法工具的控制者和結(jié)果判斷者，平臺應(yīng)對其判斷依據(jù)和結(jié)果進(jìn)行合理舉證或解釋。本案中，盡管平臺提供了算法的備案信息，但該信息無法證明與本案爭議的關(guān)聯(lián)性，因此平臺未能對判斷依據(jù)作出合理解釋，應(yīng)承擔(dān)違約責(zé)任。最終，法院判決平臺撤銷對原告的隱藏和禁言處罰，并刪除后臺違規(guī)記錄。

即將施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》詳細(xì)規(guī)定了平臺在規(guī)范AI生成內(nèi)容傳播方面的責(zé)任，包括核驗文件元數(shù)據(jù)、添加顯著提示標(biāo)識、提供標(biāo)識功能等。中國人民大學(xué)法學(xué)院副教授黃尹旭認(rèn)為，此案在司法審查規(guī)則方面對AI生成內(nèi)容的標(biāo)記、平臺識別和治理進(jìn)行了有益探索。他強(qiáng)調(diào)，法院既肯定了平臺利用算法工具履行信息內(nèi)容管理責(zé)任的積極作用，也要求平臺在即時性創(chuàng)作文本場景下對算法自動化決策結(jié)果承擔(dān)適度說明義務(wù)，為算法解釋說明的司法審查標(biāo)準(zhǔn)確立了基準(zhǔn)。

黃尹旭還指出，算法治理需在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求平衡。司法審查應(yīng)秉持包容審慎的態(tài)度，在算法信息適當(dāng)公開與商業(yè)秘密適度保護(hù)之間找到平衡點。本案中，法院合理分配了平臺與用戶的舉證責(zé)任，既保障了用戶權(quán)益，又促進(jìn)了算法的公開透明和規(guī)范應(yīng)用。