近日，網(wǎng)信部門依法查處一批低俗炒作娛樂明星信息賬號，督促網(wǎng)站平臺依法依約關(guān)閉和長期禁言處置“超能攝影陽陽”“攝影劉大錘”“老板王大發(fā)”“娛樂冇飯”“追星少女卓小宴”“貼小君”“娛三少”等一批低俗炒作緋聞丑聞八卦的違法違規(guī)賬號。

網(wǎng)信部門表示，下一步將繼續(xù)壓實網(wǎng)站平臺主體責任，督促嚴格落實《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《關(guān)于進一步加強娛樂明星網(wǎng)上信息規(guī)范相關(guān)工作的通知》等要求，聚焦泛娛樂化傾向和低俗炒作現(xiàn)象，堅決整治流量至上和“飯圈”亂象，加大網(wǎng)絡(luò)執(zhí)法力度，努力營造積極向上的網(wǎng)絡(luò)環(huán)境。本文試探究網(wǎng)絡(luò)亂象產(chǎn)生的根源，并提出治理此類問題的路徑。

低俗炒作現(xiàn)象屢禁不止的根源

近年來，網(wǎng)絡(luò)空間泛娛樂化傾向反復(fù)出現(xiàn)，低俗炒作現(xiàn)象屢禁不止，從明星隱私的惡意曝光到“飯圈”粉絲“開盲盒”，從虛假八卦的肆意傳播到暗語隱喻的擦邊操作，這些亂象不僅污染網(wǎng)絡(luò)生態(tài)，更對網(wǎng)絡(luò)用戶，尤其是青少年價值觀塑造構(gòu)成不良影響。為此，國家網(wǎng)信部門近日依法查處了一批低俗炒作緋聞丑聞八卦的違法違規(guī)賬號，督促網(wǎng)站平臺依法依約對這些賬號采取關(guān)閉或長期禁言處置。

這不是我國網(wǎng)信部門第一次查處低俗炒作的違法違規(guī)賬號。事實上，我國早已出臺了一系列文件來治理網(wǎng)絡(luò)中的低俗炒作現(xiàn)象。例如，2019年我國出臺的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》就要求加強網(wǎng)絡(luò)生態(tài)治理、培育積極健康向上向善的網(wǎng)絡(luò)文化、維護廣大網(wǎng)民切身利益。該規(guī)定對網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺、網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者及網(wǎng)絡(luò)行業(yè)組織等主體提出了一系列要求。隨后的《關(guān)于進一步加強娛樂明星網(wǎng)上信息規(guī)范相關(guān)工作的通知》《關(guān)于進一步加強“飯圈”亂象治理的通知》等都對低俗炒作等違法違規(guī)現(xiàn)象作出了針對性規(guī)定。這進一步健全了我國網(wǎng)絡(luò)綜合治理體系。

但不可否認的是，營造清朗的網(wǎng)絡(luò)空間是一項長期工作。網(wǎng)絡(luò)空間中低俗炒作現(xiàn)象屢禁不止，究其根源，在于流量經(jīng)濟的逐利邏輯與平臺主體責任落實缺位。一方面，流量經(jīng)濟的利益驅(qū)動使得部分賬號運營者鋌而走險。在“眼球經(jīng)濟”中，點擊量、曝光度直接關(guān)聯(lián)利益變現(xiàn)能力。同時，娛樂明星催生的“粉絲經(jīng)濟”關(guān)聯(lián)的產(chǎn)業(yè)市場規(guī)模較大。鑒于“粉絲經(jīng)濟”的巨大規(guī)模和網(wǎng)絡(luò)經(jīng)濟流量至上的特點，使得一些賬號為博取關(guān)注不惜通過偷拍、捏造、標題黨等手段制造噱頭。即便對相關(guān)違法違規(guī)賬號進行查處，此類賬號仍會“野火燒不盡，春風吹又生”。另一方面，網(wǎng)絡(luò)平臺作為網(wǎng)絡(luò)內(nèi)容傳播的核心載體，在追逐商業(yè)利益與履行主體責任間容易出現(xiàn)失衡。流量經(jīng)濟不僅適用于網(wǎng)絡(luò)賬號運營者，網(wǎng)絡(luò)平臺也同樣受制于該法則。網(wǎng)絡(luò)平臺為提升用戶關(guān)注度、維持用戶活躍度等考慮，往往選擇對違法違規(guī)賬號和內(nèi)容采取“睜一只眼閉一只眼”的“寬容”態(tài)度，甚至通過主動創(chuàng)設(shè)話題、算法推送技術(shù)等刻意放大爭議性主題。這使得有的網(wǎng)絡(luò)平臺基于自身利益而對法律法規(guī)所要求的網(wǎng)絡(luò)平臺義務(wù)和責任采取“選擇性遵守”，應(yīng)引起重視。

督促網(wǎng)絡(luò)平臺落實主體責任的措施

鑒于低俗炒作現(xiàn)象的特殊性，通過網(wǎng)絡(luò)平臺預(yù)防和處置違法違規(guī)亂象尤為必要。這是因為網(wǎng)絡(luò)平臺在網(wǎng)絡(luò)不良信息傳播中處于聯(lián)結(jié)各方的中心地位，無論是網(wǎng)絡(luò)內(nèi)容的發(fā)布者（賬號主體），還是網(wǎng)絡(luò)內(nèi)容的使用者，都有賴于通過網(wǎng)絡(luò)平臺獲得相關(guān)服務(wù)。政府監(jiān)管部門雖然有權(quán)對違法違規(guī)行為采取相應(yīng)措施，但因龐大的賬號數(shù)量和監(jiān)測技術(shù)欠缺等原因，客觀上難以對違法違規(guī)賬戶實施全面、及時的管理。因此，監(jiān)管部門可以通過督促網(wǎng)絡(luò)平臺對平臺上的賬號和內(nèi)容實施管理，進而實現(xiàn)凈化網(wǎng)絡(luò)空間的目標。

目前，我國法律法規(guī)已經(jīng)對網(wǎng)絡(luò)平臺履行主體責任提出了一系列要求。例如，網(wǎng)絡(luò)平臺應(yīng)當建立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機制，包括建立健全算法推薦的人工干預(yù)和用戶自主選擇制度、廣告管理制度、平臺公約和用戶協(xié)議制度、舉報制度、年度報告制度等。此外，網(wǎng)絡(luò)平臺還要履行信息安全管理義務(wù)，包括不得傳播違法信息，應(yīng)當防范和抵制傳播不良信息，鼓勵在重點環(huán)節(jié)傳播正能量信息，不得在重點環(huán)節(jié)呈現(xiàn)不良信息等。除了既有的規(guī)定外，為了督促網(wǎng)絡(luò)平臺落實主體責任，還可從以下幾個方面強化對網(wǎng)絡(luò)平臺主體責任的要求。

第一，強化技術(shù)防控，構(gòu)建智能監(jiān)測屏障。過去，由于網(wǎng)絡(luò)內(nèi)容海量的特點，網(wǎng)絡(luò)平臺對平臺內(nèi)的內(nèi)容原則上不負有全面審查義務(wù)。但隨著人工智能、內(nèi)容識別等技術(shù)的不斷發(fā)展，對網(wǎng)絡(luò)內(nèi)容的事前審查與實時監(jiān)測逐漸在技術(shù)層面得到一定程度的實現(xiàn)。尤其是面對低俗內(nèi)容的隱蔽化趨勢（例如暗語、諧音、圖像隱喻等），更需要借助相應(yīng)內(nèi)容識別技術(shù)加以判斷。例如，可以通過自然語言處理與計算機視覺技術(shù)的聯(lián)動實時解析文本、圖片、視頻中的敏感信息。此外，還可要求網(wǎng)絡(luò)平臺建立和完善流量異常預(yù)警機制，對短時間內(nèi)流量激增的內(nèi)容，應(yīng)自動觸發(fā)人工復(fù)核程序。若人工復(fù)核的結(jié)果是低俗炒作等違法違規(guī)內(nèi)容，應(yīng)立即限制推送，對真?zhèn)坞y辨的內(nèi)容，可進行降權(quán)處理。當然，為了避免網(wǎng)絡(luò)平臺承擔過重的責任，平臺采取的監(jiān)測技術(shù)應(yīng)以行業(yè)通常的技術(shù)水平為限。

第二，建立和完善風險評估、認證與安全審計制度。風險評估、認證與安全審計是我國網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法和個人信息保護法等法律為應(yīng)對網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息保護等問題而創(chuàng)設(shè)的風險預(yù)防制度。這些制度的核心在于通過引入第三方機構(gòu)對相關(guān)網(wǎng)絡(luò)主體進行評估、認證和審計，并將相關(guān)結(jié)果提交監(jiān)管部門，從而督促相關(guān)網(wǎng)絡(luò)主體落實法律義務(wù)。該制度有助于實現(xiàn)法律監(jiān)督從事后追責轉(zhuǎn)變?yōu)槭虑邦A(yù)防，從而最大限度降低不良后果的發(fā)生。網(wǎng)絡(luò)平臺在履行對違法違規(guī)賬戶的處置和不良內(nèi)容的管理活動中，可借鑒我國在網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息保護領(lǐng)域的有益經(jīng)驗，通過建立評估、認證與審計制度督促網(wǎng)絡(luò)平臺落實相關(guān)主體責任。對于未完成或未通過相關(guān)評估、認證或?qū)徲嫷钠脚_，可采取限制新用戶注冊、暫停廣告投放等懲戒措施。當然，鑒于評估認證等義務(wù)的履行會增加平臺經(jīng)營成本，也可對平臺進行分類分級管理。對于用戶規(guī)模大、影響力大的頭部平臺，可采取更嚴格的評估認證等；對于初創(chuàng)企業(yè)則采取相對寬松，甚至豁免其相關(guān)要求。

第三，強化部門之間的信息共享與協(xié)同治理。目前，我國對網(wǎng)絡(luò)亂象的治理主要由網(wǎng)信、公安、市場監(jiān)管等部門分別完成。由于部門之間信息溝通不暢、執(zhí)法標準不統(tǒng)一等問題，治理效率和效果難免會受到一定影響。為此，有必要打通部門間的信息壁壘，實現(xiàn)部門間的協(xié)同。例如，可以搭建全國性網(wǎng)絡(luò)治理信息共享平臺，整合網(wǎng)信、公安、市場監(jiān)管部門的數(shù)據(jù)資源，建立低俗內(nèi)容特征庫、違規(guī)主體黑名單庫和典型案例庫等。通過API接口向相關(guān)主體開放查詢等權(quán)限，實現(xiàn)“一處違規(guī)、處處受限”的協(xié)同治理。同時，部門間也應(yīng)形成統(tǒng)一的執(zhí)法標準和操作規(guī)范，避免不同部門對同一行為性質(zhì)認定不一致或不必要的重復(fù)處罰，以提高執(zhí)法的公信力。

治理低俗炒作需要技術(shù)、制度與執(zhí)行等各方面的協(xié)同。唯有讓網(wǎng)絡(luò)平臺從“流量販子”轉(zhuǎn)變?yōu)椤柏熑喂芗摇保屗惴◤摹懊乃淄剖帧边M化為“價值向?qū)А?，才能真正營造清朗的網(wǎng)絡(luò)空間。（文 | 上海政法學(xué)院佘山學(xué)者特聘崗教授 徐偉）【本文為2024年度上海市“曙光計劃”項目“人工智能侵權(quán)責任立法論”（項目編號：24SG56）階段性研究成果?！?/span>

來源：中國信息安全

初審：佟焱

復(fù)審：張洋

終審：郭日新