小紅書平臺(tái)近期針對(duì)站內(nèi)出現(xiàn)的AI技術(shù)濫用問題展開專項(xiàng)整治行動(dòng)。平臺(tái)官方賬號(hào)“薯管家”發(fā)布公告稱，將全面升級(jí)對(duì)人工智能生成內(nèi)容的監(jiān)管措施，要求創(chuàng)作者必須對(duì)AI合成內(nèi)容進(jìn)行明確標(biāo)識(shí)，以維護(hù)社區(qū)內(nèi)容真實(shí)性和用戶權(quán)益。

據(jù)平臺(tái)披露，近期收到大量用戶舉報(bào)，反映部分賬號(hào)通過AI技術(shù)偽造公眾人物形象、制作虛假視頻。這些未經(jīng)授權(quán)的內(nèi)容不僅侵犯當(dāng)事人肖像權(quán)，更因未履行標(biāo)識(shí)義務(wù)導(dǎo)致信息真?zhèn)坞y辨，嚴(yán)重破壞社區(qū)信任體系。平臺(tái)數(shù)據(jù)顯示，僅上月就處理相關(guān)違規(guī)內(nèi)容超2.3萬條。

新實(shí)施的監(jiān)管方案采用"雙軌制"標(biāo)識(shí)體系：創(chuàng)作者需在發(fā)布環(huán)節(jié)主動(dòng)勾選"AI生成"選項(xiàng)，系統(tǒng)將自動(dòng)添加特殊標(biāo)識(shí)；若未主動(dòng)標(biāo)識(shí)，平臺(tái)檢測系統(tǒng)將通過圖像特征分析、行為模式識(shí)別等技術(shù)手段進(jìn)行二次判定，強(qiáng)制添加醒目標(biāo)識(shí)。這種設(shè)計(jì)既保障合規(guī)內(nèi)容傳播效率，又形成技術(shù)防控閉環(huán)。

在處罰機(jī)制方面，平臺(tái)建立分級(jí)處置體系。首次違規(guī)將收到警告并強(qiáng)制標(biāo)識(shí)，二次違規(guī)內(nèi)容推薦權(quán)重降低50%，三次及以上違規(guī)賬號(hào)將被限制發(fā)布權(quán)限。特別針對(duì)涉及公眾人物的AI合成內(nèi)容，平臺(tái)將啟動(dòng)專項(xiàng)審核通道，要求提供原始素材授權(quán)證明。

技術(shù)層面，平臺(tái)投入研發(fā)的AI內(nèi)容檢測系統(tǒng)已實(shí)現(xiàn)多模態(tài)識(shí)別能力，可精準(zhǔn)區(qū)分深度偽造、風(fēng)格遷移等不同技術(shù)路徑生成的合成內(nèi)容。該系統(tǒng)與國家網(wǎng)信辦《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》實(shí)現(xiàn)數(shù)據(jù)互通，確保監(jiān)管標(biāo)準(zhǔn)與行業(yè)規(guī)范同步。

此次整治行動(dòng)同步啟動(dòng)創(chuàng)作者教育計(jì)劃，通過線上課程、案例解析等方式幫助用戶理解合規(guī)要求。平臺(tái)負(fù)責(zé)人表示，將持續(xù)優(yōu)化技術(shù)手段，建立"技術(shù)防控+人工審核+用戶舉報(bào)"的三維治理體系，堅(jiān)決遏制AI技術(shù)濫用勢頭。