3月3日,，著名演員劉曉慶通過微博澄清，微信視頻號“曉慶人生”并非她的賬號,，直言相關(guān)賬號“畫面是我,，聲音很像我”。上海辟謠平臺初步調(diào)查發(fā)現(xiàn),，相關(guān)賬號使用AI技術(shù),，生成劉曉慶的聲音、視頻等,。截至發(fā)稿,，該賬號已經(jīng)不可見。

但是,，類似使用AI技術(shù)“傍名人”的帖子在社交平臺還有很多,。演員靳東、醫(yī)生張文宏,、企業(yè)家雷軍等,，都曾被“AI造假”,。造假者手段百出，或覬覦名人光環(huán)吸引流量增加粉絲,，或假借名人形象、語音帶貨牟利,，更有不法分子用AI數(shù)字人炮制詐騙陷阱,，利用公眾對名人的信任騙取錢財。

值得注意的是,，社交平臺的AIGC（人工智能生成內(nèi)容）不止于“傍名人”,。很多服務(wù)行業(yè)、自媒體越發(fā)頻繁使用AIGC為自己“添光”,，有些場景的AIGC更是讓觀看者真假難辨,。比如，在餐飲,、設(shè)計,、攝影等行業(yè)，用AI照片取代實景照片的現(xiàn)象越來越普遍,。商家用這些技術(shù)生成的美圖,、美景招攬顧客。商家造假成本越來越低,，效果卻很好,，普通人幾乎難辨真?zhèn)巍?/p>

再比如，社交平臺的分享等板塊,，美輪美奐的城市風(fēng)光,、鬼斧神工的自然景致讓網(wǎng)友心潮澎湃?？僧?dāng)滿心期待的網(wǎng)友向發(fā)布者追問具體地點時,，得到的往往是沉默。直至有眼尖的網(wǎng)友一語道破天機：這些“照片”大概率是AI虛構(gòu)的,，發(fā)布者自然無法給出真實地址,。

面對AIGC滲透到生活的方方面面，如果只是提醒觀看者提高警惕,、加以辨別,，不足以從根本上解決問題。對很多并不了解AI等新技術(shù)的網(wǎng)友來說,，更是不可能完成的任務(wù),。

所以，要解決AIGC充斥網(wǎng)絡(luò)的問題,，必須從源頭上采取舉措,。

一方面,，相關(guān)平臺必須正視目前AIGC充斥網(wǎng)絡(luò)的現(xiàn)狀，直面平臺自己的問題,，而不是一味將責(zé)任推卸給發(fā)布者,。不難發(fā)現(xiàn)，一些商家,、自媒體之所以熱衷于AIGC,，是因為這些內(nèi)容能夠躲過平臺的審核機制，以“真實”的形象出現(xiàn)在社交平臺上,，甚至利用平臺現(xiàn)有算法,，為它們的擴散獲得機會。

以“傍名人”類AIGC為例,，不法分子利用名人效應(yīng)吸引眼球,，與此同時，平臺也成為名人效應(yīng)的受益者,。所以,，“傍名人”的現(xiàn)象層出不窮，平臺做的卻只是“賬號被舉報甚至被官方查處后才封號”的事后管理,，而沒有從發(fā)布伊始就拒絕相關(guān)虛假信息,。

再比如，AIGC之所以出現(xiàn)在“分享”板塊中,，與傳統(tǒng)算法不辨真?zhèn)斡嘘P(guān),。傳統(tǒng)算法過度聚焦用戶即時反響，單純依據(jù)互動量等指標(biāo)推薦內(nèi)容,，卻忽視了AIGC帶來的虛假性問題,，反而為虛假內(nèi)容擴散大開綠燈。

要解決以上問題,，必須有的放矢,，精準(zhǔn)施策。

首當(dāng)其沖的是名人賬號監(jiān)管亟待強化,。名人作為公眾焦點,，一旦賬號被盜用、造假,，危害深遠,。所以，平臺應(yīng)該構(gòu)建更加嚴格的名人賬號認證體系,，確保賬號創(chuàng)建與運營的真實性,。

其實，現(xiàn)有的很多技術(shù)已經(jīng)可以幫上忙,，比如通過面部動態(tài)識別,、聲紋加密比對等生物技術(shù)手段,，判斷是“真人”還是“數(shù)字人”；或者用最簡單的方式——人工審核,，加大對各種冠以名人名號的賬號審查,，發(fā)現(xiàn)“傍名人”“假名人”后立刻下架，將負面影響扼殺在萌芽狀態(tài),。

其次,，給AIGC打上技術(shù)“烙印”勢在必行。AI生成的文字,、圖片、視頻混雜在信息流中,，普通用戶很難憑肉眼甄別,。指望造假者主動標(biāo)注，也無異于與虎謀皮,。所以,，大模型開發(fā)者等提供AIGC服務(wù)的企業(yè)有必要與信息發(fā)布平臺聯(lián)手，用技術(shù)手段為AIGC生成人眼不可識別但技術(shù)能夠鑒定的“隱形標(biāo)簽”,、特殊標(biāo)志,。這樣一來，只要用戶在平臺上發(fā)布AIGC,，平臺就能自動識別,，并添加水印、標(biāo)簽,，注明“AI制造”身份,，既讓用戶在瀏覽時心中有數(shù)，避免被虛假信息誤導(dǎo),，也便于后續(xù)的內(nèi)容追溯與管理,。對于故意隱匿AIGC標(biāo)志、企圖魚目混珠的發(fā)布者,，則可以施以懲罰,，如限流、封禁賬號等,，以儆效尤,。

最后，針對那些缺乏關(guān)鍵要素卻博人眼球的信息,，平臺可以要求發(fā)布者補充關(guān)鍵信息,；若發(fā)布者無法按照要求完成，則可以采取公開提示,、流量限制,、封號清退等方式,，督促發(fā)布者上傳真實信息。

更進一步,，法律法規(guī)也要快步跟上AIGC的“狂飆”速度,。相關(guān)部門應(yīng)加快制定針對AI造假、虛假信息傳播的法律法規(guī),，明確造假者,、平臺方、傳播者等各方的責(zé)任邊界,。對利用AI實施詐騙等違法犯罪行為嚴懲不貸,，震懾不法之徒；對平臺疏于管理導(dǎo)致虛假信息泛濫的情況,，以巨額罰款倒逼平臺守土有責(zé),。（記者 任翀）