據(jù)新華社報道，近期，多個平臺對「AI起號」現(xiàn)象開展專項治理行動，清理違規(guī)內(nèi)容並封禁部分賬號。
外國人熟練演唱中文歌曲、銀髮奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，「細節(jié)滿滿」讓很多網(wǎng)友信以為真。「新華視點」調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速「吸粉」起號，進而變現(xiàn)。
AI造假起號成新套路
當(dāng)前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過AI創(chuàng)作出更具想像力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現(xiàn)捷徑。
某社交平臺部分賬號將目標(biāo)鎖定中老年女性群體，利用AI打造「完美熟齡女性形象」，搭配「40+、50+長這樣，怎麼樣」等話術(shù)，進行「年齡焦慮」?fàn)I銷。
此類賬號發(fā)布的穿搭、保養(yǎng)、護膚、養(yǎng)生等視頻多未設(shè)置AI生成提示，不少網(wǎng)友誤以為是真人，在評論區(qū)諮詢保養(yǎng)方法。一些賬號背後運營者則藉機推送「三無」保健產(chǎn)品廣告，還有「水軍」互動造勢。雖然部分視頻存在明顯技術(shù)破綻，但瀏覽、點讚、評論量依舊不少。
據(jù)調(diào)查發(fā)現(xiàn)，當(dāng)前，主流網(wǎng)絡(luò)平臺普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品添加標(biāo)註，但仍有一些人採用各種手段繞過審核?！钙脚_甄別AI內(nèi)容主要依靠特徵性技術(shù)痕跡，一些起號者通過多種手段削弱特徵痕跡，逃避平臺標(biāo)註?！怪貞c理工大學(xué)計算機科學(xué)與工程學(xué)院教授李彥說，如通過微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺，就較難判定為AI生成內(nèi)容。
賬號多手段變現(xiàn)
報道稱，社交平臺上有不少AI造假起號的教程。有專營平臺起號的商家稱，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當(dāng)賬號積累一定流量後，就可以通過電商帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。一名博主透露，她藉助AI軟件生成的「氛圍感美女」視頻在多個平臺「吸粉」過萬，接到不少推廣商單，月收入在1萬元左右。
有商家稱，手上有未標(biāo)註AI生成的「美女」賬號，粉絲量均在一萬以上，且為「三無賬號」（無實名、無賬號違規(guī)、無作品違規(guī)），「現(xiàn)在平臺風(fēng)控很嚴(yán)，賬號會升值」。
該商家說，這些賬號銷售十分火爆，買家經(jīng)常催著加急起號，有個合作商「一周就要幾十個萬粉號」。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。
阻斷AI造假起號利益鏈
重慶公孝律師事務(wù)所執(zhí)行主任徐斌表示，AI造假起號灰色產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果，可能造成低俗獵奇信息氾濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序，亟待加強清理整治。
今年4月以來，中央網(wǎng)信辦部署開展「清朗·整治AI技術(shù)濫用」專項行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開展重點整治。
李彥等專家認(rèn)為，AI造假起號的背後，涉及技術(shù)提供者、傳播平臺、內(nèi)容發(fā)布者等多個參與方，技術(shù)、數(shù)據(jù)等關(guān)鍵信息存在壁壘，需加強協(xié)同治理，多方共同打擊違規(guī)行為。
阻斷違規(guī)賬號的流量變現(xiàn)，是從根源上打擊黑灰產(chǎn)業(yè)鏈的關(guān)鍵。受訪專家建議，監(jiān)管部門應(yīng)督促平臺履行治理責(zé)任，建立違規(guī)賬號「黑名單」，對高頻、反覆觸犯平臺規(guī)則的賬號主體加大處罰力度，禁止違規(guī)賬號進行帶貨、賣課等商業(yè)活動，持續(xù)開展AI造假起號整治，切斷其獲利渠道。
電話：（香港）852-2564 0768
（深圳）86-755-83518792 83518734 83518291
地址：香港九龍觀塘道332號香港商報大廈
