外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……據(jù)8月11日新華網(wǎng)報(bào)道，社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。

從利用AI打造“完美熟齡女性形象”進(jìn)行“年齡焦慮”營(yíng)銷，到通過(guò)情感、養(yǎng)生、顏值等類別教程批量產(chǎn)出吸睛內(nèi)容，一些人借助AI技術(shù)，精心炮制虛假內(nèi)容誤導(dǎo)網(wǎng)友，進(jìn)而通過(guò)電商帶貨、賬號(hào)轉(zhuǎn)賣等手段實(shí)現(xiàn)流量變現(xiàn)。這種行為不僅違背了道德倫理，更觸犯了法律法規(guī)。

AI造假起號(hào)亂象背后，是復(fù)雜的利益鏈條。技術(shù)提供者為起號(hào)者提供造假工具，傳播平臺(tái)在審核環(huán)節(jié)存在漏洞，內(nèi)容發(fā)布者則肆意傳播虛假信息，而賬號(hào)售賣市場(chǎng)的火爆，更是讓這一亂象愈發(fā)猖獗。一個(gè)萬(wàn)粉AI賬號(hào)，從幾百元到上萬(wàn)元不等，百萬(wàn)粉絲的賬號(hào)甚至要十幾萬(wàn)元，巨大的利益誘惑讓不少人趨之若鶩。

AI造假起號(hào)帶來(lái)的危害不容小覷，會(huì)造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，誤導(dǎo)公眾認(rèn)知，破壞社會(huì)信任。一些“三無(wú)”保健產(chǎn)品廣告借助虛假賬號(hào)大肆推廣，不僅損害了消費(fèi)者的身體健康，也擾亂了正常的市場(chǎng)秩序。此外，這種行為還擠壓了真實(shí)優(yōu)質(zhì)創(chuàng)作者的生存空間，抑制了網(wǎng)絡(luò)空間的創(chuàng)新活力。

斬?cái)郃I造假起號(hào)利益鏈刻不容緩。監(jiān)管部門應(yīng)發(fā)揮主導(dǎo)作用，加強(qiáng)協(xié)同治理。一方面，督促平臺(tái)履行治理責(zé)任，建立違規(guī)賬號(hào)“黑名單”，對(duì)高頻、反復(fù)觸犯平臺(tái)規(guī)則的賬號(hào)加大處罰力度。另一方面，持續(xù)開(kāi)展專項(xiàng)整治行動(dòng)，加大對(duì)AI造假起號(hào)等違規(guī)行為的打擊力度，形成有效震懾。

平臺(tái)作為內(nèi)容傳播的重要載體，應(yīng)提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，利用先進(jìn)技術(shù)手段，提升審核效率和準(zhǔn)確性，同時(shí)進(jìn)一步完善規(guī)則，明確對(duì)AI造假起號(hào)等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)。技術(shù)提供者也應(yīng)強(qiáng)化自身社會(huì)責(zé)任感，技術(shù)研發(fā)過(guò)程中加強(qiáng)安全性和合規(guī)性，為打擊AI造假起號(hào)提供技術(shù)支持和解決方案。

此外，公眾是網(wǎng)絡(luò)空間的使用者和受益者，也是監(jiān)督虛假信息的重要力量，因而可以引導(dǎo)公眾積極舉報(bào)可疑賬號(hào)、引入專業(yè)機(jī)構(gòu)開(kāi)展評(píng)估等，形成全社會(huì)共同參與治理的良好氛圍。