外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……據(jù)8月11日新華網(wǎng)報(bào)道，社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。

從利用AI打造“完美熟齡女性形象”進(jìn)行“年齡焦慮”營(yíng)銷，到通過(guò)情感、養(yǎng)生、顏值等類別教程批量產(chǎn)出吸睛內(nèi)容，一些人借助AI技術(shù)，精心炮制虛假內(nèi)容誤導(dǎo)網(wǎng)友，進(jìn)而通過(guò)電商帶貨、賬號(hào)轉(zhuǎn)賣等手段實(shí)現(xiàn)流量變現(xiàn)。這種行為不僅違背了道德倫理，更觸犯了法律法規(guī)。

AI造假起號(hào)亂象背后，是復(fù)雜的利益鏈條。技術(shù)提供者為起號(hào)者提供造假工具，傳播平臺(tái)在審核環(huán)節(jié)存在漏洞，內(nèi)容發(fā)布者則肆意傳播虛假信息，而賬號(hào)售賣市場(chǎng)的火爆，更是讓這一亂象愈發(fā)猖獗。一個(gè)萬(wàn)粉AI賬號(hào)，從幾百元到上萬(wàn)元不等，百萬(wàn)粉絲的賬號(hào)甚至要十幾萬(wàn)元，巨大的利益誘惑讓不少人趨之若鶩。

AI造假起號(hào)帶來(lái)的危害不容小覷，會(huì)造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，誤導(dǎo)公眾認(rèn)知，破壞社會(huì)信任。一些“三無(wú)”保健產(chǎn)品廣告借助虛假賬號(hào)大肆推廣，不僅損害了消費(fèi)者的身體健康，也擾亂了正常的市場(chǎng)秩序。此外，這種行為還擠壓了真實(shí)優(yōu)質(zhì)創(chuàng)作者的生存空間，抑制了網(wǎng)絡(luò)空間的創(chuàng)新活力。

斬?cái)郃I造假起號(hào)利益鏈刻不容緩。監(jiān)管部門應(yīng)發(fā)揮主導(dǎo)作用，加強(qiáng)協(xié)同治理。一方面，督促平臺(tái)履行治理責(zé)任，建立違規(guī)賬號(hào)“黑名單”，對(duì)高頻、反復(fù)觸犯平臺(tái)規(guī)則的賬號(hào)加大處罰力度。另一方面，持續(xù)開(kāi)展專項(xiàng)整治行動(dòng)，加大對(duì)AI造假起號(hào)等違規(guī)行為的打擊力度，形成有效震懾。

平臺(tái)作為內(nèi)容傳播的重要載體，應(yīng)提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，利用先進(jìn)技術(shù)手段，提升審核效率和準(zhǔn)確性，同時(shí)進(jìn)一步完善規(guī)則，明確對(duì)AI造假起號(hào)等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)。技術(shù)提供者也應(yīng)強(qiáng)化自身社會(huì)責(zé)任感，技術(shù)研發(fā)過(guò)程中加強(qiáng)安全性和合規(guī)性，為打擊AI造假起號(hào)提供技術(shù)支持和解決方案。

此外，公眾是網(wǎng)絡(luò)空間的使用者和受益者，也是監(jiān)督虛假信息的重要力量，因而可以引導(dǎo)公眾積極舉報(bào)可疑賬號(hào)、引入專業(yè)機(jī)構(gòu)開(kāi)展評(píng)估等，形成全社會(huì)共同參與治理的良好氛圍。

聲明：證券時(shí)報(bào)力求信息真實(shí)、準(zhǔn)確，文章提及內(nèi)容僅供參考，不構(gòu)成實(shí)質(zhì)性投資建議，據(jù)此操作風(fēng)險(xiǎn)自擔(dān)

下載“證券時(shí)報(bào)”官方APP，或關(guān)注官方微信公眾號(hào)，即可隨時(shí)了解股市動(dòng)態(tài)，洞察政策信息，把握財(cái)富機(jī)會(huì)。

相關(guān)知識(shí)

網(wǎng)紅造謠的幕后生意：以AI造假起號(hào)引流，漲粉后再轉(zhuǎn)型轉(zhuǎn)賣
斬?cái)唷白馓?hào)”灰產(chǎn)利益鏈條 守護(hù)未成年人健康成長(zhǎng)
“回流藥”屢禁不止，如何斬?cái)嗪谏骀湥?/a>
斬?cái)嗑W(wǎng)絡(luò)詐騙黑色產(chǎn)業(yè)鏈 撕開(kāi)網(wǎng)絡(luò)欺詐5張“假面具”
AI賬號(hào)成起號(hào)新套路 多手段繞過(guò)“AI打標(biāo)”背后有哪些隱患？
掃除游戲健康生態(tài)“新害蟲”，米哈游協(xié)助警方斬?cái)唷坝螒蛸~號(hào)非法租售黑灰產(chǎn)”鏈條
輔助診斷、AI問(wèn)答、健康管理……AI正重塑醫(yī)療服務(wù)鏈條
狙擊騙保大案背后，靠什么斬?cái)唷俺葬t(yī)?！焙谏a(chǎn)業(yè)鏈｜2024中國(guó)經(jīng)濟(jì)年報(bào)
不法APP誘騙侵權(quán)有違商業(yè)倫理 法治利劍斬?cái)唷罢T導(dǎo)下載”黑手
2025百度創(chuàng)作者大會(huì)西雙版納啟幕！AI賦能健康新生態(tài)，博禾醫(yī)生斬獲先鋒獎(jiǎng)

網(wǎng)址: 斬?cái)郃I造假起號(hào)利益鏈刻不容緩 http://www.gysdgmq.cn/newsview1676215.html