《法治日報》記者近日調(diào)查發(fā)現(xiàn)，不少未成年人的家長正在被AI劇情聊天軟件所困擾，這些打著“角色扮演”等旗號的AI劇情聊天應用，在吸引未成年人的同時，也悄然滋生了一些灰色地帶，在部分軟件的對話中，出現(xiàn)了色情擦邊、語言暴力以及侮辱用戶的內(nèi)容。（《法治日報》11月23日）

　　此前，ChatGPT的橫空出世猶如一顆火種，點燃了人工智能領域的熱情，催生了各式各樣的創(chuàng)新應用。萬萬沒想到，這種生成式大語言模型，又一次被帶偏了。

　　據(jù)報道，一些打著“角色扮演”旗號的AI劇情聊天軟件，用色情、暴力的擦邊內(nèi)容吸引未成年人，誘惑他們充值消費，這不僅引發(fā)了家長們的強烈擔憂，也再次凸顯出加強行業(yè)監(jiān)管的緊迫性。

　　AI劇情聊天軟件依托人工智能技術，模擬虛擬人物與玩家進行對話，為青少年打造了一個充滿新奇與未知感的虛擬世界，這種創(chuàng)新本身并無不妥。

　　問題在于，一些軟件開發(fā)平臺為了吸引用戶，刻意設置了包含性暗示或暴力元素的對話內(nèi)容，甚至設計了超出青少年認知范圍的場景和劇情，如將聊天對象設定為“出軌對象”，并涉及擁抱、親吻等親密行為。更有甚者，部分軟件提供色情內(nèi)容，對青少年健康成長造成極大威脅。

　　在青少年成長發(fā)育的關鍵時期，營造健康向上的網(wǎng)絡環(huán)境至關重要。倘若他們沉迷于充斥著低俗、暴力內(nèi)容的虛擬世界，甚至進行大額充值消費，無疑會對其價值觀造成負面影響。

　　要確保行業(yè)健康發(fā)展，防止技術被濫用，必須迅速采取措施，加強監(jiān)管力度，約束平臺守法合規(guī)運營。比如，一旦發(fā)現(xiàn)存在色情內(nèi)容，應立即對相關應用軟件進行下架處理，以儆效尤。

　　更為重要的是，要將未成年人保護機制真正落到實處。報道提到，有些AI劇情聊天軟件，注冊極為簡便，無需實名驗證，根本沒有對不同年齡段用戶進行區(qū)分。還有的軟件雖然提供了“青少年模式”，但防火墻形同虛設，用戶選擇該模式后，照樣可以看到一些不適合他們觀看的內(nèi)容。

　　所以，針對部分AI劇情聊天軟件“偏離正軌”的問題，行業(yè)監(jiān)管部門不妨首先系統(tǒng)梳理排查一下，看最基礎性的“青少年模式”到底有沒有執(zhí)行到位。在此基礎上，加強對平臺內(nèi)容的審核，確保生成的內(nèi)容合法合規(guī)。

　　另一方面，AI劇情聊天軟件的網(wǎng)絡開發(fā)平臺，也應主動承擔起主體責任，加強自律，建立完善的內(nèi)容審核機制，在軟件上架前的語言訓練階段，就對可能存在的色情、暴力等有害信息進行有效過濾。總之，絕不能為了追求用戶數(shù)量而打法律的擦邊球。

　　AI劇情聊天軟件亂象，對未成年人身心健康造成的潛在危害，不可不察。無論如何，人工智能作為新興行業(yè)，其快速發(fā)展應當為社會經(jīng)濟帶來正面的價值。不能讓技術跑偏，成為非法牟利的工具。守護好未成年人身心健康的防線，人工智能才能真正實現(xiàn)“技術向善”。（熊志）

相關知識

擦邊、毀三觀，該對網(wǎng)住未成年人的AI劇情聊天軟件出手了
健康管理軟件+AI技術：打造智能健康管理方案
ai減肥軟件是什么軟件,AI減肥助手，揭秘這款智能減肥軟件的秘密武器！
客服在線聊天溝通軟件
AI技術革新！探索流行的瘦身特效生成軟件
ai洽商軟件,AI洽商軟件，重塑商務溝通，賦能未來商業(yè)
中央網(wǎng)信辦部署開展“清朗·整治AI技術濫用”專項行動
國內(nèi)十大聊天工具 國內(nèi)聊天軟件排行 聊天交友軟件推薦
ai減肥軟件,AI減肥軟件，科技助力健康生活，開啟智慧減脂新時代
密聊貓軟件下載

網(wǎng)址: 聊天軟件充斥色情暴力內(nèi)容？AI技術不能偏離正道 http://www.gysdgmq.cn/newsview1607360.html