不能放任AI造假起號泛濫成災
□新派融媒體評論員 薛靜
外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學……據新華社報道，社交媒體上，一些AI生成的視頻關注度頗高，“細節(jié)滿滿”讓很多網友信以為真。記者調查發(fā)現，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現。近期，多個平臺對“AI起號”現象開展專項治理行動，清理違規(guī)內容并封禁部分賬號。
起號，指在社交媒體或電商平臺開設新賬號，通過運營吸引粉絲、獲取流量，最終實現商業(yè)轉化。
互聯網時代，流量意味著利益。隨著AI的普及，起號門檻大幅降低。在“單賬號月入過萬”的利益驅動下，一些操作者瞄準情感、養(yǎng)生、美妝等易引發(fā)共情的領域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準吸引特定群體，通過電商帶貨、賬號轉賣等方式變現，形成“起號、轉型、轉賣”的灰色產業(yè)鏈。
社交平臺上有眾多網友求購和出售賬號，2.5萬粉絲的AI養(yǎng)生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元……AI造假起號并非簡單的技術游戲，而是涉嫌多項違法的嚴肅問題。AI生成的內容，大多依靠獵奇、低俗實現快速傳播，極易讓人陷入謠言和虛假信息產生的“信息繭房”，擾亂正常的網絡秩序。
根據反電信網絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯網賬號。多個網絡平臺規(guī)定，賬號僅限本人使用，禁止以任何形式出租、轉讓、售賣或以其他方式許可他人使用賬號。AI虛擬人物、賬號實際操控人、轉售用戶之間的信息錯位，不僅違反監(jiān)管規(guī)定，更為數據安全埋下了風險隱患。
治理此類亂象，需要各方共同努力。作為網絡服務提供商，平臺在內容審核方面承擔著責任和義務，通過要求對AI生成作品進行顯著標注、將違規(guī)賬號下架處理、封禁批量起號商家等方式，最大限度杜絕AI造假現象。監(jiān)管部門也應加強監(jiān)管力度，沿著起號、養(yǎng)號鏈條溯源，嚴厲打擊背后相關利益機構，阻斷灰色產業(yè)鏈。隨著AI技術的不斷迭代升級，監(jiān)管方、平臺方也需及時更新技術庫，用更強大的技術能力對不法分子形成絕對壓制。當然，整治AI造假起號也離不開大眾參與，例如鼓勵網友舉報可疑賬號、引入專業(yè)機構開展評估等，充分調動公眾參與亂象治理的積極性。
AI的價值在于擬人化服務而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。遵守“技術向善”的規(guī)則，在法律法規(guī)框架內，引導AI技術正向應用，方能最大化體現AI的價值。莫讓技術成為造假的“幫兇”，守住底線，才能讓網民安心共享數字時代紅利。
編輯:馮淑杰 張興紅
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
