近日，安徽一名女子使用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)送給在外聚餐的丈夫，本想測試其反應(yīng)，不料丈夫信以為真，當即報警求助。

　　民警現(xiàn)場核實情況，確認是虛假信息，對該女子的行為進行了提醒：“AI技術(shù)生成的內(nèi)容雖逼真，但以此制造恐慌并引發(fā)警方出警，屬于浪費公共資源的行為�！�

　　類似由AI生成圖片引發(fā)的“烏龍事件”并非個例：廣東廣州某小區(qū)業(yè)主的孩子用AI生成圖片后發(fā)給父母稱“流浪漢試圖闖進家門”，圖片被轉(zhuǎn)到業(yè)主群后引起樓棟業(yè)主恐慌；近日，多名電商平臺賣家曝光，有消費者利用AI工具生成商品變質(zhì)、損壞的圖片，以此申請“僅退款”；山東威海網(wǎng)民張某為博取關(guān)注，使用AI工具編造“在監(jiān)獄直播帶貨”圖片的謠言信息并發(fā)布，引發(fā)大量網(wǎng)民關(guān)注討論，張某因擾亂公共秩序已被公安機關(guān)處以行政處罰。

　　今年9月1日，《人工智能生成合成內(nèi)容標識辦法》正式實施，要求人工智能生成合成內(nèi)容應(yīng)當通過顯著標識、數(shù)字水印等方式進行顯式與隱式標注，以保障內(nèi)容的可識別性。這標志著，AI生成內(nèi)容全面進入“持證上崗”時代。

　　然而，《法治日報》記者近日對多個主流平臺展開的調(diào)查顯示，新規(guī)落地效果參差不齊，仍有大量未標識內(nèi)容在各大平臺持續(xù)傳播。這些愈發(fā)逼真的AI生成圖無標識“裸奔”，使“有圖有真相”的傳統(tǒng)認知面臨挑戰(zhàn)，公眾難辨真?zhèn)巍?/p>

　　AI圖片“隨心定制”

　　記者在調(diào)查中發(fā)現(xiàn)，如今網(wǎng)絡(luò)上存在多款A(yù)I制圖軟件，一些社交平臺甚至自帶AI生成圖功能。只需上傳相關(guān)人物、背景素材，輸入一句指令，短短幾秒便能生成一張幾可亂真的AI圖片，還可隨意按照個人喜好對圖片的細節(jié)和內(nèi)容進行調(diào)整。

　　受訪專家指出，如今AI生成圖片或視頻已很難從面部表情、肢體結(jié)構(gòu)等方面識別真?zhèn)�，如果不對�?nèi)容作顯著標識，很容易讓人信以為真。

　　為調(diào)查平臺與創(chuàng)作者對AI生成內(nèi)容的實際標注情況，記者在一周時間內(nèi)于6個主流短視頻平臺及社交平臺的推薦頁面，分別隨機瀏覽并記錄了100條AI生成或高度疑似AI生成的視頻內(nèi)容，并就其標注情況展開記錄。

　　經(jīng)統(tǒng)計，在隨機瀏覽的視頻中，約有60%的視頻附有作者主動標注的AI創(chuàng)作聲明；約30%雖未獲作者標注，但被平臺在顯著位置標識為“內(nèi)容可能為AI生成”。然而，在各大平臺中，仍有部分高度疑似AI生成的視頻，既無作者標識，也無平臺提示。

　　以某短視頻平臺一個擁有30多萬名粉絲的賬號為例，其發(fā)布的內(nèi)容多以萌寵、兒童和農(nóng)村生活為主題。其置頂?shù)?條視頻，內(nèi)容均呈現(xiàn)明顯的AI生成痕跡：小狗輕易撞破機場玻璃；行李箱的顏色瞬間變化；數(shù)十名長相雷同、頭身比例嚴重失調(diào)的嬰兒一邊走一邊喊“奶奶”。然而，其中僅1條在視頻右下角有AI創(chuàng)作標識。

　　在該賬號的首頁介紹中，明確附有其私人社交賬號，并注明“可學習教學”。記者添加該賬號私聊咨詢后，對方承認所有內(nèi)容均為AI生成，并表示“120元即可獲取提示詞以及全套教程，包教包會”“制作一條AI視頻僅需十幾分鐘”。

　　靠AI生成內(nèi)容引流賣貨

　　此外，AI生成內(nèi)容也被用于引流與商業(yè)推廣。

　　“在××(地名)，女兒已經(jīng)過上了普通人里最好的生活”。近日，在某社交平臺中，記者頻繁刷到以此為標題的帖文。不同的帖文中，這個地名被換成北京、長沙、珠海等不同城市。

　　在這些帖文中，孩子父母的“人設(shè)”高度一致：爸爸做生意、媽媽在國企工作，父母學歷均為985本/碩。雖然是不同賬號發(fā)布的內(nèi)容，但文案幾乎完全雷同，均為教育經(jīng)驗分享或情感激勵類內(nèi)容，極易引發(fā)家長群體的共鳴。

　　這類帖文的配圖普遍采用父母和孩子在校門前或景點前的合照。盡管賬號的IP地址顯示在不同地區(qū)，且背景不斷變化，但畫面中父母和孩子的形象高度一致。

　　同一張臉、同一個家庭，卻有多段“精彩人生”？記者下載相關(guān)帖文照片后發(fā)送給多個AI軟件詢問“是否為真實圖片”，得出的結(jié)論是“背景元素存在邏輯沖突、人物細節(jié)有AI特征，高度疑似AI生成圖”。

　　然而，平臺并未對這些圖片添加提示AI生成的相關(guān)內(nèi)容，圖片本身也未包含任何水印標注。

　　記者進一步觀察發(fā)現(xiàn)，這些賬號用AI生成圖塑造“成功家庭”形象的目的實為兜售課程。在某賬號發(fā)布的帖文中，其表示“成功家庭”的核心秘訣是孩子的教育，進而圍繞塑造孩子數(shù)學思維，展開長篇論述。評論區(qū)內(nèi)不少網(wǎng)友留言“求推數(shù)學思維課”。記者咨詢后，對方發(fā)來某數(shù)學課程商家賬號，該賬號經(jīng)營的店鋪內(nèi)售賣標價為5450元的新數(shù)理課程。

　　值得注意的是，部分賬號的主頁直接關(guān)聯(lián)某些線上教育機構(gòu)的官方賬號，并在后綴標注“產(chǎn)品體驗官”“規(guī)劃師”等身份標識。這類綁定關(guān)系顯示出其內(nèi)容與商業(yè)推廣間的明確關(guān)聯(lián)，客觀上構(gòu)成軟性廣告，但大多數(shù)家長往往難以辨別其營銷性質(zhì)。

　　除此之外，AI生成技術(shù)也被廣泛應(yīng)用于直播帶貨與商品展示。

　　某社交平臺部分穿搭博主賬號分享的內(nèi)容中，AI生成特征較為明顯：背景雜志上的人物和標題多為亂碼、電梯場景中樓層按鈕明顯失真，并非真人實穿。然而，平臺和博主均無任何關(guān)于AI生成的標注，博主還會通過評論區(qū)與用戶積極互動：當粉絲詢問服裝鏈接時，博主會直接引導(dǎo)至商品櫥窗；對于涉及身高、體重等個人特征的問題，博主也未提示任何AI生成屬性。

　　在某購物平臺上，多家銷售睡蓮的店鋪均使用相同的商品宣傳圖，圖片呈現(xiàn)明顯的AI制作特征：背景失真、花朵呈半透明狀。相關(guān)商品的買家評論最多達7萬余條，而其評論區(qū)卻幾乎未見成功開花的反饋。在偶有的一些開花圖片中，花朵數(shù)量和形態(tài)也與宣傳圖相差甚遠。而上述商品宣傳圖中，均未出現(xiàn)AI生成圖片的相應(yīng)提示。

　　去標識就能“騙”過平臺

　　為驗證平臺對AI內(nèi)容的識別能力，記者購買了一款宣稱“可去除品牌水印”的某AI軟件會員，使用該軟件可生成視頻并進行去水印處理。隨后，記者將有水印與無水印版本同時發(fā)布于4個主流社交平臺，且均未主動標注AI創(chuàng)作。

　　調(diào)查結(jié)果顯示，上述平臺對有水印的版本均作出“含AI生成內(nèi)容”的標識，對于無水印內(nèi)容，僅有一個平臺在后期補充了AI內(nèi)容標識，并在后臺私信發(fā)來風險提示外，其余平臺均無提示。

　　為驗證AI生成內(nèi)容標識系統(tǒng)的實際有效性，記者對當前市面6款使用人數(shù)較多的生圖軟件展開調(diào)查。結(jié)果顯示，雖然在內(nèi)容生成時全部默認標注水印，但有些軟件只要充值成為“高級會員”，即可解鎖“去水印”功能。

　　此外，市面上存在多家提供低價去水印服務(wù)的商家。其中一款售價6元、宣傳“終身包更新”的軟件包，明確提示可去除圖片與視頻中的各類水印，并且不限使用時間和次數(shù)。

　　記者購買了該安裝包進行實測，在按照要求完成軟件安裝后，發(fā)現(xiàn)僅需對水印位置進行簡單涂抹，即可完整去除AI標識，且不破壞畫面整體效果。隨后，記者將去水印后的圖片上傳至4個社交平臺進行驗證，結(jié)果顯示，這些原本帶有AI水印的內(nèi)容，在去除水印后均未觸發(fā)任何平臺的AI生成提示機制。

　　受訪專家認為，平臺在AI內(nèi)容標識的落地執(zhí)行方面還有很大的提升空間。不少網(wǎng)友把使用AI生成圖視為娛樂或惡作劇，卻忽視了背后可能存在擾亂社會治安、引發(fā)恐慌的風險。因此，在完善技術(shù)監(jiān)管機制的同時，也要加強公眾網(wǎng)絡(luò)素養(yǎng)教育，提升公眾對AI生成內(nèi)容的辨識能力和社會責任意識。

　　本報記者 趙 　麗

　　本報實習生 王藝霏