給“AI造”加標(biāo)識(shí)，應(yīng)對(duì)AI作假的有效之舉

原標(biāo)題：給“AI造”加標(biāo)識(shí)，應(yīng)對(duì)AI作假的有效之舉

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》也將同步實(shí)施。

近年來(lái)，人工智能（AI）技術(shù)突飛猛進(jìn)，AI生成合成的文字、圖片、音視頻等在網(wǎng)絡(luò)平臺(tái)迅速傳播，在豐富信息內(nèi)容的同時(shí)，也成為編造虛假信息、擾亂傳播秩序、實(shí)施新型詐騙的幫兇。有利用AI撰寫假新聞、造謠博眼球者；有假手AI發(fā)表評(píng)論，打造“智能水軍”者；還有深度造假知名院士視頻，帶貨宣傳護(hù)膚品者；更有借助AI假冒明星，騙取老人錢財(cái)者……

AI技術(shù)給虛假信息披上高科技“偽裝衣”，使“耳聽(tīng)未必為真、眼見(jiàn)未必為實(shí)”，且技術(shù)還在不斷迭代，迷惑性越來(lái)越強(qiáng)。防范AI造假，不僅僅是網(wǎng)絡(luò)平臺(tái)的責(zé)任，依靠公眾的“火眼金睛”去識(shí)別造假行為更不現(xiàn)實(shí)。

給AI生成合成內(nèi)容添加標(biāo)識(shí)，是從源頭上治理AI造假的有效手段。如果把AI生成合成內(nèi)容比作一種特殊產(chǎn)品，制作內(nèi)容的AI服務(wù)商就是廠家，傳播內(nèi)容的網(wǎng)絡(luò)平臺(tái)就是商店。《標(biāo)識(shí)辦法》規(guī)定，廠家在產(chǎn)品出廠時(shí)要貼上標(biāo)識(shí)引起商店關(guān)注，商店也要在銷售時(shí)通過(guò)貼標(biāo)識(shí)等方式提醒消費(fèi)者注意。其作用就是從內(nèi)容生產(chǎn)和傳播的源頭入手，給“AI造”打上識(shí)別碼，使其更容易被網(wǎng)絡(luò)平臺(tái)檢得出、被社會(huì)公眾看得見(jiàn)。公眾知道眼前信息源自AI，也就不會(huì)輕易上當(dāng)受騙。

AI正在蓬勃發(fā)展，我們既要加強(qiáng)對(duì)其有違倫理方面的治理，但又不能因這種治理而阻礙技術(shù)進(jìn)步。顯然，制訂《標(biāo)識(shí)辦法》注意到了這種平衡。比如，并未強(qiáng)制要求AI服務(wù)提供者采取難度過(guò)大、成本過(guò)高的標(biāo)識(shí)技術(shù)，而是創(chuàng)新提出多種低成本標(biāo)識(shí)方法，以避免增加企業(yè)負(fù)擔(dān)、導(dǎo)致其對(duì)AI技術(shù)研發(fā)的投入受到影響。制訂強(qiáng)制性國(guó)家標(biāo)準(zhǔn)，也充分吸納了AI領(lǐng)域高科技企業(yè)的專業(yè)意見(jiàn)。相關(guān)部門的這些舉措，體現(xiàn)了“統(tǒng)籌發(fā)展和安全”的治理理念。

當(dāng)然，治理AI造假，除了信息標(biāo)識(shí)，技術(shù)防范同樣不可忽視。比如，對(duì)網(wǎng)絡(luò)平臺(tái)上沒(méi)有依規(guī)標(biāo)識(shí)的AI生成合成內(nèi)容該如何檢測(cè)？怎樣提升檢測(cè)能力？如果未檢測(cè)識(shí)別出來(lái)且造成不良社會(huì)影響的，責(zé)任應(yīng)當(dāng)如何劃分？還有，對(duì)那些我國(guó)法規(guī)約束之外的境外AI工具生成合成內(nèi)容，其發(fā)布和傳播該怎樣管理？這些，都是在《標(biāo)識(shí)辦法》實(shí)施中值得關(guān)注和解決的問(wèn)題。

AI可以擬人、助人，但不能騙人、坑人。我們相信，《標(biāo)識(shí)辦法》的發(fā)布和施行，將有效治理“AI造假迷人眼”的亂象，還網(wǎng)絡(luò)空間以清朗，促AI發(fā)展之健康。