近日，中央網(wǎng)信辦向社會(huì)發(fā)布《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》國家標(biāo)準(zhǔn)的征求意見稿，這則消息迅速引起網(wǎng)友廣泛關(guān)注。有媒體認(rèn)為，這一文件標(biāo)志著我國在人工智能內(nèi)容生成技術(shù)及其應(yīng)用方面的規(guī)范化管理向前邁出了重要一步，也為數(shù)字經(jīng)濟(jì)和信息安全的協(xié)調(diào)發(fā)展奠定了基礎(chǔ)。

2024 年被眾多業(yè)內(nèi)人士、研究機(jī)構(gòu)和市場觀察者稱為 “AI元年”。我們也明顯感覺到，這一年，人工智能技術(shù)在諸多方面達(dá)到了一個(gè)新的高度，其影響深遠(yuǎn)地滲透到了各行各業(yè)。但是，人工智能技術(shù)的飛速普及與應(yīng)用又是一把雙刃劍。一方面，AI技術(shù)為各行各業(yè)帶來了創(chuàng)新動(dòng)力，推動(dòng)了生產(chǎn)力的提升；但另一方面，隨著AI生成合成內(nèi)容的廣泛應(yīng)用，網(wǎng)絡(luò)內(nèi)容的真實(shí)性和安全性也面臨著前所未有的挑戰(zhàn)。

比如，在商業(yè)活動(dòng)中，一些不法分子利用AI編造誤導(dǎo)性商業(yè)信息。去年12月，有網(wǎng)民利用AI工具專門制造“廣州即將成為全國首個(gè)限制外賣配送的城市”的謠言，并進(jìn)行引流牟利。該謠言引發(fā)了不小的震動(dòng)，影響了廣州多家外賣配送企業(yè)的正常運(yùn)作、數(shù)以萬計(jì)的外賣騎手工作以及成百上千家餐飲和商戶的日常經(jīng)營。

還有利用AI技術(shù)編造虛假新聞?wù)`導(dǎo)公眾。河南鶴壁網(wǎng)民戶某為博眼球、蹭流量，在網(wǎng)上利用AI拼圖技術(shù)生成直升機(jī)飛躍麥田的圖片，并配文“省領(lǐng)導(dǎo)XXX到?？h視察小麥倒伏情況”，編造虛假新聞，引發(fā)網(wǎng)民關(guān)注，擾亂公共秩序。有網(wǎng)民為博取流量，對網(wǎng)上看到的一篇關(guān)于“小孩偷鉛筆”內(nèi)容的文章，通過AI軟件生成視頻，編造為茂名市下轄某縣級市發(fā)生的案件，并在三個(gè)網(wǎng)絡(luò)社交短視頻平臺(tái)發(fā)布傳播，造成惡劣影響。

而更多的是遍布在各個(gè)網(wǎng)絡(luò)平臺(tái)的虛假文章，如江西南昌的一個(gè)MCN機(jī)構(gòu)利用具有語音交互功能的AI軟件，輸入關(guān)鍵詞自動(dòng)收集網(wǎng)絡(luò)上的信息，生成幾百到上千字的文章，并配上虛假圖片。這些虛假文章被廣泛傳播于多個(gè)網(wǎng)絡(luò)平臺(tái)，最高產(chǎn)時(shí)一天能達(dá)到4000至7000篇。這些文章內(nèi)容看似信息豐富，實(shí)際上卻是捏造的，騙取公眾的流量，甚至欺騙公眾的感情。

不少網(wǎng)友感嘆，現(xiàn)在網(wǎng)絡(luò)平臺(tái)上充斥著這類紛繁雜亂真假莫辨的信息。這不僅會(huì)影響信息的正常傳播和交流，有時(shí)甚至?xí)l(fā)公眾恐慌尤其是涉及到安全、健康、災(zāi)害等方面的虛假信息，可能會(huì)導(dǎo)致一些社會(huì)公眾的不理智行為，影響社會(huì)的正常秩序。

因此，如何從國家層面立法和規(guī)范這種AI合成信息，顯然是勢在必行，制定《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》也是恰逢其時(shí)。

制定該標(biāo)識方法可以明確不同場景下、不同類型內(nèi)容的標(biāo)識要求，為行業(yè)提供具體的操作指南，規(guī)范行業(yè)發(fā)展。例如，對于文本、音頻、視頻等不同形式的內(nèi)容，規(guī)定其顯式標(biāo)識和隱式標(biāo)識的具體方式和位置等，避免企業(yè)在實(shí)施過程中出現(xiàn)標(biāo)識不明顯、不規(guī)范等問題。

對于用戶來說，在使用人工智能生成合成內(nèi)容時(shí)，往往對內(nèi)容的真實(shí)性和可靠性存在疑慮。一旦有了明確的標(biāo)識方法，就可以讓用戶清楚地知道哪些內(nèi)容是人工智能生成的，哪些是真實(shí)的人類創(chuàng)作，增強(qiáng)用戶對人工智能技術(shù)的理解，促進(jìn)人工智能技術(shù)的良性發(fā)展。

總的來說，《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》的出臺(tái)，是我國在人工智能管理領(lǐng)域邁出的重要一步。這將不僅促進(jìn)行業(yè)的健康發(fā)展，還有助于提升公眾的自我保護(hù)能力，抵御網(wǎng)絡(luò)謠言及虛假信息的侵?jǐn)_，讓我們的網(wǎng)絡(luò)空間更加清朗。

詳情請見：https://review.jschina.com.cn/tingjian/202409/t20240919_3462648.shtml