不久前，某機(jī)場出現(xiàn)一張由人工智能（以下簡稱“AI”）生成的廣告畫面，因人物主體有六根手指引發(fā)熱議。這一失誤看似荒誕，卻也揭示出“AI幻覺”的問題。

當(dāng)算法能夠驅(qū)動(dòng)內(nèi)容生產(chǎn)，AI迅速響應(yīng)用戶指令，生成各類文本、圖像和音視頻內(nèi)容，“一鍵生成”帶來的快感，讓越來越多的人陷入“技術(shù)依賴”，同時(shí)也產(chǎn)生了信息混淆和傳播誤導(dǎo)的風(fēng)險(xiǎn)。

近日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡稱《標(biāo)識(shí)辦法》）?！稑?biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為。

《標(biāo)識(shí)辦法》要求，由人工智能生成的文本、圖片、音頻以及視頻等內(nèi)容，均需添加顯式或隱式的標(biāo)識(shí)。顯式標(biāo)識(shí)，如文字、語音提示，能夠直觀地告知用戶內(nèi)容的生成來源；隱式標(biāo)識(shí)，如元數(shù)據(jù)、數(shù)字水印，則能在不影響用戶體驗(yàn)的前提下，暗中標(biāo)記內(nèi)容的生成信息。這一舉措有效破解了內(nèi)容溯源的問題，還有助于重建網(wǎng)絡(luò)空間的信任秩序。

技術(shù)的發(fā)展同風(fēng)險(xiǎn)挑戰(zhàn)，從來都是相伴而生。從實(shí)驗(yàn)室里助力前沿探索到醫(yī)療影像輔助診斷，從城市交通智慧調(diào)度到農(nóng)業(yè)精準(zhǔn)種植指導(dǎo)……AI為人們帶來了更便捷智能的體驗(yàn)，但也出現(xiàn)了一系列因?yàn)E用AI而產(chǎn)生的問題：深度偽造技術(shù)制造的虛假影像難辨真?zhèn)?，AI換臉技術(shù)催生的身份盜用防不勝防，惡意生成內(nèi)容更成為網(wǎng)絡(luò)空間的新型污染源。

既要用好，也要管好。近年來，我國已相繼出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件，既為技術(shù)創(chuàng)新開辟航道，又為公共利益筑牢堤壩。通過不斷對新出現(xiàn)的問題實(shí)施針對性治理措施，并與算法備案、安全評估等制度相銜接，科技向善的愿景得以更好地維護(hù)和發(fā)展。

公眾如何使用AI也顯得尤為重要。人工智能最終是要為人服務(wù)的，需要人來做出選擇和判定。我們需要形成批判性使用AI內(nèi)容的共識(shí)，提高人們對AI生成內(nèi)容的辨識(shí)能力和防范意識(shí)。只有這樣，我們才能讓AI為工作和生活賦能，避免被AI“挖坑”。

當(dāng)前，AI以“周更”速度迭代且更為深入地介入現(xiàn)實(shí)生活，生成內(nèi)容日均億萬量級地井噴，可以預(yù)見，相伴而生的AI治理問題還將持續(xù)出現(xiàn)。在創(chuàng)新的同時(shí)筑牢安全底線，實(shí)現(xiàn)動(dòng)態(tài)平衡中的持續(xù)優(yōu)化，將是AI時(shí)代長期面臨的課題。只有將技術(shù)的“快”與人類的“慎”結(jié)合起來，才能更好地讓技術(shù)為人類所用，服務(wù)社會(huì)發(fā)展。

（轉(zhuǎn)自《人民日報(bào)海外版》 作者：石暢）