據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，電商熱銷(xiāo)產(chǎn)品“苗古金貼”，號(hào)稱由“千年秘方”的非物質(zhì)文化遺產(chǎn)代表性傳承人制作，專攻膝蓋、頸椎等問(wèn)題。然而，記者深入調(diào)查發(fā)現(xiàn)，該“傳承人”的照片實(shí)為AI生成，證書(shū)由一家機(jī)構(gòu)違規(guī)炮制。此類現(xiàn)象，在網(wǎng)上并不罕見(jiàn)。

隨著AI生成技術(shù)的出現(xiàn)，造假手段也隨之升級(jí)了，AI生成的人物仿真度高，普通人很難一眼識(shí)破，更別說(shuō)對(duì)AI不熟悉的中老年人了。再者，一系列的配套造假手段，將假“神醫(yī)”“神藥”包裝得惟妙惟肖，不僅普通消費(fèi)者，就連電商平臺(tái)、監(jiān)管部門(mén)在鑒別時(shí)恐怕都要費(fèi)點(diǎn)功夫。

因此，面對(duì)AI生成的新騙局，打假手段要迭代升級(jí)。

平臺(tái)與監(jiān)管部門(mén)應(yīng)緊跟新技術(shù)，以AI之矛攻AI之盾，充分研究AI生成技術(shù)中的時(shí)序瑕疵、物理規(guī)律異常、個(gè)性化表情缺失等漏洞，并利用深度學(xué)習(xí)模型針對(duì)性優(yōu)化鑒偽算法，提高鑒別能力。

同時(shí)，要對(duì)AI生成技術(shù)應(yīng)用進(jìn)行引導(dǎo)。目前，許多平臺(tái)都根據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套國(guó)家標(biāo)準(zhǔn)，要求服務(wù)提供者和用戶對(duì)AI生成內(nèi)容進(jìn)行顯式和隱式標(biāo)識(shí)，為打擊AI造假提供了技術(shù)支撐與責(zé)任追溯機(jī)制。下一步，可以對(duì)商家用戶采取“黑名單制”，如果商家違反規(guī)范標(biāo)準(zhǔn)，將其納入“黑名單”，施以降流、罰款、封店等處罰措施。

此外，針對(duì)不法商家虛構(gòu)藥方、偽造證書(shū)等造假行為，可構(gòu)建平臺(tái)與監(jiān)管部門(mén)協(xié)同的治理機(jī)制：要求商家上傳產(chǎn)品時(shí)必須提交藥方來(lái)源證明、身份資質(zhì)等全套材料，并在商品頁(yè)面公示接受社會(huì)監(jiān)督；可聯(lián)合中醫(yī)藥協(xié)會(huì)核查藥方真實(shí)性，聯(lián)合文旅部門(mén)驗(yàn)證相關(guān)證書(shū)，聯(lián)合藥監(jiān)部門(mén)評(píng)估配方合規(guī)性，形成“AI初篩+專家復(fù)核”的雙重鑒定體系。