生成式AI不能淪為造假工具

最近，某演員遭遇“AI盜播”，在同一時(shí)間“現(xiàn)身”多個(gè)直播間帶貨。該演員向自己的“分身”提出質(zhì)疑，還被拉黑了。此事再度引發(fā)公眾對(duì)AI（人工智能）的討論。

近年來，生成式AI飛速發(fā)展，曾經(jīng)需要一定專業(yè)技能才能完成的視頻制作，如今可以輕松完成。但技術(shù)被一些人濫用，也帶來一系列亂象：有消費(fèi)者偽造“買家秀”騙取退款，社交平臺(tái)出現(xiàn)大量虛假明星合影，詐騙分子偽造音視頻“圍獵”老年人……AI原本是表達(dá)創(chuàng)意、提高工作效率的好幫手，如今卻有淪為造假工具的危險(xiǎn)，這一現(xiàn)象必須引起警惕。

9月份開始施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。顯式標(biāo)識(shí)是以文字、聲音等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)，當(dāng)AI內(nèi)容具有迷惑性甚至誤導(dǎo)性時(shí)，顯著的標(biāo)識(shí)能夠幫助用戶迅速作出判斷、辨別虛假信息；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的標(biāo)識(shí)，在追溯偽造內(nèi)容來源、維護(hù)被侵權(quán)人合法權(quán)益方面具有重要意義。

《標(biāo)識(shí)辦法》施行以來，各大平臺(tái)紛紛響應(yīng)，出臺(tái)各類細(xì)則確保AI內(nèi)容亮明身份，邁出了AI內(nèi)容治理的關(guān)鍵一步。但目前仍有部分AI內(nèi)容未添加任何標(biāo)識(shí)，對(duì)觀眾形成誤導(dǎo)。進(jìn)一步遏制AI造假亂象，還需構(gòu)建多層次的治理體系。

比如，強(qiáng)化法律保障，進(jìn)一步明確AI造假的處罰標(biāo)準(zhǔn)，厘清服務(wù)提供者、平臺(tái)、用戶三方責(zé)任，覆蓋多種造假情形；加強(qiáng)監(jiān)管力度，針對(duì)各類AI造假行為開展專項(xiàng)治理工作，建立多部門協(xié)同聯(lián)動(dòng)的監(jiān)管體系，形成打擊合力；升級(jí)技術(shù)手段，提升高精度檢測(cè)能力，精準(zhǔn)識(shí)別造假內(nèi)容。

演員被“分身”只是一記警鐘。技術(shù)迅猛發(fā)展，治理必須跟上。只有規(guī)則、監(jiān)管、技術(shù)同步“打補(bǔ)丁”，才能有效減少AI造假，降低公眾上當(dāng)受騙的風(fēng)險(xiǎn)。（作者：趙心儀 來源：經(jīng)濟(jì)日?qǐng)?bào)）