“一秒生成制服照”？ AI豈能如此換裝

用戶只需上傳一張生活照，便可一鍵生成個人軍裝照、警察照……“新華視點”記者調查發(fā)現(xiàn)，一些AI工具推出“換裝”功能，引發(fā)不少軍警迷的追捧。但是，有不法分子利用“AI換裝”功能，偽造軍警身份招搖撞騙，亟待引起警惕。

AI生成制服照被濫用

記者以“AI換軍裝”為關鍵詞，在部分短視頻平臺搜索到多款相關應用。這些應用以“穿電子軍裝過把癮”“AI圓了我兒時夢”等為亮點吸引用戶。有網民稱，只需上傳一張生活照，即可“秒變軍人”，配上戰(zhàn)車、閱兵場等背景，感覺圓了自己的“從軍夢”。

當下一些流行的AI工具提供的AI生圖功能，也可以按使用者要求，實現(xiàn)AI變裝。然而，“AI換裝”被一些人不當或不法使用，可能引發(fā)負面效應。

相關專家在觀看部分AI換裝視頻后指出，不少換裝的軍人形象并不符合《中國人民解放軍內務條令》規(guī)定的著裝規(guī)范，有的混淆軍種制式，有的使用假勛章，有的拼湊不同國家軍服元素。

江蘇大學管理學院黨委書記、教授馬國建表示，個別網民用AI將不同國家、軍種制式的軍服混搭，有的甚至把手持煙酒、勾肩搭背的生活照合成軍裝或警服照片、視頻，與我軍警應有的形象不符，是對軍人和警察形象的不當消費。

個別網民借AI生成虛假人民警察證、部隊任命書。今年3月，安徽黃山市屯溪區(qū)網民江某利用AI技術合成身穿軍裝的照片，并在社交平臺發(fā)布“經軍委同意，任命我為黃山軍分區(qū)司令員”的虛假信息，意圖博取流量。該行為造成不良社會影響，江某被當?shù)毓�安機關處以治安處罰。

有的不法分子借助“AI換裝”技術偽造身份，招搖撞騙。

今年4月，江蘇省江陰市人民法院對一起冒充軍人招搖撞騙案作出判決。網民路某并非現(xiàn)役軍人，卻盜用網絡上軍人訓練的照片發(fā)布在短視頻平臺上；收獲不少點贊后，他又用AI將自己的頭像合成到軍裝照上，并花錢偽造軍官證，搖身變成“少校軍官”。在騙取6名女性信任后，他以“車禍”“租車見領導”等借口詐騙3萬多元。法院以冒充軍人招搖撞騙罪判處其有期徒刑2年。

今年7月，江蘇常州的唐大媽遭遇一場精心設計的騙局：詐騙分子通過AI視頻與受害人接觸，視頻中，對方身著帶有公安標志的制服，以“涉案”為由恐嚇老人繳納高額“保證金”。好在警方及時預警并上門勸阻，避免了老人的財產損失。

平臺審核缺位 變造制服照“零門檻”

記者在某社交平臺上瀏覽到一些網友發(fā)布AI變裝視頻，通過視頻下方小程序鏈接進入后，按要求上傳三張本人面部清晰的照片；系統(tǒng)經過十幾分鐘的AI合成，便生成了軍裝變裝視頻。這期間，平臺和小程序并未要求上傳身份證明信息，也沒有給出不得將合成視頻用于違法違規(guī)領域的提示。

9月1日起施行的《人工智能生成合成內容標識辦法》要求AI合成內容必須明確標注，但記者在使用多款AI換裝應用后發(fā)現(xiàn)，用戶合成發(fā)布的視頻并未標注，容易讓人產生混淆。

AI變裝技術，降低了偽造身份的技術門檻。在某購物平臺上，記者以“AI+軍裝照”為關鍵詞，搜索到有商家公開出售佩戴軍銜的各軍種和警察服裝模板素材。店家表示，只需要花不到一元錢的價格就可拍下所有這些素材。

記者拍下后，店家很快發(fā)來一個網盤鏈接，內部有數(shù)十款供P圖的軍裝模板文件，用戶可根據(jù)需要的款式和級別，通過PS或AI等方式將自己的頭部肖像替換上去。記者嘗試將AI生成的軍裝照和肖像照用于多款社交平臺賬號，發(fā)現(xiàn)并無審核難度，均可正常替換。

北京市煒衡律師事務所律師汪高峰說，一些內容平臺和第三方軟件疏于審核，縱容虛假內容傳播，可能會降低公眾對軍人、警察職業(yè)的信任度和敬畏感。

江蘇省政府參事室特約研究員丁宏表示，AI降低了偽造身份的技術門檻，網絡上曾出現(xiàn)AI合成的警察抓人視頻并配上所謂警情通報，涉嫌傳播違法有害信息。這些內容可能誤導公眾，引發(fā)不必要恐慌，擾亂正常社會秩序。

國家網信辦不久前發(fā)布了一起執(zhí)法典型案例：浙江某公司運營的App提供視頻換臉、圖片換臉、照片舞動配音等圖片處理功能，用戶可對上傳圖片、視頻中的人物進行換臉，但未按規(guī)定落實安全評估要求，相關深度合成內容也未作顯著標識，存在較大安全風險，違反《互聯(lián)網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等規(guī)定。網信部門責令平臺對該App予以下架處置。

加強審查審核 防止濫用“AI換裝”

《人工智能生成合成內容標識辦法》明確，服務提供者提供生成合成內容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識；任何組織和個人不得惡意刪除、篡改、偽造、隱匿辦法規(guī)定的生成合成內容標識。

國家網信辦等十部門今年印發(fā)的《互聯(lián)網軍事信息傳播管理辦法》規(guī)定，互聯(lián)網軍事信息服務提供者和用戶使用深度合成、生成式人工智能等新技術新應用，不得損害人民軍隊形象。

汪高峰等法律人士建議，AI開發(fā)者在算法設計中應加強合規(guī)性審查，對警察和軍隊標識等敏感信息內容的使用，應在相關部門指導下，嚴格把關審核。平臺方應該嚴格落實《人工智能生成合成內容標識辦法》，對“AI換裝”類產品添加明顯標識，并建立審核機制，對違規(guī)內容及時下架封禁。

丁宏建議，加快相關立法進程，強化刑事司法銜接。相關部門盡快明確AI涉軍涉警等圖像的使用邊界、責任劃分及法律后果，特別是對刻意丑化軍人警察形象、借機實施招搖撞騙等行為，要依法依規(guī)嚴肅處理，形成法律震懾；對可能影響國家安全、造成社會危害的行為，追究AI工具開發(fā)者和內容平臺的連帶責任。

馬國建呼吁，提高公眾對軍人、警察等職業(yè)形象重要性的認識，普及相關知識，引導公眾自覺抵制、檢舉錯誤內容、違規(guī)應用。加強AI生成合成內容標識方法的宣傳推廣，降低公眾被欺騙、誤導的風險。