飛象原創(chuàng)（遠山/文）當一段視頻通話中的“領(lǐng)導(dǎo)”以急事為由要求轉(zhuǎn)賬，當社交媒體上突然出現(xiàn)“明星代言”的虛假廣告，當父母收到“子女”聲淚俱下的求助語音……這些看似荒誕的場景，正隨著AI換臉與語音克隆技術(shù)的普及，成為新型犯罪的溫床。
技術(shù)的光影之下，人性的貪婪與法律的滯后交織成一張復(fù)雜的網(wǎng)，既時刻威脅著個體的權(quán)益，同時也拷問著社會治理的智慧。
技術(shù)濫用的現(xiàn)實圖景：從個案到現(xiàn)象
2025年春節(jié)前夕，西安市雁塔區(qū)法院審理的一起案件引發(fā)關(guān)注。某公司未經(jīng)授權(quán)使用AI換臉技術(shù)，將一名女演員的肖像嫁接至帶貨視頻中，誤導(dǎo)消費者認為其與商品存在代言關(guān)系。法院最終判決該公司賠償經(jīng)濟損失并公開道歉。
這僅是冰山一角。更惡劣的案例中，杭州的虞某利用AI換臉制作并傳播淫穢視頻，非法牟利超百萬元，最終被判處七年三個月有期徒刑。
技術(shù)的“易得性”與犯罪的“低成本”形成鮮明對比——廣州南沙區(qū)法院2024年判決的一起案件中，五名被告人僅憑購買教程和開源軟件，便搭建起一條通過偽造人臉識別視頻非法修改系統(tǒng)數(shù)據(jù)的黑色產(chǎn)業(yè)鏈，涉案金額高達120萬元。
而更具迷惑性的，是技術(shù)對人際信任的瓦解。天津市民李先生接到“領(lǐng)導(dǎo)”視頻電話，畫面中對方神態(tài)自若，聲音與慣常無異。在“眼見為實”的心理暗示下，他分三次轉(zhuǎn)賬95萬元，直到次日當面確認才知受騙。
類似案件中，江西一位老人甚至因網(wǎng)戀“假靳東”AI換臉視頻，不惜貸款200萬元資助“偶像拍戲”，最終血本無歸。這些案例揭示了一個殘酷現(xiàn)實：當技術(shù)能夠完美復(fù)刻人類的外貌與聲線，傳統(tǒng)的社會信任機制正在遭遇降維打擊。
技術(shù)雙刃劍：重構(gòu)認知與沖擊秩序
AI換臉與語音克隆的負面影響早已超越個體受害范疇，演變?yōu)橄到y(tǒng)性風險。首先是對人格權(quán)的全面侵蝕。《民法典》明確肖像權(quán)與聲音權(quán)受法律保護，但實踐中，一張照片、一段錄音便足以讓技術(shù)偽造出以假亂真的數(shù)字分身。2023年河北李先生遭遇的案例中，詐騙者利用其社交照片制作虛假色情視頻實施敲詐，致其社會評價斷崖式下跌。
其次是經(jīng)濟秩序的混亂。廣州南沙案件中，犯罪團伙通過篡改企業(yè)認證數(shù)據(jù)，幫助未達標公司非法獲取資質(zhì)，直接擾亂市場競爭環(huán)境。類似通過AI技術(shù)手段進行不當牟利的事件還有很多，已經(jīng)對正常的經(jīng)濟秩序造成越來越顯著的危害。
更深層的危機在于社會認知基石的動搖。當“有圖有真相”淪為過去式，公眾對信息真實性的集體焦慮可能催生普遍的懷疑主義，甚至削弱司法取證的公信力。一旦整個社會的認知基礎(chǔ)受到削弱，隨之而來的就是因信任成本抬升而讓整個社會彌漫著低效、遲鈍與悲觀的氣氛。
我們不得不認識到，技術(shù)濫用的危害鏈條仍在延伸。從個人隱私泄露到網(wǎng)絡(luò)詐騙，從商業(yè)詆毀到政治謠言，技術(shù)的每一次迭代都在為犯罪提供新工具，而技術(shù)革新的步伐是不可阻擋的，存在可能為潛在的犯罪行為提供機會的漏洞也是在所難免。
據(jù)公安部網(wǎng)安局統(tǒng)計，2024年利用深度合成技術(shù)實施的詐騙案件同比激增230%，單案最高損失逾千萬元。這種“技術(shù)黑產(chǎn)”的蔓延速度，已遠超傳統(tǒng)法律規(guī)制的反應(yīng)周期。
如何治理：法治框架的補位與革新
面對技術(shù)狂飆，法律必須成為勒住韁繩的手。現(xiàn)行法律體系已具備初步規(guī)制能力：《民法典》第1019條明確禁止利用信息技術(shù)偽造他人肖像，第1034條將生物識別信息納入個人信息保護范疇；《刑法》中詐騙罪、侵犯公民個人信息罪等條款可覆蓋多數(shù)技術(shù)濫用行為。杭州虞某案與廣州南沙案的判決表明，司法機關(guān)正通過擴大解釋將新型犯罪納入傳統(tǒng)罪名框架。
但專項立法的缺位仍顯尷尬。全國政協(xié)委員靳東在2025年兩會期間直言：“現(xiàn)有法律對AI換臉侵權(quán)的低成本與維權(quán)高難度失衡，客觀上縱容了技術(shù)濫用”。這種困境在《慶余年》AI剪輯侵權(quán)案中尤為突出——盡管法院判定侵權(quán)，但維權(quán)方需耗費數(shù)月完成技術(shù)鑒定，而侵權(quán)者僅需幾分鐘即可生成新內(nèi)容。
治理創(chuàng)新已在路上。技術(shù)治理層面，數(shù)字水印技術(shù)的推廣為內(nèi)容溯源提供可能。該技術(shù)可在視頻中嵌入隱形標識，記錄創(chuàng)作者與版權(quán)信息，一旦內(nèi)容被篡改即可追蹤源頭。
立法層面，2025年實施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求AI生成內(nèi)容添加顯著標識，這為平臺審核提供了抓手。
司法實踐層面，多地法院開始探索“舉證責任倒置”，要求技術(shù)使用者自證合法性，減輕被侵權(quán)方舉證壓力。
行業(yè)新范式：在規(guī)制與創(chuàng)新間尋找平衡點
規(guī)范技術(shù)應(yīng)用絕不等于扼殺創(chuàng)新。歷史經(jīng)驗表明，印刷術(shù)催生了版權(quán)制度，互聯(lián)網(wǎng)孕育了數(shù)據(jù)安全法，每一次技術(shù)革命都伴隨著法律體系的適應(yīng)性進化。
關(guān)鍵在于劃定清晰的“技術(shù)紅線”：對于影視特效、醫(yī)療仿真等正向應(yīng)用，應(yīng)通過許可制與行業(yè)標準予以鼓勵；而對身份偽造、內(nèi)容篡改等高風險場景，則需建立分級分類監(jiān)管體系。全國人大代表雷軍提出的“建立AI換臉技術(shù)備案庫”建議，正是試圖在開放創(chuàng)新與風險管控間找到平衡。
企業(yè)的技術(shù)倫理建設(shè)同樣重要。部分平臺已推出“生物特征脫敏”工具，允許用戶上傳照片時自動模糊關(guān)鍵特征，既滿足社交需求又降低濫用風險。這種“隱私設(shè)計（Privacy by Design）”理念，將合規(guī)性嵌入技術(shù)開發(fā)生命周期，或?qū)⒊蔀樾袠I(yè)新范式。
多元共治：3.15視角下的治理緊迫性
在2025年“3.15國際消費者權(quán)益日”來臨之際，治理AI技術(shù)濫用更具現(xiàn)實意義。據(jù)中消協(xié)最新調(diào)查，67%的消費者遭遇過AI合成內(nèi)容誤導(dǎo)，其中超三成造成直接經(jīng)濟損失。
當技術(shù)欺詐成為消費侵權(quán)的重災(zāi)區(qū)，不僅全社會應(yīng)提高對技術(shù)欺詐的警惕性，相關(guān)管理職能部門更應(yīng)強化防范與治理的措施。對于技術(shù)欺詐行為，治理行動或可根據(jù)具體情況從三方面發(fā)力。
一是強化平臺責任，要求社交、電商平臺部署深度合成內(nèi)容識別系統(tǒng)，對未標注“AI生成”標識的內(nèi)容限流或下架，同時也應(yīng)完善甄別與補救措施，避免對正常內(nèi)容的限制與誤傷；
二是完善救濟機制，建立“AI侵權(quán)快速響應(yīng)通道”，簡化電子證據(jù)取證流程，并與相關(guān)管理職能部門進行聯(lián)動；
三是提升公眾素養(yǎng)，通過案例宣傳揭露常見技術(shù)騙局，培養(yǎng)“多重驗證”的安全習慣——正如公安部網(wǎng)安局提示：“涉及轉(zhuǎn)賬務(wù)必通過電話、見面等二次確認”。
技術(shù)的列車不會停歇，但軌道必須延伸在法治與倫理的基石之上。從兩會代表呼吁專項立法，到法院判決樹立裁判規(guī)則，從企業(yè)探索技術(shù)合規(guī)，到公眾提升防范意識，多元共治的格局正在形成。
唯有讓技術(shù)創(chuàng)新在陽光下奔跑，才能避免“技術(shù)利維坦”的陰影籠罩人類的未來。
