AI換臉，不能想換就換！

妖貝聊科技

登錄/注冊后可看大圖

登錄/注冊后可看大圖

圖片來源：攝圖網(wǎng)

上傳一張照片，經(jīng)過AI技術(shù)算法合成，立即秒變一張你想要的人臉……這樣的事聽起來是不是很有趣？但有趣的同時，AI換臉也帶來不少問題：

不法分子借此制作虛假視頻詐騙錢財、利用換臉方式侵害他人肖像、偽造人臉識別認(rèn)證從事非法活動等。專家表示，人工智能新技術(shù)給社會生活帶來方便的同時，也給人們隱私保護、財產(chǎn)及人身安全等都敲響了警鐘。

前不久，河北省高陽縣網(wǎng)警破獲一起制作、販賣、傳播淫穢物品牟利案。犯罪嫌疑人李豪通過QQ群自學(xué)AI換臉技術(shù)，用明星圖片制作淫穢視頻在網(wǎng)上以每10分鐘300元的價格售賣，嚴(yán)重侵犯了當(dāng)事人的肖像權(quán)和名譽權(quán)。

李豪還根據(jù)買家特殊需求，提供“私人定制”，由買家提供素人照片資料，李豪再將照片加工制作成淫穢視頻或圖片賣給買家。經(jīng)調(diào)查，李豪通過制作、販賣淫穢物品非法獲利近3萬元。

李豪被檢察機關(guān)以涉嫌制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪提起公訴。目前，案件尚未宣判。

專家指出，隨著人工智能的發(fā)展，AI換臉門檻逐漸降低，普通人也能方便地制作換臉視頻，滿足了人們獵奇、美顏、社交等各種需求。但是，當(dāng)這項技術(shù)被用于詐騙、色情、盜竊、惡搞、非法逐利等方面時，其不良效應(yīng)也引發(fā)了社會的關(guān)注和擔(dān)憂——放任自流，任其異化，可能成為侵害他人合法權(quán)益和危害社會公共安全的工具。

面對網(wǎng)絡(luò)新風(fēng)險，需要行業(yè)自律與司法規(guī)制相結(jié)合加以遏制。不管是經(jīng)營者還是使用者，都要秉持科技向善的原則，不能利用這項技術(shù)從事違法犯罪行為。

登錄/注冊后可看大圖

低門檻低成本AI換臉被濫用
AI換臉是人工智能新技術(shù)，能把一張臉換成另一張臉，且表情自然，效果逼真，通常只需一張照片即可在特定的軟件上完成替換，準(zhǔn)確度幾乎亂真。當(dāng)然，也有些技術(shù)差的、粗制濫造的“AI臉”是“肉眼可見”的假，只能騙騙低端需求。

“網(wǎng)上經(jīng)常能看到一些明星、網(wǎng)紅被換臉的視頻，弄成什么樣的都有。不論什么類型的作品，制作人都能夠通過AI換臉技術(shù)將他想要看到的形象替換上去?！北本┠秤耙暪緞赢嫾紟煑钕壬嬖V《方圓》記者，因為制作門檻和成本越來越低，AI換臉現(xiàn)在有被濫用的趨勢。

楊先生說，有的網(wǎng)站還出現(xiàn)了心懷不軌的人將一線女明星的形象安在了不堪入目的畫面上，這對被害人女明星來說影響是很大的。大家都相信眼見為實，人們看到視頻上不堪的畫面時，難免都會對女明星產(chǎn)生一些不好的印象。

楊先生說，AI換臉技術(shù)發(fā)明之初本來是用于視頻剪輯以及模擬智能學(xué)習(xí)領(lǐng)域，但現(xiàn)在越來越被濫用和不受控制。有人曾作過多次試探，發(fā)現(xiàn)將靜態(tài)照片通過AI換臉軟件生成動態(tài)視頻后，在乘坐地鐵進行刷臉支付進出站時可秒過。不僅如此，在刷臉認(rèn)證小區(qū)門禁時也可直接上“視頻”通行。

一名業(yè)內(nèi)人士告訴《方圓》記者，由于線上線下都有換臉需求，目前在一些電商平臺已悄然形成一個黑灰產(chǎn)業(yè)鏈：有提供軟件及技術(shù)的，有提供視頻和照片定制的，也有售賣成品視頻類的，“不過都比較隱蔽，大多數(shù)都進行了偽裝，不會明目張膽地跟人交易，但懂行的人知道他們是干什么的”。

經(jīng)人指點，《方圓》記者在某寶網(wǎng)上搜索“AI換臉”“deepfake”（深度偽造）等關(guān)鍵詞，出現(xiàn)了不少換臉軟件售賣信息，包括“商業(yè)背書視頻”“明星偶像互動視頻”“惡搞視頻”等，有的還專門標(biāo)出了“動作逼真清晰”等字樣，還有的能提供換臉視頻制作服務(wù)等。一個某寶ID為“專業(yè)定制換臉視頻”的賣家表示，可以代為制作換臉視頻，3分鐘以內(nèi)價格為300元。

《方圓》記者還在某二手交易平臺上以3元的價格購買了一款名為“fakeApp”（一鍵換臉）的換臉軟件，根據(jù)教程，導(dǎo)入提供的視頻素材，只需要按“提取”和“合成”鍵等，就可以將視頻素材中的人臉進行互換，幾乎看不出痕跡。

“這項技術(shù)的傳播就像打開了潘多拉的魔盒，相比于正向應(yīng)用，人們更擔(dān)心它會被用在灰色領(lǐng)域，成為違法犯罪的幫兇。”騰訊公司技術(shù)專家蔣增增介紹，在金融領(lǐng)域的一些安防場景、網(wǎng)點的柜面都有應(yīng)用人臉識別技術(shù)。線上銀行的遠(yuǎn)程開戶，P2P借貸也有人臉識別核驗的功能。這些刷臉支付的方式在方便生活的同時，也存在個人信息被盜用進而影響資金安全的隱患。

業(yè)內(nèi)人士表示，一旦不法分子利用人工智能技術(shù)將他人照片進行活化，就可以做出模擬真人的點頭、搖頭、眨眼、說話等行為，極易被用作辦理網(wǎng)貸、盜竊或?qū)嵤┚珳?zhǔn)詐騙。




背后暗藏不少法律風(fēng)險和侵權(quán)糾紛

登錄/注冊后可看大圖

圖片來源：攝圖網(wǎng)

不少案例表明，深度合成技術(shù)快速發(fā)展，在服務(wù)用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響了傳播秩序和社會秩序，損害了大眾合法權(quán)益。

同時，由于有了換臉、變聲工具，社交媒介上，用戶可以任意更改性別、國籍、外貌，仿真度極高、欺騙性極強，后果往往也比較嚴(yán)重。

在中國政法大學(xué)傳播法研究中心副主任朱巍看來，AI換臉很大程度上會造成核心個人信息的泄露，會侵犯個人隱私。

“AI換臉需要用手機號動態(tài)驗證碼進行驗證登錄。用戶如果想要下載或分享換臉視頻，需要進行驗證確認(rèn)所使用的照片的確是用戶本人才行，而驗證的方式則是在攝像頭前進行眨眼、扭頭、張嘴等各種指示動作。在這個過程中，換臉軟件實際上已經(jīng)搜集了用戶的面部識別信息并加以保存，因此，換臉的過程實際上存在嚴(yán)重的核心個人信息泄露風(fēng)險?！敝煳≌f。

有多年互聯(lián)網(wǎng)案件審判工作經(jīng)驗的北京互聯(lián)網(wǎng)法院法官魯寧表示，擅自使用他人肖像制作換臉視頻，可能會涉嫌構(gòu)成多種民事侵權(quán)行為，如侵犯他人的肖像權(quán)、名譽權(quán)等。

魯寧說，在換臉App中，有人將自己的臉換成明星的臉，將明星的臉換成自己的臉，或者將甲明星的臉換成乙明星的臉。如果換臉后依舊保留了明星的主要面部特征，公眾據(jù)此可以直接辨認(rèn)出明星的身份，那么用戶的這種行為就有可能侵犯明星的肖像權(quán)。

“如果再將明星的臉換到不雅視頻中，或者換臉后對明星進行惡意丑化，導(dǎo)致公眾誤以為該明星拍攝了不雅視頻，或者做了一些有違道德標(biāo)準(zhǔn)甚至違法違紀(jì)的行為，對明星產(chǎn)生負(fù)面評價或評價降低，那么這種換臉行為就可能侵害明星的名譽權(quán)?！濒攲幷f。

“無論是換臉App的經(jīng)營者還是普通網(wǎng)友，凡未經(jīng)影視劇著作權(quán)人的授權(quán)和許可，擅自將換臉后的影視片段通過網(wǎng)絡(luò)提供給公眾，使公眾可以在其個人選定的時間和地點進行在線播放甚至下載等，都可能涉嫌侵害影視劇著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán)。同時，如果換臉后對原影視劇片段的主旨進行了歪曲篡改，最常見的形式就是惡搞，還有可能侵害影視劇著作權(quán)人的保護作品完整權(quán)等?！濒攲幈硎?。

還有法律人士認(rèn)為，AI換臉還可能會給信息的真實性帶來挑戰(zhàn)，給科技倫理、人身及財產(chǎn)安全等帶來危害。“如果使用AI換臉技術(shù)公然侮辱他人或從事網(wǎng)絡(luò)盜竊、網(wǎng)絡(luò)詐騙等違法活動，還可能涉嫌刑事犯罪。”

東南大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授宋宇波以AI換臉可能給公民人身及財產(chǎn)安全造成潛在危害舉例說，如果單純是為了消遣搞笑而制作換臉視頻，本身并沒有太多的問題，但如果這一技術(shù)被不法分子利用，則會產(chǎn)生極大危害。

宋宇波認(rèn)為，將名人或明星的臉移植到一些他們本不該出現(xiàn)的場景中，很有可能造成負(fù)面影響。而對于普通人來說，目前許多金融場所都依賴于視頻線上識別進行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。

多位法律人士表示，AI換臉技術(shù)的濫用，在現(xiàn)實生活中引發(fā)了很多侵權(quán)糾紛。北京互聯(lián)網(wǎng)法院曾披露過一組數(shù)據(jù)：2018年9月至2020年8月，該院共受理利用網(wǎng)絡(luò)侵害人格權(quán)糾紛案6284件，其中涉網(wǎng)絡(luò)侵害肖像權(quán)糾紛的案件就有4109件，占到人格權(quán)糾紛案的65.4%，居于首位。

對此，吉林大學(xué)法學(xué)院教授侯學(xué)賓等專業(yè)人士表示，AI換臉已讓網(wǎng)絡(luò)侵權(quán)變得更加容易，法律規(guī)制的效果也變得難以實現(xiàn)。

“AI換臉不只停留于搞怪開玩笑，而且更多地被用到色情行業(yè)。在當(dāng)前的AI換臉技術(shù)之前，就有人利用相關(guān)技術(shù)將各種明星的頭像置換到各種色情視頻獲取暴利，現(xiàn)在的換臉技術(shù)只是讓這種做法變得更為便捷?！焙顚W(xué)賓說，盡管依據(jù)現(xiàn)有法律可以對此進行規(guī)制，維護被害人的權(quán)益，但是網(wǎng)絡(luò)的特性讓這種照片或視頻很難被完全消除，被侵權(quán)者只能默默忍受由此帶來的傷害。




若使用必須獲得單獨授權(quán)
的確，技術(shù)的發(fā)展讓AI換臉變簡單了，下載相關(guān)的App就能實現(xiàn)一鍵換臉。閑暇無聊之時，下個換臉軟件消遣一番，也不失為一種娛樂方式。不過，在法律人士看來，雖然AI換臉的門檻和成本變低了，換臉操作好像無時不在無處不在，但也并不是說想換就換，無所顧忌。在換臉這場“狂歡”里，依舊需要合理的邊界和尺度。

中國互聯(lián)網(wǎng)協(xié)會法工委副秘書長、中消協(xié)律師胡鋼表示，AI換臉本身是一項中性技術(shù)，提供的只是一種解決問題的方式。

網(wǎng)友通過某種方式創(chuàng)作一些內(nèi)容并完成有關(guān)表演，是法律規(guī)定公民所享有的權(quán)利。但任何一項言論或行為自由，都要和相關(guān)義務(wù)、責(zé)任進行匹配，可以有自由，但自由的邊界是不得侵犯其他個人或組織的利益，也不能損害公共利益，對此必須有清晰的法律界限。

一些研究人員也表示，不同的人使用AI換臉技術(shù)，可能出于不同目的或動機，雖然采用同樣的技術(shù)，但所產(chǎn)生的社會效果和法律效果并不相同。

AI換臉技術(shù)的開發(fā)者和經(jīng)營者在授權(quán)他人使用相關(guān)產(chǎn)品時，一定要明白科技倫理的概念，考慮這項技術(shù)在法律上、倫理上是否可能被濫用，在開放過程中應(yīng)當(dāng)采取更加合法合規(guī)的措施和方式，以及注意后期的預(yù)防措施等。

“比如，產(chǎn)品所展現(xiàn)的圖像本身或聲音本身，開發(fā)運營者是否強調(diào)了這是經(jīng)過AI技術(shù)處理的內(nèi)容，是否標(biāo)注了僅用于表演、娛樂字樣等。這種重要的提示完全可以嵌入到相關(guān)開發(fā)技術(shù)運營單位的經(jīng)營流程之中，如果能牢牢守住這一點，就能避免一些法律風(fēng)險，如果守不住，就可能引來一些麻煩?！睂＜艺f。

2022年12月，杭州互聯(lián)網(wǎng)法院審理過一起因AI換臉App利用深度合成算法侵害他人肖像權(quán)案件，最終判決App開發(fā)者賠禮道歉并賠償損失共5000元。

原告樓曉云是一名古風(fēng)模特，2022年3月，其在某短視頻平臺發(fā)布過一段古風(fēng)漢服短視頻。被告上海某公司是一款A(yù)I換臉App的運營主體。該App宣傳“僅需一張照片，立即變成視頻主角”“只需一張自拍，馬上改頭換面”。用戶通過支付68元至198元不等的會員費，即可使用全部“換臉”視頻模板。

原告樓曉云發(fā)現(xiàn)，被告上海某公司運營的AI換臉App中有她拍攝的古風(fēng)造型視頻模板。用戶可通過上傳個人照片，將視頻模板中的人臉替換成用戶上傳的人臉，除五官發(fā)生實質(zhì)性變化外，其余內(nèi)容都與原視頻保持一致。軟件生成換臉后的古風(fēng)造型視頻，用戶可以將其保存并分享到其他平臺。

樓曉云認(rèn)為，上海該公司的行為侵害其肖像權(quán)，請求法院判令該公司承擔(dān)停止侵權(quán)、賠禮道歉并賠償損失的責(zé)任。

法院審理認(rèn)為，民法典明確將“不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”作為侵害肖像權(quán)的一種典型形態(tài)予以規(guī)制。在這起案件中，樓曉云對案涉要素模板視頻及替換后視頻中所載對應(yīng)形象的人物肖像均享有肖像權(quán)。被告上海某公司未經(jīng)樓曉云同意，通過技術(shù)手段提取涉案古風(fēng)肖像視頻，并擅自上傳至其運營的換臉App中供用戶選擇使用，該行為已侵害樓曉云肖像權(quán)，依法應(yīng)認(rèn)定為構(gòu)成對樓曉云肖像權(quán)的侵害。

法官表示，自然人的肖像權(quán)具有絕對性、專屬性、排他性，人臉信息屬于個人信息保護法予以特殊保護的生物識別信息，面部形象的主人有權(quán)拒絕將其面部移轉(zhuǎn)至他人面部形象或身體形象中。因此，深度合成服務(wù)提供者提供人臉等生物識別信息編輯功能的，必須具有特定的目的和充分的必要性，采取嚴(yán)格保護措施，并取得被編輯的個人信息主體的單獨授權(quán)才行。

沒有獲得授權(quán)就是侵權(quán)。法院據(jù)此作出判決后，被告上海某公司沒有上訴，目前判決已經(jīng)生效。

專家指出，使用個人信息要獲得個人信息主體單獨授權(quán)，是法律對公民肖像權(quán)的有力保護。民法典、網(wǎng)絡(luò)安全法、個人信息保護法以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，對生物識別、生成合成類內(nèi)容等提出了不同程度的規(guī)制要求。

于2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》又進一步明確，提供深度合成服務(wù)，應(yīng)當(dāng)進行顯著標(biāo)識。若提供人臉、人聲等生物識別信息的顯著編輯功能，還需取得個人信息主體的單獨同意?！斑@是必要的信息告知，可以大大減少誤會和誤判的可能，避免公眾混淆或者誤認(rèn)，對于嚴(yán)格區(qū)分玩笑與欺騙很有意義。”專家說。




普通人更要防止“被偷臉”

登錄/注冊后可看大圖

圖片來源：攝圖網(wǎng)

實際上，防止隨意AI換臉不光是技術(shù)開發(fā)者和經(jīng)營者的基本責(zé)任，也是每個人都要有的一種自我保護意識。

北京一位律師說，生活中我們遇到的一些AI換臉情況，主要是網(wǎng)紅和明星居多，因為她（他）們社會關(guān)注度高，容易吸引眼球，大家就以為AI換臉好像是網(wǎng)紅和明星的事，和普通人關(guān)系不大。實際上這是一種錯覺，AI換臉不是網(wǎng)紅、明星的專利，它離我們每個人其實很近，有時就在身邊。

北京某安防公司一位專家說，從技術(shù)上看，現(xiàn)在的技術(shù)采集人臉信息非常簡單，只要有攝像頭就可以不間斷采集。很多人都有這種感受，收集并使用人臉數(shù)據(jù)的工具和場景，正變得越來越多：

擁有相冊讀取權(quán)限的App、提供人臉解鎖功能的手機廠商、進行身份驗證和面部檢測的各種金融類App，甚至是辦公樓里的刷臉出入系統(tǒng)，以及無處不在的安防攝像頭等。

這位專家說，除了少數(shù)采集者有采集明示或獲得用戶同意外，大量場景下的人臉信息采集，悄無聲息。部分商城會運用人臉識別技術(shù)，收集顧客的行為和購買手段。一些高校運用人臉識別技術(shù)收集學(xué)生的抬頭率、微表情、上課的姿態(tài)。另外，基于人臉圖像分析的換臉、美妝、性格判斷、健康狀態(tài)預(yù)測等應(yīng)用也很常見。

“這些靜悄悄的收集方式，具有無意識性與非接觸性，可以遠(yuǎn)距離發(fā)揮作用，并能長時間大規(guī)模地積累數(shù)據(jù)而不被用戶察覺，具有很強的侵入性。”一位法律人士告訴《方圓》記者，近年來發(fā)生的一些AI換臉案件或糾紛，相關(guān)采集機構(gòu)或人員就是這樣收集人臉數(shù)據(jù)進而轉(zhuǎn)賣進行牟利的。

2021年4月，安徽合肥警方打掉一個網(wǎng)絡(luò)犯罪團伙，偵查人員從犯罪嫌疑人電腦里發(fā)現(xiàn)了10G多公民人臉數(shù)據(jù)，分門別類存放在不同電子文件夾中，而人臉數(shù)據(jù)中的當(dāng)事人對此毫不知情。

法律人士提醒，防偷臉、防換臉不光是明星網(wǎng)紅的事，普通人更要增強這方面的意識，看護好自己的人臉信息。

“作為普通個人，應(yīng)當(dāng)保護好自己的生物信息，避免使用收集指紋、人臉識別等生物信息的公共設(shè)施設(shè)備。對于居民小區(qū)、寫字樓、經(jīng)營場所強制要求業(yè)主或進出人員使用人臉、指紋識別通行，而未給予其他選擇的，可向相關(guān)單位的監(jiān)管部門反映和舉報。”四川發(fā)現(xiàn)律師事務(wù)所律師黃鴻彬說。

黃鴻彬建議，個人在使用手機App或登錄網(wǎng)站時，應(yīng)仔細(xì)閱讀相關(guān)的告知書和風(fēng)險提示，如發(fā)現(xiàn)有泄露個人信息風(fēng)險時應(yīng)停止使用或者使用其他替代方式登錄。“試用任何一款新型軟件一定要認(rèn)真閱讀用戶協(xié)議，多留個心眼?！彼嵝丫用瘢绻l(fā)現(xiàn)自己的人臉信息被盜用，可通過提起民事訴訟要求盜用人停止侵權(quán)、賠禮道歉并賠償損失。如果發(fā)現(xiàn)盜用人可能存在大量收集個人信息的情況或者利用人臉信息實施其他犯罪時，可在第一時間向公安機關(guān)報案。

一些專業(yè)人士也建議，為防范被偷臉情況發(fā)生，有幾件事盡量不要做——一是不要在網(wǎng)上亂發(fā)帶有自己指紋信息的照片。不要在不可信的設(shè)備上錄入自己的指紋。用完指紋鎖或者手機后，把傳感器表面上擦一下，通過這個動作可把指紋圖像完全模糊化，讓其失去提取的價值。

二是對于一些要求上傳手持身份證照片或視頻的服務(wù)，應(yīng)保持警惕。

三是不下載、不使用來歷不明的應(yīng)用程序。避免使用陌生的無安全防護的Wi-Fi。

四是使用虹膜驗證身份的敏感人群，不要隨意上傳照片到網(wǎng)絡(luò)，也不要輕易接受他人拍攝照片的要求。

“家中有老人的，要做好宣傳防范工作。提醒老年人在接到電話、短信時，要放下電話，再次撥打家人電話確認(rèn)一下，不要貿(mào)然轉(zhuǎn)賬。尤其是對于不明平臺發(fā)來的廣告、中獎、交友等鏈接提高警惕，不要隨意填寫個人信息，上傳照片，以免被騙子‘精準(zhǔn)圍獵’?！睂＜艺f，生物信息是個人信息安全的最后一道防線，一定要守護好。即便有識別技術(shù)，也應(yīng)保持警惕心理，不以此技害人，也不被此技所害。




擰緊安全閥需要法律和技術(shù)雙管齊下
專家指出，深度偽造技術(shù)的濫用，確實給人們生活和社會穩(wěn)定帶來諸多問題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問題還有愈演愈烈的趨勢。但技術(shù)畢竟是中立的，也是不可遏制的潮流，大眾對此無須談之色變，而更應(yīng)審視技術(shù)背后的責(zé)任和意圖以及如何管控。

幾位技術(shù)研究人員告訴《方圓》記者，既然AI時代已經(jīng)到來，那大家應(yīng)該做好積極應(yīng)對，保證新技術(shù)被正當(dāng)使用，不能放任自流，任其異化，成為侵害他人合法權(quán)益和危害社會公共安全的工具。

“重要的是擰緊‘安全閥’，這就需要法律和技術(shù)雙管齊下——在法律層面，AI作惡必須有‘緊箍咒’管它；在技術(shù)層面，‘魔高一尺’還要有‘道高一丈’進行抗衡?！?br />
《方圓》記者看到，針對近年來AI換臉亂象不斷的情況，國家網(wǎng)信辦、各地網(wǎng)警、檢察機關(guān)、審判機關(guān)等相關(guān)部門協(xié)調(diào)配合，加大對涉及AI換臉違規(guī)違法現(xiàn)象的整治打擊力度，辦理了不少民事和刑事案件，出臺了多項政策法規(guī)加強治理，效果非常明顯。比如，檢察公益訴訟在涉人臉識別公民個人信息保護中已經(jīng)發(fā)揮了積極作用。

目前，我國刑法、民法典，以及國家有關(guān)部門出臺的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等多部法律法規(guī)及政策規(guī)定，均涉及深度合成應(yīng)用的規(guī)范、侵權(quán)責(zé)任等內(nèi)容。

尤其是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出具體規(guī)定，并對作為深度合成服務(wù)提供者的平臺方進行審核、評估、監(jiān)管等都提出了明確的要求。

“現(xiàn)在能想象到的AI換臉技術(shù)運用場景，都沒有逸出現(xiàn)行法律法規(guī)及行業(yè)規(guī)定約束范圍，一些機構(gòu)和人員一旦涉及違法，都能找到相應(yīng)領(lǐng)域的法律和制度規(guī)范予以打擊。所以，大眾對AI換臉技術(shù)不用過于擔(dān)心，只要增強防范意識就好。”一位律師說。

不過，在一些專業(yè)人士看來，目前對于深度合成服務(wù)與應(yīng)用方面的規(guī)范還需進一步細(xì)化和明確，要從法律和技術(shù)方面加以約束。

浙江墾丁律師事務(wù)所元宇宙法律研究部成員程念認(rèn)為，深度合成技術(shù)相關(guān)的一些概念界定、平臺責(zé)任邊界等問題的確定，在法律上面臨挑戰(zhàn)，需要加以明晰。

專業(yè)人員說，網(wǎng)絡(luò)平臺應(yīng)強化內(nèi)容審核，強制要求使用深度合成技術(shù)的內(nèi)容信息必須提供顯著標(biāo)識功能，對發(fā)布者故意將合成內(nèi)容偽造成真實信息等問題，第一時間封停賬號，并向監(jiān)管部門報告。

北京京師律師事務(wù)所律師王琮瑋認(rèn)為，對于利用AI技術(shù)進行的犯罪行為，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》所規(guī)范的只是提供符合市場需求的應(yīng)用技術(shù)，而對于這一技術(shù)被濫用甚至從事違法犯罪行為并不能起到限制或禁止作用，當(dāng)AI技術(shù)的使用上升到刑事法律層面，還需要刑法來調(diào)整。

北京瑞萊智慧科技有限公司專家唐家渝認(rèn)為，在AI技術(shù)合規(guī)性方面，目前還缺乏一套科學(xué)嚴(yán)謹(jǐn)?shù)臉?biāo)準(zhǔn)機制。未來應(yīng)引導(dǎo)學(xué)術(shù)界、產(chǎn)業(yè)界不斷加強技術(shù)研究，利用技術(shù)創(chuàng)新、技術(shù)對抗等方式，持續(xù)提升和迭代深度合成檢測能力，并擴展深度合成溯源、深度合成鑒定等方面的研究。

專家表示，深度偽造技術(shù)正在不斷演進，AI換臉泄露個人隱私給人們造成的困擾是互聯(lián)網(wǎng)技術(shù)發(fā)展過程中不可回避的問題。對于網(wǎng)絡(luò)新風(fēng)險的防控治理，騰訊安全專家石追認(rèn)為，數(shù)據(jù)安全風(fēng)險源復(fù)雜且動態(tài)，需要App開發(fā)者、應(yīng)用分發(fā)商、操作系統(tǒng)、終端廠商、SDK和API等多環(huán)節(jié)多場景多主體共力協(xié)同，行業(yè)自律與司法實踐相結(jié)合，才能發(fā)揮成效。

“尤其是行業(yè)和監(jiān)管部門應(yīng)當(dāng)加快技術(shù)升級，研發(fā)相應(yīng)的‘反換臉’檢測技術(shù)，加快建立人工智能算法的安全評估制度，解決相關(guān)技術(shù)濫用問題。監(jiān)管部門對于違法侵權(quán)視頻，要重點關(guān)注和監(jiān)測，對可能造成惡劣社會影響、危害國家安全和社會公共利益的換臉視頻，要嚴(yán)格監(jiān)管，對違法侵權(quán)行為重拳出擊?！敝袊鴤髅酱髮W(xué)教授王四新說。

（文中涉案人員均為化名。本文有刪減，更多內(nèi)容請關(guān)注《方圓》4月上期）

本文雜志原標(biāo)題：《AI換臉，不能想換就換        》


本文為《方圓》雜志原創(chuàng)稿件，轉(zhuǎn)載時請在醒目位置標(biāo)明作者，并注明來源：方圓（ID:fangyuanmagazine）。

登錄/注冊后可看大圖

編輯丨肖玲燕 王麗設(shè)計丨劉巖
記者丨郭洪平

點擊圖片
購買《方圓》雜志

登錄/注冊后可看大圖

登錄/注冊后可看大圖

登錄/注冊后可看大圖

好看的人都點了在看

-----------------------------