前一陣火爆全網(wǎng)的AI換臉還記得嗎？但有人卻未經(jīng)同意定制“AI換臉”視頻，還賣教程進行非法牟利，如今這一行為也迎來法院宣判。

8月23日，杭州互聯(lián)網(wǎng)法院發(fā)布消息稱，近日，杭州互聯(lián)網(wǎng)法院組成七人合議庭，對公益訴訟起訴人杭州市蕭山區(qū)人民檢察院訴虞某個人信息保護民事公益訴訟案公開開庭審理，判令被告虞某刪除非法獲取的個人信息，公開賠禮道歉、消除影響并賠償損失共60000元。

被告虞某服從法院判決，現(xiàn)已履行道歉、賠償義務(wù)等民事責(zé)任。賠償金額將專門用于個人信息保護、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等公益事項。

(資料圖片僅供參考)

據(jù)了解，2021年左右開始，虞某使用換臉軟件（技術(shù)）深度合成偽造視頻和圖片，未經(jīng)相關(guān)信息主體同意，大量搜集、提取、替換、合成、存儲他人人臉敏感信息等個人信息，并將深度合成偽造視頻、圖片發(fā)布于2000多人的多個社交軟件群組中，同時，其為他人提供不特定主體的人臉替換定制服務(wù)，并為牟利對外銷售換臉軟件、傳授換臉技術(shù)教程，獲得非法利益數(shù)萬余元。

而上述行為已構(gòu)成對個人信息權(quán)益的侵害。杭州互聯(lián)網(wǎng)法院經(jīng)審理認為，人臉信息屬于敏感個人信息中至為重要的生物識別信息，關(guān)系到每個個體的人格尊嚴、人身安全和財產(chǎn)安全。人臉信息的濫用牽涉到不特定社會群體的公共利益。

虞某將合成偽造的視頻、圖片在人數(shù)眾多的網(wǎng)絡(luò)群組中發(fā)布，傳播可能性高、影響范圍大，使得潛在的社會不特定群體可能成為受侵害的對象，更可能導(dǎo)致公眾形成“眼見不為實”的心理預(yù)期，破壞互聯(lián)網(wǎng)數(shù)字世界中社會共同體的信任。法院認定虞某對于人臉深度合成技術(shù)的濫用行為，損害了社會公共利益，判決其承擔(dān)停止侵害、賠償損失、賠禮道歉的民事責(zé)任。

北京商報記者了解到，“AI換臉”背后采用的是深度合成技術(shù)，利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用，有較大的技術(shù)價值和商用潛力，不過也存在著一定的安全隱患，“雙刃劍”效應(yīng)明顯。

除了侵犯個人信息權(quán)益外，今年來利用AI技術(shù)實施的新型電信詐騙模式，也已呈現(xiàn)高發(fā)態(tài)勢，就在前一陣，“AI詐騙成功率接近100%”“科技公司老板10分鐘被騙430萬元”等話題接連登上熱搜，也引發(fā)了用戶對于新型技術(shù)應(yīng)用的討論。

易觀分析金融行業(yè)高級咨詢顧問蘇筱芮表示，目前市場上個人未經(jīng)同意定制“AI換臉”視頻，涉嫌對他人肖像權(quán)的侵犯。法院判定對目前AI技術(shù)在換臉行為中的濫用構(gòu)成了警示作用，除此之外，目前市場上在個人信息領(lǐng)域中還有“一鍵脫衣”等技術(shù)對女性肖像構(gòu)成侵害。在她看來，后續(xù)對于此類行為，一方面需要從源頭規(guī)范此類提供AI技術(shù)的軟件、小程序，對于非法使用AI技術(shù)的App應(yīng)用、小程序等及時下架，另一方面也要加大對此類法律案件的宣傳力度，通過樹立一批大案、要案等震懾市場。

另外，中國互聯(lián)網(wǎng)協(xié)會5月也發(fā)文稱，伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強防范。

杭州互聯(lián)網(wǎng)法院也稱，技術(shù)的運用是把雙刃劍，用之為善可以造福社會，不當(dāng)濫用則會造成社會風(fēng)險和損害。對于換臉軟件等深度合成技術(shù)應(yīng)用的規(guī)制應(yīng)當(dāng)從其參與者入手，包括發(fā)明者、應(yīng)用者、傳播者等方面，以規(guī)制深度合成技術(shù)使用目的為路徑，實現(xiàn)深度合成技術(shù)的合理使用，避免該技術(shù)對個人、社會、國家造成諸多方面的風(fēng)險。同時，也需要引導(dǎo)技術(shù)開發(fā)、應(yīng)用者自覺遵守法律規(guī)定和科技倫理道德，培育積極健康、向上向善的研發(fā)、應(yīng)用環(huán)境，保護和鼓勵新興智能技術(shù)的有益探索。

（文章來源：北京商報）