近年來，“AI換臉”走紅網(wǎng)絡，一些“AI換臉”的App使用明星的圖片制作換臉視頻進行推廣，其趣味性背后暗藏不少法律風險和侵權糾紛。

(資料圖片)

4月7日，浙江杭州蕭山區(qū)檢察院曝光的一個“女神群”，引發(fā)關注——

據(jù)了解，“AI換臉”技術的走紅，讓80后安徽小伙虞某嗅到了商機。他想到在網(wǎng)上推廣該項技術及相關的軟件，并從中獲利。

但一段時間過去，虞某卻始終沒有獲得什么關注度。偶然的一次機會，虞某看到有些人會在群里發(fā)布一些淫穢信息來吸引他人關注，就也動起了歪腦筋。

此前報道：男網(wǎng)紅AI換臉熱吻女星引爭議

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入。當觀看者達到一定人數(shù)后，虞某會發(fā)布群消息稱，繳納198元-498元不等的“會費”，進入“內部群”可以收看完整版。

除此之外，虞某表示，“內部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進行“私人定制”。也有不少人因為看了這些視頻后對換臉技術產(chǎn)生了興趣，向其咨詢如何購買換臉軟件。

一面通過“吸粉引流”，收取會費；一面又通過出售“換臉軟件”，頻頻獲利。虞某短短幾個月的時間里就收獲了數(shù)萬元。截至案發(fā)，公安機關共在虞某所組建的公開群內查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對虞某提起公訴。案件目前正在法院審理中。

AI時代如何保護我們的“臉”？

近日，多起AI換臉或AI換裝的爭議事件引起網(wǎng)友討論。

對此，蕭山檢察官提醒，“AI換臉技術”即便只是用來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權、名譽權，造成嚴重后果的，還可能構成侮辱罪或者誹謗罪。希望大家依法使用該項技術，一旦遇到類似本案中利用“AI換臉技術”實施犯罪行為的，應第一時間固定證據(jù)，并及時向司法機關報案。

澎湃新聞也曾發(fā)文表示，互聯(lián)網(wǎng)技術提供了異常多元、新奇的產(chǎn)品體驗，用戶當然也有網(wǎng)絡玩梗的剛需，但安全風險問題也隨著互聯(lián)網(wǎng)介入生活程度的加深而不斷凸顯。當一項新技術橫空出世之際，背后的漏洞風險也應當審慎評估，相關的規(guī)定應該適時跟上，努力縮短從野蠻生長到規(guī)范發(fā)展的時間差。

中國青年報（ID：zqbcyol 整理：陳垠杉）綜合：蕭山檢察、中青報此前報道、澎湃新聞

中國青年報·中國青年網(wǎng) 出品