我用“AI換臉技術(shù)”合成淫穢視頻，收費供他人觀看，甚至根據(jù)顧客的需要使用不同的女明星形象進行“私人定制”。

4月9日，據(jù)杭州市人民檢察院消息，80后安徽男子虞某因涉嫌制作、傳播淫穢物品牟利罪被提起公訴。

虞某稱，早在2020年“AI換臉”剛剛開始興起的時候，他就對該項技術(shù)產(chǎn)生了興趣，甚至還專門在網(wǎng)上購買了換臉軟件的教程并通過自學掌握了這門技術(shù)。

“換臉”剪輯開始有熱度后，他想到了在網(wǎng)上推廣該項技術(shù)及相關(guān)的軟件并從中獲利，于是虞某在國外的社交平臺上注冊賬號并建公開群，通過在其他公開群打廣告、發(fā)鏈接等方式，吸引更多對“AI換臉”技術(shù)感興趣的人到他本人所建的群里來。

但一段時間過去了，虞某的公開群卻始終沒有什么關(guān)注度。偶然的一次機會，虞某在該國外平臺上看到有些人會在群里發(fā)布一些淫穢信息來吸引他人關(guān)注，就也動起了歪腦筋。

虞某先是將原本“換臉軟件資源群”的群名更改為“女神試看群”，后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入，當觀看者達到一定人數(shù)后，虞某會發(fā)布群消息稱，進入“內(nèi)部群”可以收看完整版。

虞某稱，他會在“內(nèi)部群”里放一些清晰度更高、時長更長的淫穢視頻，而觀看者想要進入“內(nèi)部群”則要繳納198元-498元不等的“會費”。

除此之外，虞某表示，“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進行“私人定制”。

也有不少人因為看了這些視頻后對換臉技術(shù)產(chǎn)生了興趣，向其咨詢?nèi)绾钨徺I換臉軟件。

一面通過“吸粉引流”，收取會費；一面又通過出售“換臉軟件”，頻頻獲利。

虞某原本毫無起色的“生意”一下子打開了局面，短短幾個月的時間里就收獲了數(shù)萬元。

截至案發(fā)，公安機關(guān)共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對虞某提起公訴。

案件目前正在法院審理中。

檢察官提醒：近年來，“AI換臉技術(shù)”頻頻被一些犯罪分子盯上，隨之而來的犯罪手段也是花樣百出、層出不窮。

除了女明星外，部分不法分子還將“AI換臉技術(shù)”使用在普通人身上，由此制造一些所謂的遭泄露的“私密照片”，對當事人實施敲詐勒索。

即便只是用“AI換臉技術(shù)”來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽權(quán)，造成嚴重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。

這不是開玩笑！希望大家依法使用該項技術(shù)，一旦遇到類似本案中利用AI技術(shù)實施犯罪行為的，應(yīng)第一時間固定證據(jù)，并及時向司法機關(guān)報案。

來源：北京青年報