AI換臉技術兩年前在國外出現時，就曾經被“用來換臉色情片女主角”。
2017年12月，在海外出現AI換臉技術時，這項名為“deepfakes”的技術，就曾被少數懂技術的人用來換臉色情片女主角。后來，隨著一款桌面應用程序FakeApp的出現，普通網民也能簡單制作換臉假視頻，互聯網上的假臉視頻開始廣泛流傳。這在海外早已引發爭議。
目前，國內市場上已經有“ZAO”和顏技App攻克了AI換臉技術，將換臉從專業化變成全民化，實現一鍵換臉。這又讓一些不法分子看到了賺錢的機會。
9月3日晚間，澎湃新聞記者在二手交易平臺閑魚App上發現，有多位賣家通過AI換臉技術制作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家提議在qq或者微信進行交易，并告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數量不同，大多數都是300張左右。此外，他還有視頻100部，里面包括30多位明星。“都是當紅的，有的明星多，有的少。”他說。
澎湃新聞記者詢問賣家能否試看，對方表示不能，并發來了部分資料庫截圖，文件名稱極其露骨。
另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網觀看任意資源”。
對此，澎湃新聞咨詢了閑魚相關人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來采取零容忍態度，從嚴從重處罰違規行為。同時，在平臺處理的基礎上，閑魚還將向執法機關舉報涉嫌發布違規信息的賬號，協助開展線下溯源打擊，追蹤背后的黑灰產團伙。
今年3月20日，閑魚在浙江省網信辦指導下，在互聯網行業內率先發起為期3個月專項治理行動，用最嚴厲手段打擊各類涉嫌違反公序良俗的違規信息。
閑魚相關人員表示，閑魚呼吁公眾發現違規現象時積極向平臺舉報，共同凈化網絡社會環境。
利用AI換臉技術傳播淫穢物品牟利罪
嚴重者可判無期徒刑
趙占領律師對澎湃新聞表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問題，第一個是肖像侵權。按照法律規定，以營利為目的未經授權使用他人肖像，那這屬于是侵犯他人肖像權。所以，將色情視頻換成明星的臉然后去銷售，毫無疑問是構成肖像侵權的。
“第二點，這種做法也侵犯了明星的名譽權，因為他這種做法會導致一些人可能誤認為這是明星本人所出演的這種色情電影。所以導致它的社會評價降低，因此這種行為也涉嫌構成名譽侵權。”趙占領說。
不僅如此，趙占領表示，這種行為既涉及到上述兩種民事侵權，同時還涉嫌構成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。“所以，一旦認定構成傳播淫穢物品牟利罪，這樣的一個刑事犯罪，那么他的這個犯罪嫌疑人的責任就重了。根據《刑法》第三百六十三條第一款之規定，犯本罪的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節嚴重的，處三年以上十年以下有期徒刑，并處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產。”
趙占領表示，“至于具體判刑情況，是跟它具體的行為，包括傳播范圍、傳播數量、金額等等有關系的。”