“點進直播間一看，‘迪麗熱巴’居然在直播賣貨。”近日，有網友點開直播間，卻發現正在賣貨的竟是當紅女星。然而再定睛一看，這些帶貨“明星”很快露出瞭馬腳——身穿中式服裝，正在賣力帶貨的“明星”們，其實隻是使用瞭AI實時換臉技術的普通主播。
AI實時換臉，正在直播間悄然出現。
迪麗熱巴、楊冪直播賣貨?假的!
“一開始隻是以為長得像，沒想到刷進去好幾個直播間都這樣，才發現是用瞭‘換臉’。”路垚(化名)向中新財經表示，近期她被推送的好幾個直播間，都采用瞭AI換臉明星的方式進行直播帶貨，而楊冪、迪麗熱巴、angelababy等當紅女星，成為瞭AI換臉的重點對象。
“向平臺投訴瞭也沒什麼用。”她說。
中新財經註意到，目前的AI實時換臉，在直播中已能達到以假亂真的地步，不少人點進直播間以後以為主播隻是長得像明星，不過也有一些直播間出現瞭人身比例失調的違和現象。有網友指出瞭其中一些破綻：“主播低頭整理頭發的時候，腦門上全是黑的。”
“現在普通人的臉已經不配直播瞭。”有網友如此感慨。
對於競爭火熱的直播間來說，“高顏值”是主播的重要資本之一，而使用“明星臉”直播，或許可以更好達到引流效果，並節省直播成本。此外，使用統一的“換臉”形象，也使直播間降低瞭主播走紅後“單飛”帶來的風險。
但不少網友也對“換臉”表示瞭反感：“發現是‘換臉’直播後，就失去瞭購買的欲望。”
AI實時換臉全套模型僅需3.5萬元
隨著AI技術的不斷進步，AI實時換臉已逐漸成熟。近年來，AI實時換臉已從最初的娛樂“整活”，向直播等多個應用場景發展。通過智能後臺的AI換臉技術，主播可以實現形象的實時替換。
有視頻換臉研究者表示，實時換臉不存在延遲，也不會有Bug，而直播畫面傳輸的延遲則取決於使用者的網絡配置和進行直播的平臺。
中新財經以使用者的身份咨詢瞭一傢提供“換臉軟件”的網站。該網站客服表示，使用AI換臉需要進行模型訓練。“合成效果好不好，關鍵看模型和素材。”
據提供“換臉軟件”的網站介紹，使用者自己從零開始訓練模型，如果24小時掛機不停的訓練模型，需要經過半個月到一個月的時間，才能達到可以合成視頻的效果。
而比起自己花費大量時間訓練模型，更多人選擇購買現成的模型。“素材充足的話，你隻要花費半個小時到幾個小時的時間就可以直接合成視頻。模型可以替換任意素材使用，不分張三李四。”
該網站客服稱，他們提供的全套模型購買價格為3.5萬元，AI實時換臉可適用於各大直播平臺。
換臉直播存在哪些侵權?
與此前因爭議沖上熱搜的“AI孫燕姿”一樣，AI換臉也存在侵權問題。
北京雲嘉律師事務所律師趙占領向中新財經表示，AI換臉主要涉及肖像權等問題。“如果說未經他人同意，用他人的肖像替換某一個主播的形象，這種情況下涉嫌侵犯肖像權;如果說還使用瞭他人的姓名，那還涉嫌侵犯姓名權。”
中新財經註意到，在一些提供換臉軟件的教程或網站上，提供者均提醒要警惕使用AI換臉進行詐騙或者侵權的行為。
那麼，在AI換臉直播中，平臺是否負有責任?
趙占領表示，平臺對於平臺內商傢的侵權行為不承擔直接侵權的責任，而是否構成幫助侵權，主要是看平臺對於商傢的侵權行為是否屬於明知或應知。
“一般情況下，平臺使用的是通知刪除規則，也就是說權利人向平臺發出侵權通知後，如果平臺對於被投訴的行為不處理，那麼平臺構成幫助侵權。但如果平臺處理瞭，那一般不承擔責任。”
但對於如何判定平臺對用戶、權利人的投訴是否明知或應知，趙占領也表示，在一般情況下很難認定。
日前，某短視頻平臺發佈《關於人工智能生成內容的平臺規范暨行業倡議》，提出應用生成式人工智能技術時，發佈者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。“禁止利用生成式人工智能技術創作、發佈侵權內容，包括但不限於肖像權、知識產權等。一經發現，平臺將嚴格處罰。”
發表評論 取消回复