之前聽說,AI換模換裝APP被下架的消息,謠傳是觸犯了法律,經(jīng)具體查證,發(fā)現(xiàn)不實,下架的是AI換臉換衣類的娛樂APP,在使用當(dāng)中,出現(xiàn)了侵犯其他人權(quán)利的事件。
具體來說,是Avatarify這款曾火爆全網(wǎng)的AI換臉軟件,在沖上蘋果App Store免費榜第一后,因可能涉及隱私安全等問題,于上架后不到一周的時間被悄然下架?12。同樣,另一款名為“ZAO”的AI換臉軟件也因侵犯版權(quán)、侵害隱私、危害數(shù)據(jù)安全等問題被下架處理?。此外,微信等平臺也針對利用AI仿冒知名人士進(jìn)行不當(dāng)營銷、惡意博取流量的違規(guī)行為開展了專項治理,并關(guān)閉了相關(guān)賬號?5。這些舉措表明,AI換臉變裝技術(shù)在使用上需要嚴(yán)格遵守法律法規(guī)和平臺規(guī)定,以確保用戶隱私和數(shù)據(jù)安全,以及維護(hù)良好的網(wǎng)絡(luò)環(huán)境。
就是AI換模在具體到臉部切換時,必須嚴(yán)格遵守相關(guān)法律法規(guī),不得未經(jīng)他人同意使用其肖像進(jìn)行換臉并公開傳播,否則可能構(gòu)成對肖像權(quán)的侵害?。例如,杭州互聯(lián)網(wǎng)法院就曾審理過一起因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件,最終判決App開發(fā)者賠禮道歉并賠償損失?。
此外,AI換模換裝還可能涉及著作權(quán)的侵權(quán)問題。如果擅自使用影視圖片或視頻進(jìn)行“AI換臉”,就屬于未經(jīng)著作權(quán)人授權(quán)和許可的行為,涉嫌侵犯著作權(quán)?。因此,在使用AI換模換裝技術(shù)時,應(yīng)確保所使用的素材已經(jīng)獲得了合法的授權(quán)。不得惡意丑化、污損或利用信息技術(shù)手段偽造他人肖像,也不得侵犯他人的名譽權(quán)。相關(guān)技術(shù)提供者應(yīng)加強對數(shù)據(jù)的保護(hù),防止敏感信息被不當(dāng)處理或泄露。
由于互聯(lián)網(wǎng)AI技術(shù)現(xiàn)在產(chǎn)生的圖像聲音幾乎到了以假亂真的地步,所以像AI換模換衣這類虛擬仿真技術(shù)一定要注意和現(xiàn)實世界的邊界感!各類平臺和技術(shù)開發(fā)者不能為追尋利益或者名望而不對已有世界的秩序保護(hù)。