“AI換臉”被濫用 科技莫成“黑產”幫凶

AI“換臉”技術被應用於(yu) 色情視頻，本身就是對科技的侮辱，借此形成“黑色產(chan) 業(ye) 鏈”，造成的社會(hui) 危害更是不可低估。

科技的發展推動了社會(hui) 進步，同時也帶來很多風險和隱患。從(cong) 前，很多人隻知道運用軟件Photoshop（PS）能夠修改圖片，如今，AI（人工智能）直接將“修圖”技術進化成“換臉”。近日，新京報記者在調查時發現，互聯網上大量出現通過“AI換臉”實現的由知名女藝人“主演”的淫穢視頻，在百度貼吧、閑魚等主要網絡平台均有出售。

如果有人覺得，明星藝人被美化也好、醜(chou) 化也罷，都不關(guan) 自己的事，那就大錯而特錯了。因為(wei) ，在現實中，“AI換臉”已經不僅(jin) 僅(jin) 是一門技術，一條依附於(yu) “AI換臉”的“黑色產(chan) 業(ye) 鏈”已經形成。據新京報記者的調查報道稱，有的商家不僅(jin) 提供成品的視頻，還接受買(mai) 家的訂製，隻要買(mai) 家提供20張照片，就可以搞出任何人的“小電影”。還有的商家“授人以漁”，售賣教學視頻供人學習(xi) ，出示學生證還能打七折。

互聯網不是法外之地。“AI換臉”技術被應用於(yu) 淫穢視頻，本身就是對科技的侮辱，借此形成“黑色產(chan) 業(ye) 鏈”，造成的社會(hui) 危害更是不可低估。

首先，“AI換臉”為(wei) 淫穢視頻的傳(chuan) 播提供了新的興(xing) 奮點，讓那些本來未必會(hui) 接觸淫穢視頻的未成年人群體(ti) ，因為(wei) “追星”情結而增加了“看一看”的興(xing) 趣，最終誤入其中，難以自拔。

其次，在“AI換臉”技術下，每個(ge) 人都可能成為(wei) 受害者。尤其是普通人，一旦被“AI換臉”成為(wei) “小電影”的主角，由於(yu) 身邊人的鑒別能力較弱，大多數人在轉發信息時更注重內(nei) 容的轟動性和刺激性，而非可靠性，就算是一個(ge) 做工粗糙的視頻，也可能會(hui) 在“以訛傳(chuan) 訛”中給無辜的當事人帶來極大的精神傷(shang) 害。

第三，“AI換臉”的應用場景不僅(jin) 是色情視頻，還可能被用於(yu) 電信詐騙。如果有人通過“換臉”向“被換臉者”的親(qin) 友索要錢財，就算詐騙不成功，也可以造成損害當事人名譽的影響。

第四，“AI換臉”技術具有一定的趣味性和挑戰性，會(hui) 吸引更多人嚐試其訓練模型的樂(le) 趣，從(cong) 接受者變成參與(yu) 者。特別是青少年對新事物的接受能力強，計算機技術水平往往較高，其中一些法製觀念或道德意識較弱的人在“小試身手”後很容易踩過界，變成“黑色產(chan) 業(ye) 鏈”的一環。

盡管“AI換臉”技術的主要危害在於(yu) 使用者的濫用，但因“AI換臉”自帶“混淆人格”的功能屬性，因此，相關(guan) 部門對“AI換臉”行為(wei) 的法律限製和行為(wei) 規範也應更具針對性。

首先，公安部門、網絡監管者、網絡貼吧和電子商務平台的經營者，都有義(yi) 務清除違法售賣的包含“AI換臉”技術的違法色情視頻。對於(yu) 麵向公眾(zhong) 銷售的或代為(wei) 製作換臉視頻的營利性行為(wei) ，應堅決(jue) 予以禁止。

其次，讓“AI換臉”技術的愛好者意識到，不管是否使用“AI換臉”技術，在中國境內(nei) ，凡是傳(chuan) 播具有性行為(wei) 、性器官、裸體(ti) 的圖像或視頻都是具有法律風險的，“換臉”技術並不能消除原始素材的違法性，將之作為(wei) “技術成果”與(yu) 大家分享是有風險的。

第三，製作者應防範自己的“換臉”視頻被人利用，用於(yu) 各類欺詐和侵權活動。不要因為(wei) 覺得“好玩”，就隨便幫人製作“爸爸媽媽我要錢啊”之類的視頻。

第四，未經當事人授權的“換臉”行為(wei) ，是對公民人格權和肖像權的侵犯。掌握“AI換臉”技術的人，應該對他人多懷尊重之意，不可輕易“戲之”，更不可沒有底線地將“換臉”技術用於(yu) 非法牟利，否則難免會(hui) 遭到法律的嚴(yan) 懲。