歡迎來中國可穿戴產業推進聯盟官方網站!
“AI換臉”被濫用 科技莫成“黑產”幫兇
新京報 | 來源:新京報 瀏覽次數:583 發布時間:2019年7月18日
摘要:

AI“換臉”技術被應用于色情視頻,本身就是對科技的侮辱,借此形成“黑色產業鏈”,造成的社會危害更是不可低估。

  AI“換臉”技術被應用于色情視頻,本身就是對科技的侮辱,借此形成“黑色產業鏈”,造成的社會危害更是不可低估。

  科技的發展推動了社會進步,同時也帶來很多風險和隱患。從前,很多人只知道運用軟件Photoshop(PS)能夠修改圖片,如今,AI(人工智能)直接將“修圖”技術進化成“換臉”。近日,新京報記者在調查時發現,互聯網上大量出現通過“AI換臉”實現的由知名女藝人“主演”的淫穢視頻,在百度貼吧、閑魚等主要網絡平臺均有出售。

  如果有人覺得,明星藝人被美化也好、丑化也罷,都不關自己的事,那就大錯而特錯了。因為,在現實中,“AI換臉”已經不僅僅是一門技術,一條依附于“AI換臉”的“黑色產業鏈”已經形成。據新京報記者的調查報道稱,有的商家不僅提供成品的視頻,還接受買家的訂制,只要買家提供20張照片,就可以搞出任何人的“小電影”?;褂械納碳搖笆諶艘雜妗?,售賣教學視頻供人學習,出示學生證還能打七折。

  互聯網不是法外之地?!癆I換臉”技術被應用于淫穢視頻,本身就是對科技的侮辱,借此形成“黑色產業鏈”,造成的社會危害更是不可低估。

  首先,“AI換臉”為淫穢視頻的傳播提供了新的興奮點,讓那些本來未必會接觸淫穢視頻的未成年人群體,因為“追星”情結而增加了“看一看”的興趣,最終誤入其中,難以自拔。

  其次,在“AI換臉”技術下,每個人都可能成為受害者。尤其是普通人,一旦被“AI換臉”成為“小電影”的主角,由于身邊人的鑒別能力較弱,大多數人在轉發信息時更注重內容的轟動性和刺激性,而非可靠性,就算是一個做工粗糙的視頻,也可能會在“以訛傳訛”中給無辜的當事人帶來極大的精神傷害。

  第三,“AI換臉”的應用場景不僅是色情視頻,還可能被用于電信詐騙。如果有人通過“換臉”向“被換臉者”的親友索要錢財,就算詐騙不成功,也可以造成損害當事人名譽的影響。

  第四,“AI換臉”技術具有一定的趣味性和挑戰性,會吸引更多人嘗試其訓練模型的樂趣,從接受者變成參與者。特別是青少年對新事物的接受能力強,計算機技術水平往往較高,其中一些法制觀念或道德意識較弱的人在“小試身手”后很容易踩過界,變成“黑色產業鏈”的一環。

  盡管“AI換臉”技術的主要危害在于使用者的濫用,但因“AI換臉”自帶“混淆人格”的功能屬性,因此,相關部門對“AI換臉”行為的法律限制和行為規范也應更具針對性。首先,公安部門、網絡監管者、網絡貼吧和電子商務平臺的經營者,都有義務清除違法售賣的包含“AI換臉”技術的違法色情視頻。對于面向公眾銷售的或代為制作換臉視頻的營利性行為,應堅決予以禁止。

  其次,讓“AI換臉”技術的愛好者意識到,不管是否使用“AI換臉”技術,在中國境內,凡是傳播具有性行為、性器官、裸體的圖像或視頻都是具有法律風險的,“換臉”技術并不能消除原始素材的違法性,將之作為“技術成果”與大家分享是有風險的。

  第三,制作者應防范自己的“換臉”視頻被人利用,用于各類欺詐和侵權活動。不要因為覺得“好玩”,就隨便幫人制作“爸爸媽媽我要錢啊”之類的視頻。

  第四,未經當事人授權的“換臉”行為,是對公民人格權和肖像權的侵犯。掌握“AI換臉”技術的人,應該對他人多懷尊重之意,不可輕易“戲之”,更不可沒有底線地將“換臉”技術用于非法牟利,否則難免會遭到法律的嚴懲。

聲明:如若轉載,請注明出處及文本鏈接.

聯系我們

中國電子商會 China electronics Chamber of Commerce
京ICP備13044805號
電話:010-68256762  E-mail:[email protected]
Copyright @2018 www.jgbsxu.com.cn All rights reserved
地址:北京市海淀區翠微中里15號樓