Alexa
  • En
  • Directory of Taiwan

【Deepfake深度偽造】換臉APP主打秒製不雅片 專家憂門檻低恐致數位暴力盛行

儘管深度偽造問題氾濫,數位龍頭蘋果、谷歌並未予以足夠重視。

  1643
深度偽造(Deepfake)技術成熟,無需門檻,已成性別數位暴力工具。(圖/Pexels)

深度偽造(Deepfake)技術成熟,無需門檻,已成性別數位暴力工具。(圖/Pexels)

(台灣英文新聞/ 張雅鈞 綜合外電報導)今年10月,台灣百萬訂閱Youtuber利用「深度偽造」(DeepFake)技術,製作換臉不雅影片牟利,震驚社會,也讓深度偽造技術的議題進公眾視線。外媒指出,換臉影片技術成熟,不需技術即可操作,憂心未來恐犯罪成災。

路透社13日一篇深度報導揭露,一個以換臉影片為主打應用程式,不僅聲稱可以與名人換臉,製造好友、同事、老闆的跳舞影片,甚至在多個色情網頁以「一秒製作Deepfake色情片」,「偽造任何人」作為其廣告宣傳。

智慧手機在手,深度偽造隨便有

報導指出,深度偽造這項發展迄今僅4年的技術,正處於一個關鍵時刻。專家指出,該項技術已臻成熟到一般觀眾難以區分的程度,且門檻低,不需專業技能,只要有只會手機便可運用。

致力於遏止深度偽造技術被濫用的網路安全公司endtab創辦人、律師道奇(Adam Dodge)表示,一但門檻低到毫不費力,不成熟的人便可以製作出相當複雜、且未經許可的深度偽造不雅影片,「這就是轉捩點,這就是陷入困境的開始。」

隨著潘朵拉的盒子被打開,許多倡議者、研究人員以及軟體開發商表示,關鍵在於確保獲得「被模擬者的同意」,而執行遠比說來得難。考慮到濫用的風險,有人主張在合成色情影像上,應採取更嚴厲的管控。

換臉科技盛行,助長性別數位暴力

據監測合成媒體公司Sensity於2019年發布的報告,該報告對網路上逾1萬4000部採用深度偽造技術的影片進行抽樣調查,發現未同意者高達96%,該報告還指出,深度偽造的影片數量約每6個月就會翻一倍。

長期研究Deepfake的專家艾德(Henry Ajder)表示,現今深度偽照影片造成的傷害絕大多數為性別數位暴力,而全世界有數百萬婦女成為受害目標。因此他強調,「一個應用程式是否明確作為色情工具來行銷,存在『很大區別』。」

廣告商利益導向,不知輕重

而為「一秒製作深度偽造色情片」應用程式投放廣告的ExoClick表示,不熟悉該項AI換臉軟體。他聲稱已經暫停該應用的廣告投放,並不會以「不負責任」的方式推廣換臉技術。

ExoClick廣告合規官麥當勞(Bryan McDonald)表示,AI換臉軟體是相當新的產品類型,但他也說,「經過對行銷材料的審查,認為其措辭是不可接受的。我們確信該類應用程式絕大多數用戶出於『娛樂目的』而使用,無不良意圖,『但我們進一步承認可能被惡意使用』。」

軟體供應商輕縱,無把關意識

報導也指出,蘋果Apple Store與谷歌 Google Play 關於該應用程式的描述中,沒有提及可能被用於色情目的,但凡12歲以上的用戶都可以下載使用。

蘋果坦承,對於深層偽造技術的應用程式沒有任何具體規定,但有廣泛性的方針來禁止應用程式包含誹謗性、歧視性或可能羞辱、恐嚇或傷害任何人的內容。

蘋果表示,禁止應用程式開發者在Apple Store 內外以誤導方式推銷產品,且該公司正與應用程式開發方合作,以確保準則被遵行。

谷歌則尚未對此作出評論,但在路透社與之聯繫後,關閉該應用程式在Google Play 的下載頁面。兩週後頁面恢復,由原本的面向所有人的「E級」變為適合13歲以上、可能包含暴力內容與性暗示主題的、面向青少年的「T級」。

更新時間 : 2022-07-06 20:47 GMT+08:00