Alexa
  • En
  • Directory of Taiwan

【移花接木】台灣網紅涉出售「換臉」謎片牟利•立委高嘉瑜、黃捷、雞排妹等逾百人受害 法務部將加重刑責

▲萬一發現自己或親朋好友成了Deepfake 受害者,請記得截圖、報警、求助 iWIN 協助移除影像3大步驟。▲法務部19日說,「換臉」牟利行為危害民眾權益鉅大,從破壞名譽、假冒身分、影響金融市場,到操縱民主選舉結果,將朝加重刑責方向修法予以嚴懲。▲犯嫌利用網路販售「換臉」製作的色情影片,遭移花接木的受害者超過百人,不法獲利高達新台幣上千萬元,全案18日依涉嫌散播猥褻物與妨害名譽等罪解送新北地檢署偵辦。

  24273

警方17日循線查獲換臉謎片幕後主嫌為知名YouTuber小玉(中),全案依法送辦。(翻攝照片)中央社

警方17日循線查獲換臉謎片幕後主嫌為知名YouTuber小玉(中),全案依法送辦。(翻攝照片)中央社

更新時間: 2021-10-19 19:30

首次發稿: 2021-10-18 18:00

【移花接木】台灣網紅涉出售「換臉」謎片牟利•立委高嘉瑜、黃捷、雞排妹等逾百人受害 法務部將加重刑責

圖/衛生福利部

(台灣英文新聞/社會組 綜合報導)網紅小玉疑涉AI(人工智慧)換臉造假影片,引發熱議。法務部今天(19日) 說,此類行為危害民眾權益鉅大,從破壞名譽、假冒身分、影響金融市場,到操縱民主選舉結果,將朝加重刑責方向修法予以嚴懲。

法務部官員指出,近日刑事警察局查獲「AI換臉」造假影片,此種Deepfake深度偽造影片透過網路流傳,讓假訊息散布,影響層面甚廣,從破壞個人名譽、恫嚇、假冒身分、詐欺、破壞商譽、影響金融市場,到操縱民主選舉結果,其破壞社會秩序、危害民眾權益鉅大,有鑑於此,將加速修法腳步,朝向加重刑責方向修法,以嚴懲不法。

官員提及,目前深度偽造影片在網路流傳的犯行,現行法可能涉及刑法的妨害風化、妨害名譽、恐嚇、詐欺、妨害信用、妨害農工商等罪及違反選舉罷免法、個人資料保護法、著作權法、兒童及少年性剝削防制條例等。

萬一天我的臉成了色情片主角

該怎麼辦?

AI 技術也會被拿來當成賺錢工具,只要肯付錢,就有人會把明星、網紅,甚至是你我等人變成色情片主角、衛福部官方臉書部官方臉書18日晚間po文指出:

我們不該討論受害人有無資格成為主角,因為任何人都可能是受害者,若是發生了,請千萬不要害怕求助,大家都會幫忙!私下調解反而容易被加害者進一步威脅。

要是發現自己或親朋好友成了Deepfake 受害者,請記得以下幾步驟:

截圖存證(文字、對話、日期時間、連結、影像等)

立刻報警尋求警方協助

求助 iWIN 協助移除影像

至 iWIN 申訴,由 iWIN 與平台溝通,協助移除影像!

https://i.win.org.tw/appeal.php?Target=1

iWIN 網安預言家 LINE 官方帳號

https://reurl.cc/vg0Aqo

衛福部提醒大家

千萬不要害怕求助,希望大家一起,

不持有、不轉傳、不上車!

願我們和身邊的人永遠不會成為受害者

若是發現身邊的親朋好友成為受害者時,

請分享相關資訊給他們並協助他們!

根據中央社,法務部已責成台灣高等檢察署督請所屬檢察機關視具體個案情節依法究辦外,並指揮警、調人員持續加強查緝,溯源深入追出製作及散播涉及刑責之深偽影片來源,全力遏阻此類犯罪行為。

官員也藉此呼籲民眾,對於深偽影片應多加辨識,勿再轉傳,更要以行動共同唾棄此種以低劣手段而破壞網路安全的行徑,若涉及刑責,執法機關一定會速查嚴辦。

更新時間: 2021-10-18 22:23

【移花接木】台灣網紅小玉涉販賣「換臉」謎片牟利•立委高嘉瑜、黃捷、雞排妹等逾百人受害 警方逮3嫌送辦

(台灣英文新聞/社會組 綜合報導)刑事局日前網路偵蒐發現,網路流傳多名網紅的性愛影片,經查為社群「台灣網紅挖面」利用換臉技術製成,以牟取不法獲利,昨(17日)循線查獲主嫌為知名網紅小玉,全案依法送辦。

【移花接木】台灣網紅涉出售「換臉」謎片牟利•立委高嘉瑜、黃捷、雞排妹等逾百人受害 法務部將加重刑責

知名網紅小玉涉嫌利用網路換臉技術,將知名人物頭像移花接木成性愛影片,不法所得逾新台幣上千萬元,刑事局18日召開破案記者會說明案情。中央社

警方偵辦發現,犯嫌利用網路販售換臉色情影片,遭換臉製作成色情影片的受害者超過百人,不法獲利高達新台幣上千萬元,全案依涉嫌散播猥褻物與妨害名譽等罪解送新北地檢署偵辦,刑事局下午並召開破案記者會對外說明。

記者會上,偵查第四大隊副大隊長柯志仁表示,警方日前執行網路情蒐時,發現數名網紅、藝人的性愛影片自去年(2020年)7月起於網路上流傳,但求證發現均非本人所拍攝。

警方進一步追查發現,上述影片是從社群軟體推特粉絲團「台灣網紅挖面」所流出,犯嫌透過人工智慧換臉 AI Deepfake技術,將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片AV女優身上,再後製成色情影片販售得利。

犯嫌先在推特上發送廣告招攬會員,有興趣者須先匯款支付400至1900元不等的費用,才能加入其通訊軟體Telegram群組會員,或是得到影片連結雲端網址,進而觀賞上述變臉謎片。

專案小組透過科技偵查發現,經營「台灣網紅挖面」的主嫌為26歲朱男,也就是知名百萬YouTuber小玉,其團隊還會在粉絲團的私密聊天室不時舉辦「票選」或「集資」活動,選出知名人物擔任性愛影片主角。

小玉涉嫌去年(2020年) 7月起利用網路換臉技術,將知名人物雞排妹、高嘉瑜等人頭像移花接木成性愛影片,百人受害,不法所得逾新台幣上千萬元,刑事局循線昨天逮3嫌送辦

警方初步估計,小玉等嫌至今年10月初不法獲利約1100萬元,招募會員逾8000人,且已知變臉影片受害者超過上百人,包括藝人鄭家純(雞排妹)、YouTuber奎丁和立委高嘉瑜都在內。

專案小組經長期偵蒐,見時機成熟於昨天(17日)持搜索票,到小玉位於新北市樹林區租屋處執行搜索行動,現場拘提小玉、22歲莊男和24歲耶女到案。

經送新北地檢署複訊後,檢方諭令網紅小玉50萬元交保、莊男10萬元交保,耶女請回。

不過根據《自由時報》18日晚間最新報導,新北地檢署複訊後於今日下午近5點諭令網紅小玉50萬交保,但他透過親友籌款快5小時,還是拿不出50萬元,檢方考量他財產及犯罪所得已被查扣,無法交付高額保釋金,因此改為30萬元交保

中央社指出,現場查扣現金458萬餘元、金融帳戶存簿13本、電腦2台、硬碟2顆、手機2支、百萬名車1輛等證物,並由法院裁定扣押不法金流共3筆。

經警方調查了解,主嫌小玉主要負責剪輯影片和回覆網友留言,共犯莊男負責找影片素材和整理,耶女則是處理金流。

網紅小玉到案供稱,起初只是在20多人朋友群組分享有趣的剪輯影片,但隨著人數增長,才轉而藉此牟利。

全案詢後,刑事局於今天將3嫌依涉散播猥褻物、妨害名譽等罪解送新北地檢署偵辦。

針對網紅「小玉」涉嫌利用換臉技術散布性愛影片。被害人之一的高雄市議員黃捷痛斥「變態網紅」,要為所有受害女性討回公道,對於惡意又下流的性犯罪者,一定要獲得應有的懲罰。

黃捷今天透過臉書直指「變態網紅小玉偷我的臉做A片!」她表示,先前接受鏡週刊專訪,發現有人用Deepfake技術,偷女性公眾人物的臉,再合成到A片上牟利,不法所得至少500萬元以上。

經刑事警察局布線追查,今天終於找到幕後首腦居然是擁有百萬訂閱戶的Yuotuber小玉,黃捷說,除了要求警政單位嚴加查辦外,也會走法律程序提告,為所有受害女性討回公道。

黃捷也藉此呼籲「無論是和我一樣被惡意合成,或私密影像遭外流,請讓我陪著妳勇敢,一起把狼抓出來,對於這款惡意又下流的性犯罪者,一定要獲得應有的懲罰!」

民進黨立委高嘉瑜也受害,她今天批評近期網路流傳「AI 換臉」色情試看片,是無法可管的性暴力,主張將「AI換臉」濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。

對此,高嘉瑜今天在臉書發文表示,這些在網路上未經同意而被換臉、製成色情片的受害者將近百人,規模驚人,除了知名網紅、藝人明星,也不乏女性政治人物,這樣的行為早已對女性的名譽造成不可抹滅的侵害。

高嘉瑜認為,未經本人同意而發布的AI換臉影片,其實就是一種變相散播假訊息的行為,但綜觀現行針對假訊息管制的法規中,卻僅針對災害、食品、傳染病等假訊息才有做特別規範,對於AI換臉造假的影片目前仍無法可管。

高嘉瑜表示,她未來將參考國際作法,致力於推動台灣AI換臉管制的相關法令,包括建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將AI換臉的濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。

在技術層面上,高嘉瑜說,可開發相關人工智慧工具進行因應,例如美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片的真偽。

【移花接木】台灣網紅小玉涉販賣「換臉」謎片牟利•立委高嘉瑜、黃捷、雞排妹等逾百人受害 警方逮3嫌送辦