就讀賓州大學（University of Pennsylvania）21歲的烏克蘭籍學生 Olga Loiek 發現自己的身份遭盜用，於中國社群媒體上化身為俄羅斯人，還不時發表挺俄言論與兜售俄製產品，這案件點出了生成式 AI 使用的問題。

據路透社報導， Loiek 2023年11月開創新的 YouTube 頻道後，她的影片遭人搜集，透過生成式 AI 在中國群媒體創造一個又一個冒牌貨。其中一個是中文流利自稱是「俄國人」的 Natasha ，Natasha 聲稱頻道為了感謝中國對俄國的支持，同時順便販賣俄羅斯製品來賺一點小錢。更離譜的是， Loiek 的冒牌貨們在中國有數以千計的追隨者，比本人的追隨者還要多。 Loiek 告訴路透社，這個帳號用著她的臉孔，在莫斯科或克林姆林宮的背景前讚頌俄羅斯與中國有偉大，而且嘴巴裡說的還是她根本不會說的話，整件事讓她感到十分詭異。

中國社群媒體上出現愈來愈多疑似是俄羅斯人的女性，操著流利的中文來表達對中國的愛慕，同時聲稱要透過販賣俄羅斯製品，來支持俄羅斯在烏克蘭的戰事。專家表示，這類帳號沒有一個是真人，通常是在本人不知情下，以他們的影片透過生成式 AI 來創造的虛擬化身。這一些虛擬化身，時常兜售商品給單身中國男性。使用 Loiek 肖像的中國社群媒體帳號，有數以千計追隨者，包括糖果在內，銷售了數萬美元的商品。也有些貼文還放了警語，警告貼文可能有部分內容是 AI 生成。

中國魔琺科技執行長柴金祥研發了類似的 AI 生成科技，但並沒有參與造成 Loiek 面臨的困境。柴金祥表示，製造虛擬化身的科技十分普遍，很多中國人都會使用。他補充，創造他本人的 2D 虛擬化身十分容易，只需要拍一部30分鐘長的影片，之後再將影片置入生成式 AI 即可。影片看起來栩栩如生，如果影片的語言更改過，只要將新的語言與虛擬化身對口型即可。

AI 是目前最熱門議題之一， Loiek 的故事則彰顯了，當強大的生成式 AI 工具在世界各地普及以後，會隨之而來的違法與不道德使用的問題。在 ChatGPT 等生成式 AI 的流行下，最近幾個月對於 AI 被用於散佈假消息，或散佈有智慧財產權內容等問題的疑慮隨之高漲。在今年1月，中國工信部就《國家人工智慧產業綜合標準化體系建設指南》公開徵求意見，預計要2026年前創辦超過50個全國或是業界標準。歐盟的《人工智慧法》（AI Act）這個月開始生效，對高風險的 AI 系統加上高度透明的義務，有望成為世界管制 AI 使用的標準。

北京大學法學院副教授戴昕表示，目前法律還在追趕 AI 領域的發展，隨著每一分鐘消逝，更強大的製造與散播資訊工具不斷冒出。他認為，如今最大的問題是資訊的生成量實在太大了，不只是中國如此，總觀網路而言，每一個地方生成的資訊量都太多了。