Deepfake問題超多
Deepfake是由「深度學習」（deep learning）和「偽造」（fake）兩個詞組合而成的技術名詞。《華爾街日報》指出，深偽出現於2014年，一種開源演算法能生成極度逼真的影像，讓不存在的人、事、物看起來就跟真的一樣。這項發明引發強大影像合成軟體的研究熱潮，卻也因濫用衍生新問題，例如在未經同意下，將女性臉部嫁接到色情影片內。
AI合成技術飛快進步，換臉一鍵生成
由人工智慧（AI）驅動的合成技術持續進步，這些都被廣泛歸類為生成式AI（Generative AI），快速發展部分來自在商業與娛樂領域中的實用性日漸提升。
Genealogy site MyHeritage has put out a tool called 'Deep Nostalgia' to animate movements on faces in photographs. The app uses a kind of AI technology called 'deepfake' to create hyper-realistic movements on still images pic.twitter.com/BHk0T7DBla
像Reface這類換臉應用程式，或TikTok、Snapchat這類社群平台上為自拍加上狗耳朵等特效，都是使用生成式演算法的變體來達成效果。2021年一部關於已故名廚安東尼波登（Anthony Bourdain）的紀錄片，使用深偽技術重建他的聲音，「說出」他曾寫過但未曾親口講出的文字。2024年AI變臉工具Deep-Live-Cam爆紅，因為僅用一張照片能「一鍵」讓即時直播中的主人翁「換臉」。
然而，生成式AI技術被濫用來製造深偽內容的擔憂與日俱增。例如可空前容易製造出政治人物「似乎講過任何話」的影片，這類內容會造成混亂，尤其是在選舉或戰爭期間；此外，為訓練ChatGPT、Lensa等新一代AI軟體使用的海量資料與圖片，也牽扯著作權與隱私等問題。
【延伸閱讀】惡名昭彰的deepfakes換臉技術，居然幫候選人圈住千萬選民的心！怎麼做到的？
AI換臉別亂試，太多女性政要受害
法新社指出，有些照片應用程式（App）可褪去影像中的女性衣物，隨著廉價AI工具激增，網路上出現大量未經同意的深偽影像，管不勝管。研究人員指出，私密影像常被用來玷汙女性在公共領域的名聲、破壞她們的職業生涯和大眾信任，並製造勒索或騷擾的契機，這已威脅女性參與公眾，嚴重者恐進一步威脅國家安全。
專門研究假資訊的「美國陽光計畫」（American Sunlight Project）在色情網站發現逾3萬5,000個涉及26名國會議員的深偽事例，其中25人是女性。2024年12月公布的研究結果顯示，美國國會有近六分之一女議員曾因這類AI生成影像而受害。
計畫執行長楊科維茨（Nina Jankowicz）說：「女性議員正以驚人速度淪為AI生成深偽色情影像受害者……這不只是技術問題，而是直接侵害領導階層中的女性和民主本身。」
在義大利，女性總理梅洛尼（Giorgia Meloni）就向兩名男子索賠10萬歐元（約新台幣366萬元），他們被控製造梅洛尼的深偽影片，並上傳到美國色情網站；在巴基斯坦，法新社事實查核人員發現一支深偽影片，內容是女議員瑪吉德（Meena Majeed）公開擁抱一位男性部長，這在保守的穆斯林國家會被視為不道德行為。
各國到底管不管？
目前，全球對深偽色情影像的法規明顯不足。已出現受害者的巴基斯坦尚未針對此類內容制定法律；英國雖禁止散布深偽色情，但對創作的禁令仍無明確時間表；在美國，僅加州和佛州等少數州立法規範。
The British government said it will bring into effect a new law criminalizing the creation of sexually intimate deepfake images by the Grok AI chatbot on X, owned by Elon Musk https://t.co/ApWfsspeZI pic.twitter.com/plXazXJlWt
歐盟2024年生效的《AI法案》（AI Act）要求高度寫實的AI生成內容須註明為AI生成等警語。但在美國，相關法律複雜且零散，主要是即使合法使用生成式AI，也會牽扯著作權與揭露義務等棘手問題。
在中國，中共中央網絡安全和信息化委員會辦公室自2023年針對包括AI生成影像、聲音及文字生成軟體等「深度合成」技術執行管理。相關規範包括禁止使用AI生成內容散布「假新聞」或被認定屬破壞經濟或國家安全的資訊，定義相當廣泛，使當局在詮釋上擁有高度裁量權。規範要求深度合成技術提供者――企業、研究機構與個人，必須在可能被誤認為真實的圖片、影片與文字上明確標示是AI生成或編輯內容。
辨識深偽技術要來了！
新創公司Reality Defender在2024年宣布，開發出能辨別由Deepfake生成的高度偽造影像，幫助受害者。業者使用一些Github代碼、外掛軟體和照片合成富豪馬斯克（Elon Musk）的偽造圖像，並假冒通話。通話期間一些靜態影像被傳輸到Reality Defender開發的自定義模型加以分析後，螢幕上跳出通知提醒用戶，對方是「深偽」而非真人。目前這套軟體還在測試。
Reality Defender, a startup focused on AI detection, has developed a tool to verify human participants in video calls and catch fraudsters using AI deepfakes for scams. https://t.co/i2O3t4ojaC