深偽技術(Deepfake)的普及化 — 歡迎來到「眼見不能為憑」的時代

https://miro.medium.com/max/600/0*wtVnSZGeEDvjfCso

Original Source Here

什麼是Deepfake

Deepfake 可以說是下一代的影音詐騙,透過人工智慧的技術操作,仿造影音素材,做出惟妙惟肖的假影片。

網路上常見的深偽技術,如「換臉」,又或是控制嘴唇的移動,搭配幾可換真的音檔,讓你說出你沒有說過的話,甚至可以用電腦合成,讓你的身體做出你沒有做過的動作。

近年來,深度學習已經廣泛應用,像是前陣子傳出資安危機的「去演」app,可以把你的臉合成大明星,或是讓你的照片變老、變年輕、換性別的「faceapp」其實都是一種深偽技術。

Deepfake 會對社會造成什麼影響

Deepfake 等包含人臉的假視頻的快速生成,也許可以產生一些有趣的應用,但不肖份子利用這個技術,也可以對社會造成很多傷害。根據一份位於阿姆斯特丹的全球第ㄧ家視覺威脅情報公司Sensity的報告顯示,從2017年Deepfake 影片開始流行,到2019年普及化,大概有超過14678個線上影片,而其中96%都跟線上色情內容有關。

如前幾年,一上線就火紅的「一鍵脫衣」應用DeepNude,只要按下一個鍵,就可以讓照片上的你瞬間在螢幕上全身赤裸,而這些虛假的圖片,非常容易就淪為有心人士騷擾、勒索的手段。

Deepfake 核心技術

以 Deepfake 技術為核心的軟體,其背後都是生成式對抗網路 GAN (Generative Adversarial Network ) ,透過生成器與鑑別器之間的相互識別挑戰來製造逼真的虛假圖像、影片或語音。

DeepNude的作者就是對於這個核心技術相當感興趣,甚至在DeepNude下架後,還在GitHub上設置了開源DeepNude的資料庫,強調技術和資訊的傳播應該是自由的,而通過下架及刪除連結的方法,充其量不過是以設置「人為障礙」的方式來提升安全性。

Deepfake 道德爭議

Deepfake 和電腦視覺、人工智慧領域的研究脫不了關係,而前陣子這個領域YOLO演算法(這是自動駕駛、人臉識別領域相當常用的目標檢測演算法,可以判斷出影像中的目標標的,確定其大小位置) 的發明者Joseph Remon ,甚至因為道德考量,宣布退出電腦視覺領域的相關研究,引起軒然大波。

Deepfake 是資安的頭號敵手,這時候,透過AI去識別人事物真偽的需求,就相對增加。AuthMe 的數位身分驗證及查驗技術,及詐欺偵測引擎,都能幫助企業或是個人,在虛實難辨的網路世界中,拉起一道防護的安全網。

AI/ML

Trending AI/ML Article Identified & Digested via Granola by Ramsey Elbasheer; a Machine-Driven RSS Bot

%d bloggers like this: