AI 生成臉孔能以假亂真!除了趣味性,還帶來哪些隱憂?

0
2456
圖片來源:Generated Photo

當大家將目光放在防範 DeepFake 產生的假造政治人物說話影片,或是影劇明星被移花接木的 A 片,有個悄悄潛伏且更難以防範的危機。當交友網站需要女性、廣告文案想呈現多元族群的形象、情報員想要靠近目標獲取情報時,他們可能不再尋求模特兒,而是採用 AI 生成不同類型的人臉,不但便宜而且想要什麼類型都能滿足。

不少人習慣在交友網站的檔案中,顯示藝術照形式的個人照片,也不能怪業者找來模特兒假冒平台上的女性。在技術進步之下,可能連找模特兒拍照都省了,只要使用 AI 就可以輕易產生以假亂真的檔案照。在被不實訊息轟炸的今日,恐怕要花不少精力辨別何者是真、何者是假。

目前 AI 的技術,可以輕易製作出人類的影像,而且難以辨別真假,不論是開源的軟體,例如 Nvidia 的 SytleGAN,還是兜售技術的新創公司,都有產生真人影像的實力。如果交友網站只是基於宣傳目的,在宣傳品當中加上不同族裔的真人影像,那還是小事。最怕的是被詐騙集團拿來運用

AI 專家警告 AI 生成真人影像的技術,若落入詐騙集團手裡,製造出來的機器人帳號可能成為短期敲詐個人金錢的工具。若被間諜或是資訊戰操作者利用,搭配適當的檔案故事,就能輕易建立擁有可信度的假帳號,進而在社群網站興風作浪、傳遞不實資訊。情報員依靠這個技術,便能操縱的美女帳號,套取華盛頓特區的政治情報。

加州大學洛杉磯分校法學院專長為 AI、法律和政策研究的研究者 Elana Zeide 就認為,科技進步之下,一般人比較沒有辨識網路資訊的權利和知識,相比真實世界容易辨識真假,面對網路上真假難辨的資訊往往束手無策。

Icons8 網站 Generated Photo 提供相當擬真的真人照片生成服務。
圖片來源:Generated Photo

Rosebud AI 是一家已使用 AI 技術生成 25 萬組照片的新創,他們解決小型電商的苦楚,使店家不必花大錢請模特兒來擺拍服飾與配件照片。他們使用線上免費且無版權的照片來當製作材料,但在商業上會嚴格篩選客戶,希望客戶不要將他們的技術使用在不法的事情上。(人力成本總是過高嗎?別怕,Nvidia 科學家:所有內容創作都能被 AI 取代

AI GAN 技術(如 StyleGAN)還是有限制,GAN 演算法無法無中生有,假若訓練的照片缺少某些族裔,AI 無法憑空生產出影像。另外,這個技術需要的運算能力也相當大,需要架設伺服器以及採購效能好的顯示卡。

Which Face is Real 網站考驗大家辨識能力,要大家挑選哪張不是 AI 生成照片,是真的人臉照片。
圖片來源:Which Face is Real

不過不少 AI 公司受惠於雲端業者,例如 Google 以及亞馬遜,都提供了新創可負擔的價格。另外有些公司認為 AI 技術被亂用不是他們責任,應該交由整體社會想出應對新技術的管理辦法。

幾可亂真的人類頭像。
圖片來源:This Person Does Not Exist

儘管照片愈來愈能夠用 AI 生成,但目前 AI 生成的人臉照片還是有破綻,仔細觀察人臉與背景交界處,就能輕鬆找出瑕疵,像是頭髮與邊界處會出現小水泡般的斑點。另外戴著眼鏡的影像目前模擬的狀況也不好,牙齒也太對稱了,真實的人類牙齒並不對稱,甚至有 AI 會生成出有 3 個門牙的影像。(不是真的也沒關係!IG 虛擬網紅最受 Z 世代青睞,比真人高 3 倍互動率

連貓影像也能用 GAN 產生像是真貓的影像。
圖片來源:This Cat Does not Exist

至於可能因為 AI 被取代的真人模特兒,認為不必擔心的人覺得真人擺拍的模特兒仍會存在;擔憂的人則認為即使擔憂,也無法阻止被取代的趨勢。

資料來源:Dating apps need women. Advertisers need diversity. AI companies offer a solution: Fake peopleWhich Face Is Real?

文:陳瑞霖

發表評論

請輸入您的評論!
請在這裡輸入您的名字