AI 造臉技術又蒙上陰影!這間公司的 4 名工程師是「人造人」

0
774
圖片來源:REGIUM

在線象棋平台 Lichess 及國際象棋社區 Chess.com 質疑西班牙互聯網棋盤商 REGIUM 的募資產品及其影片造假,而後網友更發現 REGIUM 的 6 個工程師中,有 4 個疑似是 GAN 合成的「人造人」。

商業社會,弄虛作假屢見不鮮。而近日一家西班牙創業公司身上發生的一次利用 AI 造假事件,讓那些融資、業績、財務數據造假在創新性上都黯然失色。

除了製造「人造人」,這家公司的主打產品──自動國際象棋棋盤,也被多個網路知名國際象棋社區產品爆出產品、影片造假,目前公司在募資網站 Kickstarter 的項目已被暫停。

AI 换脸只是小儿科,这家公司用 AI 造了 4 个工程师
國際象棋棋盤製造商 REGIUM 疑似使用 GAN 合成了 4 個虛擬工程師,圖中 6 人,只有 Delgado 和 Balcells 兩人確有其人。
圖片來源:REGIUM

REGIUM 是一個騙局嗎?

REGIUM 是一家位於西班牙的互聯網國際象棋棋盤製造商,2019 年 12 月,他們在 YouTube 上發布了一款叫作 REGIUM 的棋盤演示影片,開始獲得象棋圈子的關注。

按照同類硬體創業公司的套路,REGIUM 一邊上募資網站 Kickstarter 募資,另一邊也在網路知名國際象棋社區 Chess.com、Chess24.com 打廣告,宣傳產品。

不少論壇用戶對此表示期待,從它 2 月底在 Kickstarter 展開募資,截至 3 月 2 日被叫停,不到 10 天,獲得 58 位支持者,33111 美元籌款。

但也就是上月開始,該團隊逐漸被產品造假、影片造假等議論包圍。YouTube 上播放量超過 4 萬的產品介紹影片,率先引發了象棋玩家對這家公司的質疑。

REGIUM 稱,他們的自動棋盤是高科技棋盤,用到了 AI、自動跟蹤技術等,用戶移動棋子是快速、無聲的,可以將棋盤狀態與各種在線象棋 APP 同步,與人遠程下棋,還能實時載入更多棋類遊戲。

據了解,它的原理是棋盤每個坐標點裝上固定電磁鐵,連接著 APP,用戶可以通過手機操縱對應的棋子。事實上,這也不是第一個電子棋盤。在此之前還有過一款名叫 Square Off 的類似產品。

在線象棋平台 Lichess 的開發者率先對影片提出質疑:棋子在棋盤上自動移動的鏡頭很可能是使用定格動畫製作軟體 stop motion 做的。破綻出在騎士這個棋子在影片不同處總是發生變化,其實就是背景在騎士被挪動後出現的空缺。另外,整個影片中完全沒有真人玩家入鏡,對方分析是一旦有人入鏡,那麽下一幀很難與上一幀保持一致。

AI 换脸只是小儿科,这家公司用 AI 造了 4 个工程师
圖片來源:Lichess

REGIUM 對此的回應是,公司根本不擅長製作影片,拍攝影片時出現了一些問題,於是才在後期編輯處理了下。據稱,他們給一些質疑者用手機錄了一段完整的未經處理的影片。

而隨後,Chess.com 表示,可能不僅是影片,產品也是虛假的。商業發展部主任 Nick Barton 調查後表示,展示影片中的棋盤是由西班牙一家有 50 多年歷史的棋盤製造商 Rechapados Ferrer 製作的,該公司一位負責人表示,影片中的棋盤看得出並未再加工,而當前的組件並不支持影片所展示的技術。

目前 Chess.com 和 Chess24.com 都已發文宣布終止與 REGIUM 的商務合作。

人造工程師

影片、產品存疑,還趕上募資,象棋網友繼續挖,然後發現這個公司的開發團隊成員的臉都是假的!

官網「About US」選單列出了 6 位工程師的照片、名字和頭像,Chess.com、Chess24.com、Lichess.org 3 家考證表示,其中大概只有兩個是真人,其餘 4 位很有可能是用 GAN 生成的人造人,用的就是 this person does not exist.com 這個網站的功能。一個側面印證是,圖片訊息都是 1024×1024,96dpi,24 位,jif 格式,缺少任何標題信息。

AI 换脸只是小儿科,这家公司用 AI 造了 4 个工程师
圖片來源:his person does not exist.com

Chess.com 採訪了網站的創始人 Phil Wang,他認為那 4 個人的照片存在失真,具有 GAN 生成的人造人照片的特點。「根據我的經驗,眼鏡周圍扭曲失真,背景也有點假,我還看出來他們似乎用了英偉達的模型。」另外,他還指出,這些人的照片在互聯網其它地方都搜索不到。

在被曝光後,REGIUM 官網已刪除 6 位工程師照片(查看存檔的副本),似乎更印證了他們的心虛。

而 REGIUM 在發給外媒 Motherboard 的電子郵件中否認了這些說法,他們辯解稱是因為受到各種非議,成員擔心職業生涯受到影響才撤下照片。但除此之外,並未提供任何證據能證明其開發人員是真實存在的人。(AI 生成臉孔能以假亂真!除了趣味性,還帶來哪些隱憂?

this person does not exist.com 是海內外小有名氣的造臉網站,使用也非常簡單,點擊進入,每次刷新都會生成一張可能路人甲也可能有的漂亮的臉蛋,但是他/她根本不存在於世界上。

有網友形容該網站是,「很有趣,但沒有什麽用」。大多數人打開它確實也就是圖個新鮮,但沒想到有公司竟然想出如此「創意」的想法。

現在,我們一起從互聯網的記憶中檢索一下。2015 年,教皇方濟各訪美期間,一個絕妙的「抽桌布」戲法影片迅速火遍全美乃至全球,只見他在向聖壇禮拜後,擡手將桌布一抽,桌上物品一點沒亂。這應該是網上第一例引發廣泛關注的 AI 合成「人造人」事件。沒錯,這個影片就是假造的,據說教皇本人後來看後並不是很高興。

AI 换脸只是小儿科,这家公司用 AI 造了 4 个工程师
圖片來源:gif-net

教皇影片和 this person does not exist.com 背後的技術就是基於生成對抗網路(GAN),這是機器學習中相對較新的概念,第一次出現是在 2014 年,Ian Goodfellow 等人發表了論文《對抗式生成網路》。GAN 通過收集名人面部數據集,學習生成人造面部圖像。

2017 年,「潘多拉的盒子」打開。Reddit 一位用戶 Deepfakes 把《神奇女俠》女主角 Gal Gadot 的臉嫁接到一個成人電影女星身上,Reddit 官方將其封號。作為報復,Deepfakes 將換臉代碼開源。2019 年初,「楊冪換臉朱茵黃蓉」的影片火爆中文網路,同年陌陌推出了一款「ZAO」換臉影片,一時之間,留言與質疑齊飛。(被假新聞耽誤的黑科技:Deepfake!在影音行銷時代,大玩「變臉商機」的優勢

技術本是無知無覺的工具,有人陷入色情視影片 AI 換臉黑產狂歡,也有人拿 AI 應用於醫療診斷、公益救助,是造福還是造假,全賴使用者的本心。

文:陳伊莉

發表評論

請輸入您的評論!
請在這裡輸入您的名字