人工智慧的發展不全然有正面意義,如 Deepfake 逼真的生成能力及其偽造的影視訊和聲音,已被用於詐騙、誹謗、政治操作等不正當目的,對公民社會造成危害的潛在影響,始終是話題的中心。
製作 Deepfake 內容門檻低,防不勝防
報導指出,坊間製作 Deepfake 音頻、影片的服務非常多,像是 ElevenLabs 和 Resemble AI等 AI 軟體,僅需不到一分鐘的真人語音樣本就可以創建假的音訊,而且人人都可以免費使用該工具。
今年美國大選期間,在新罕布夏州流傳著一通機器人電話,即是由 AI 生成美國總統拜登(Joe Biden)的聲音,呼籲該區選民不要參加民主黨初選;新聞網站評估軟體 NewsGuard 發現一個 TikTok 帳號上,有多段用 AI 生成、模擬美國前總統歐巴馬(Barack Obama)聲音的 Deepfake 音頻傳播謠言,相關音頻已播放超過一億次;美國新創公司 Retool 甚至遇到駭客利用 AI 深度偽造 Retool 員工聲音,成功入侵該公司,使 27 名雲端客戶捲入網路安全事件當中。
加拿大 CTV 電視也報導,安大略省有一名男子看到「加國總理杜魯多」和「億萬富豪馬斯克」支持一個投資平台的影片,並未察覺其中有詐,結果被詐騙 1.1 萬美元,事後才發現那是一個 Deepfake 影片;《金融時報》進一步指出,在英國、印度等國,近期都出現試圖用 Deepfake 內容影響選舉的事件。
各種詐騙、假資訊在 Deepfake 的猖獗下變得更加嚴重,如何判斷內容是否為 AI 生成,已然是未來資訊社會中備受關注的問題。
用魔法打敗魔法!這些工具幫你偵測 Deepfake
面對 Deepfake 的威脅,準確、快速、大規模地偵測人工智慧生成的聲音、影片、圖像和文字等內容,成了必要的工具之一。
像是 Resemble AI 最近發表的新一代 DeepFake 偵測模型 Detect-2B,該模型專注在偵測人工生成痕跡,多數 AI 產生的音訊,聽起來會毫無瑕疵,它就用這個重點辨別真實聲音和假的聲音。該模型在不同語言的測試集上都表現出色,在 6 種不同語言中檢測 DeepFake 聲音的準確率達到 93%。
新創 Reality Defender 同樣利用了 AI 技術,從眾多真實的內容中,去學習真實內容的特徵和規律。簡單來說,它會分析真人說話時的語調、咬字和換氣等習慣,也會分析真實影片和圖片中的細節和邏輯。
當這個 AI 工具建立起一套判定真實內容的標準之後,它就可以此標準去檢查所有內容,如果發現這個新內容的特徵和真實內容有明顯的差異、不太自然,那很可能就是 AI 生成的假內容。
科技巨頭之一英特爾(Intel)也推出了一款名為 FakeCatcher 的即時 Deepfake 檢測器。 該技術可以以 96% 的準確率檢測影片的真實性,並在幾毫秒內回傳結果。該工具是在真實影片中尋找「真實」的細節,例如真人才有的血液流動、變色,透過搜集面部的血流顏色資訊,經過機器學習,便可以判斷影片的真假。
《Forbes》認為,隨著技術不斷發展,AI 生成工具和偵測生成內容之間的軍備競賽將會愈演愈烈,不過用 AI 打 AI 的優勢在於,它可以導入不同的人工智慧模型,從不同的角度去分析每一個檔案,也能夠做到隨時更新,學習最新的造假技術,讓偵測方法與時俱進。