IBM 退出人臉辨識市場!這項 AI 應用跟種族議題有什麼關係?

0
1053
ATC Comm Photo from Pexels

人臉辨識技術除了可能對人種、性別的識別偏差外,還因其在侵犯隱私方面的問題而受到抨擊,IBM 於近日高調宣布不再提供任何人臉辨識服務和人臉分析軟體,是否單純因為「反對將技術用於種族歧視和大規模監視」?

從來只見科技巨頭搶占技術高地,沒聽說過誰主動放棄未來的。然而,今日的美國,真的上演了這離奇、反常的一幕。

當地時間 6 月 8 日,IBM 高調宣布不再提供任何人臉識別服務和人臉分析軟體,正式退出這一市場。不僅如此,今後 IBM 也不會繼續研發相關技術。

IBM 的理由是「反對將技術用於種族歧視和大規模監視」。但它真正的誠意有多少?

是誰讓 IBM 放棄了大熱的 AI 應用方向

IBM 的這一決定來自於 CEO 克里什納(Arind Krishna)給幾位美國國會議員的一封信。(IBM 雙首長四月領航!戴上紅帽的藍色大象,能在雲端輕盈起舞嗎?

從信中的內容來看,放棄人臉識別業務的舉動,是 IBM 因黑人弗洛伊德之死,抗議種族主義的種種舉措的其中之一。IBM 為了「自由」、「隱私」、「種族」這些美式政治正確議題拚了,至少從表面看是這樣。

IBM 告訴外媒,這個決策並不是心血來潮,而是經過了數個月的討論,並與客戶進行了持續溝通。另外,儘管 IBM 不再宣傳、推銷和更新這些產品,但它依舊會在有需求之時對現有的客戶進行支持。

克里什納並沒有將 AI 全盤否定,他表示人工智慧仍然是幫助執法部門保護公民安全的有力工具。但他也強調,AI 系統的供應商和用戶有共同的責任對 AI 進行偏見測試(Tested For Bias),特別是執法過程中使用的 AI,要有專門的審查評估制度。

最後,克里什納還說,國家的政策還應鼓勵和促進使用特定技術,如人體攝影機和現代數據分析技術。來提高警務透明度和問責制。

IBM 的這封信,是一個議政屬性較強的信件。它除了談到對相關技術的措施和態度,還呼籲國會通過相應的議案和政策來推動警務透明、人員就業等問題。

IBM 的「順水人情」

難道 IBM 就是這麽深明大義,毅然放棄前景大熱的 AI 技術?當然不是。

據美國 CNBC 報導,一位知情人士承認,IBM 此舉確有為了迎合美國當下對種族問題的強烈關注的因素,但同時,IBM 也有商業考量。實際上人臉識別業務並沒有為 IBM 帶來重大的營收——換句話說,棄之並不可惜。

在人臉識別技術方面,IBM 雖然並不突出。在克里什納的信中,他呼籲美國執法部門採用「更加透明」的技術,比如攝影鏡頭和數據分析系統。

數據分析系統對於 IBM 來說,是一項比人臉識別重要得多的業務。

另外,克里什納在就任 CEO 之初時表示,IBM 將專注於混合雲和人工智慧兩大戰略,尤其是在雲端運算方面。他強調稱,IBM 和 Red Hat 要把 Linux、容器和 Kunbernetes 建立為新的混合雲標準。

顯然,在 Arind Krshna 的領導之下,IBM 更為專注的是與微軟和亞馬遜等對手在雲端運算領域的戰爭——人臉識別技術屬於二線業務。

外媒分析,IBM 放棄的只是眼下它並不占優勢,營收也有限的一塊業務,長遠布局不受影響。

精明的 IBM 這一手操作,既調整了業務,又迎合了美國民意。

但國際隱私組織(Privacy International)對 IBM 的聲明十分不信任。

原因在於 IBM 推出了智慧警務平台,並在世界多地投入使用,這個系統依賴閉路電視攝影機和警察部門的數據處理系統直接相連,仍然是一種監視手段。

此外,該組織認為 IBM 的公告模棱兩可。公告中說要放棄「通用型」面部識別,讓人高度懷疑這不會是 IBM 面部識別業務的終結,未來 IBM 可能會進行識別系統的定制化。

人臉識別在美國已成眾矢之的

美國的人臉識別技術一直走在科技前沿,並且在商用層面早有動作。亞馬遜早在 2016 年就推出了人臉識別軟體 Rekognition,如今已經向美國大部分警察部門提供服務。

儘管如此,目前的人臉識別技術還不能夠有百分百的準確性。

這背後的一個首要因素是美國的種族問題。

2018 年 Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了商業人臉識別系統(包括 IBM 的)的缺陷:人臉識別針對黑人、女性的錯誤率高達 21%-35%,而針對白人、男性的錯誤率則低於 1%。

黑人女性有 20%~30% 的概率被識別錯誤,產生誤會。如果是在警用安保等場景下,後果可能會非常嚴重。這在美國是一個嚴重的政治問題。(職場女性的難題:習慣避開衝突,不知不覺間犯了「討好病」?

除了對人種、性別的識別偏差外,人臉識別技術還因其在侵犯隱私方面的問題而受到抨擊。

而最近黑人弗洛伊德之死,讓人臉識別技術成了種族問題最新的替罪羊。

包括舊金山市在內,美國已經有多個地方公共部門禁用了人臉識別技術。

儘管如此,亞馬遜等公司有用技術賺錢的需求,而美國警察也有實用技術的需求,因此多數州的警察部門仍然是人臉識別系統的大客戶。

2019 年,亞馬遜在股東會議否決了停止出售人臉識別技術的提案。後來在一次採訪中,亞馬遜 CTO Werner Vogels 稱,技術無罪,我們無責任。

對於人臉識別技術的爭議,IBM 出了自己的答案:直接放棄,而不是繼續研究改進。(AI 造臉技術又蒙上陰影!這間公司的 4 名工程師是「人造人」

IBM 此舉,是否會導致愈來愈多的美國科技企業放棄探索人臉識別技術?美國會不會最終全面禁用人臉識別呢?

資料來源:BBC

文:賈浩楠