亞馬遜近年大力推動全公司擁抱生成式AI，以提升公司的營運效率，維持市場競爭力。然而這股熱潮卻在內部引發意想不到的管理危機，陷入不斷開發出重複的AI工具的「AI蔓延」（AI Sprawl）泥沼。
各個部門能夠運用AI技術，快速開發適合公司內部需求的功能與服務，原先是許多企業積極導入AI的理想場景，然而對亞馬遜如此規模的公司來說，這種創新作法帶來了一些問題。根據《Business Insider》報導，一份來自亞馬遜零售部門內部文件指出，「AI正在使工具重複問題惡化，更多的冗餘工具正以更快的速度被創造，而能被清理掉的卻少之又少。」
儘管亞馬遜發言人強調，這份文件僅是個別團隊的看法，並不適用亞馬遜整體狀況，但業界普遍認為這反映了當前企業轉型AI的共同困境。
在過去的技術架構下，軟體開發需要一定的時間與工程資源，這種天然門檻降低了開發出重複工具的機會，並且更容易被盤點與整合。然而，生成式AI的出現徹底打破了這個平衡。該文件指出，AI大幅降低打造工具的門檻，過去需要數週時間才能完成的工具，現在工程師可以在數分鐘內利用大型語言模型產出原型並上線。
現在任何人都能在一個下午產出具備AI功能的內部工具，且維護成本極低，導致開發團隊缺乏動力去合併或刪除功能重疊的系統。這種情況在亞馬遜引以為傲的「兩個披薩原則」（two-pizza team）文化下尤為顯著，小規模且高度自治的團隊雖然提升了創新效率，卻也成為重複建設的溫床。
亞馬遜兩個披薩原則
亞馬遜創辦人貝佐斯提出「兩塊披薩原則」，意即如果兩塊披薩沒辦法讓與會者果腹，那麼會議人數顯然就過多了！貝佐斯相信與會人數少，會議進程將會比較順利，同時減少人多嘴雜，意見不同的機率。
AI工具重複讓資料難管理，恐造成資安風險
那麼重複的AI工具會帶來什麼問題？除了徒增冗餘、浪費開發資源外，最關鍵的是資安風險。當亞馬遜內部數據透過AI系統轉化為知識庫、摘要、會議記錄摘要等新形式時，往往與原始資料分別儲存，並且兩者沒有聯動。
這代表著，即使原始資料刪除或更改內容權限，仍不會反應到AI系統上。這導致了幾個弊病：
- 權限不同步： 原始資料調整權限，無法自動套用至衍生內容。
- 資料難以刪除： 刪除原始資料後，AI生成的摘要與資料仍存於其他團隊的檢索結果中。
亞馬遜內部的一個名為「Spec Studio」的系統便是典型案例。儘管原始程式碼已設為私有，但該系統先前生成的知識庫仍會持續顯示敏感細節。「任何攝取資料、利用AI轉化並將輸出結果單獨儲存系統都會面臨同樣的問題：當來源權限發生變化或資料被刪除時，這些衍生出的資料仍會保存下來。」該文件指出。
AI蔓延怎麼辦？亞馬遜用AI「以毒攻毒」，自動偵測重複工具
面對持續增加的內部AI應用，亞馬遜得出的結論是「以毒攻毒」。人類的審核流程已無法跟上生成的腳步，必須用AI治理AI。亞馬遜正探索利用AI自動偵測重複工具、標記資料風險，並在重複問題難以處理前，提醒團隊進行整合。
不過，這也產生一個疑慮。為了管理AI蔓延造成的混亂，他們必須部署新的AI系統負責監管，然而這個新AI系統本身也可能在未來成為新一輪AI蔓延的來源，但當下這或許是唯一具備拓展性的解決方案。
延伸閱讀：
Google、台積電都沒設 AI 長，全球企業為何爭相設立？CAIO 工作日常、權責與存在價值完整解析
資料中毒攻擊是什麼？Anthropic 研究揭：只要 250 份惡意文件，就能讓 AI 模型胡言亂語
（本文轉載自《數位時代》，初稿為 AI 編撰）
