根據資誠聯合會計師事務所發布的《2025 年全球暨台灣企業領袖調查報告》,有 60% 的台灣企業預估,生成式 AI 將在未來 1 年內帶來利潤成長。
然而,報告也指出, 台灣仍有高達 42% 的企業在過去1年未曾使用 AI,高度/非常信任生成式 AI 的企業更僅占 5%,皆低於全球平均 。
換言之,台灣企業在面對 AI 時,展現出「既期待又怕受傷害」的矛盾心態。關於 AI 的導入與落地,各種觀點眾聲喧嘩,使得企業難以果斷下決策。
雲端還是地端?通用大模型或專屬小模型?本篇報導邀請來自產業智庫、顧問公司與解決方案供應商的第一線觀察者,從技術趨勢、成本預算到實務部署,逐一拆解企業導入「地端專屬 AI」最常面對的 4 大問題。
Q1:雲端、地端成本差距多大?哪一種更省?
陳文裕/數位無限執行長:
雲端方案表面上無需建置基礎設施、看似彈性十足,但一旦使用頻率拉高、規模擴大,長期租用費用很容易飆升。
反觀地端部署雖然前期投入較高,若能善用 GPU 管理與資源切割,一套硬體可支援多部門同時運行,使用率提高、成本也能有效攤平。
林緯/群聯電子技術長
以 4,000 人的企業為例,若全員使用 GPT 類型的模型輔助日常工作,部署在雲端1年可能需投入約新台幣 5,000 萬元。若改採地端部署,初期建置成本不到 1,000 萬元,後續幾乎無額外費用。
如今,甚至出現適用 1 至 3 人的團隊入門級設備,10 萬元即可跑得動 320 億參數量的語言模型。
Q2:地端部署程序多又繁雜,為什麼不選雲端就好?
蔡宜潔/APMIC AI 生態圈策略夥伴總監:
雲端服務的優勢在於標準化與模組化,就像買現成的 3 房 2 廳公寓,如果這樣的格局能滿足企業需求,只要開通帳號就能立即使用,部署速度確實較快。
相比之下,地端部署就像「買地自建」,需要較多的規畫與建設時間,但是比較能打造出更符合自身需求的系統。
此外, 地端的關鍵優勢,在於高度的自主性與客製彈性 。
雲端的控制權多半掌握在服務供應商,使用者能調整的範圍有限;而地端部署讓企業能完全掌控模型與資料,依照實際需求彈性配置,打造自己想要的樣子,特別是涉及機敏資料時,地端部署便是不可或缺的選項。
Q3:導入 AI 一定要微調模型嗎?能不能用現成的?
盧志浩/資誠創新諮詢公司董事長:
導入專屬 AI,不一定得從頭自建或微調模型。實務上,大多數企業會根據需求與資源狀況,採取 3 種不同的方式來使用 AI:第 1 類是「通用型 AI」,例如微軟 Copilot 等公有雲或 SaaS 工具,適合處理日常文件、摘要、數字分析等基本任務,不需微調,直接開通即可用。
第 2 類是「專業型 AI」,像是法律或醫療專業領域的訂閱式工具,這類模型已針對特定任務預先訓練,即使不客製也有不錯效果,適合對特定領域有需求但資料量不足的企業。
第 3 類才是「專屬型 AI」,也就是企業針對自身核心競爭力,自建 AI 算力、訓練模型並在地端部署,掌握高度自主性與機敏資料安全。這需要較高的投入與成熟的 AI 操作能力,不建議一開始就跳進來。
企業不必一次做到最複雜,而是可以從串接不同工具與 AI 代理(AI agent)開始,小步測試 AI 的應用邊界與企業的真實需求,再決定是否擴大投入。關鍵在於找出適合自身節奏、符合使用需求的組合,而非一味追求自建。
Q4:導入 AI 前應該注意什麼?有推薦的落地流程嗎?
朱師右/資策會 MIC 產業顧問兼組長:
企業導入 AI 前,第一步還是資料數位化。很多企業的機台沒有聯網,也沒有資料輸出功能,這時可以用非侵入式的方式,例如裝智慧掛鉤或攝影機,從電流或畫面反推機台運作狀況。這樣可以在不更換設備的情況下,把資訊變成數據。
除了設備數位化,企業也要盤點自己有多少資料、資料的品質如何,資料準備好後,才可能進一步做模型微調、RAG 或更進階的應用。此外,導入 AI 不只是技術工程,更關乎企業文化與決策思維的改變。若高層尚未具備轉型意識,即便中層有心推動,也可能因無法說服管理層投入資源而功敗垂成。
建議企業從數位體檢做起,盤點自身體質、痛點與資源,再視需求擬定中長期 AI 導入藍圖。或參考數位經濟暨產業發展協會(DTA)的台灣數位轉型大聯盟、人工智慧技術服務機構服務能量登錄等平台,了解可搭配的解決方案與補助資源,降低導入門檻。
溫紹群/勤業數位轉型服務負責人:
若要推動長期應用與規模化部署,企業內建立「AI Lab」將會是關鍵。
所有要部署到實際業務場景的AI模型,都應先進入 AI Lab,進行資料驗證、精準度測試與風險評估,確認達到一定標準後再釋出。AI Lab 的角色不只是測試新技術,更是建立「準入/準出機制」的中控平台。
此外,AI Lab 也應涵蓋跨部門協作機制,讓業務、IT、資安、法遵能共同參與決策與監管。從長期來看,AI Lab 就是企業內部發展 AI 的中樞治理單位,如果沒有一套管理制度,再多應用也難以持久。企業若期望從試點走向轉型,必須思考AI的「治理力」,而非單點落地而已。