在人工智慧的大趨勢下,台灣的第一台AI超級電腦,於AI雲平台建置完成後,正式邁入商轉階段,目前所涵蓋的AI應用包括醫療照護、環境災防、智慧製造、智慧生活等四大產業。

你知道嗎?台灣也有世界級的AI超級電腦!在科技部積極推動人工智慧發展下,台灣第一台AI超級電腦2018年不僅在全球500大高速計算主機(TOP500)中排名第20名,目前又進一步在這個名為「台灣杉二號」(TAIWANIA 2)的AI超級電腦上,建置了AI雲端平台,並且於今年6月試營運,8月開放產業界運算,截至9月底,已有150個專案在這個平台上運行,10月正式商轉之後,預計將能有效帶動台灣發展AI產業。

圖2-國網中心台杉二號3_國網中心提供
台灣第一個AI超級電腦「台灣杉二號」進入全球20名,能源效率全球排名第10名。
圖片來源:

優先聚焦四大AI應用領域

台灣杉二號是由財團法人國家實驗研究院國家高速網路與計算中心(以下簡稱國網中心) 領軍,同時並結合廣達、華碩、台灣大哥大等業者建置AI雲端平台。目前AI超級電腦的四大產業應用,主要以智慧醫療為最大宗,占比約30%,智慧製造則有15%,智慧生活約20%,智慧防災相關應用則有10%左右,其餘類型的應用則佔25%。

臺灣AI雲平台應用家數,截自9月為止已有150個專案,主要應用分為四大類別。資料來源:國網中心,郭芝
圖片來源:

原則上,「只要跟眼、耳辨識相關的工作,需要精細度、大量資料的篩選能力,都可以交給AI超級電腦!」國網中心副主任林錫慶說。 AI超級電腦能讓數位化資料變得有意義,讓更多公司和新創可以做更好的模型判斷。

目前AI雲平台的應用,主要聚焦四大領域。

一、醫療照護

在醫療照護第一階段的AI應用為體適能、生理檢查,另外,診斷醫療以影像識別深度學習的應用最多,例如病理切片或X光片分析,都能節省醫師大量的標註時間。

醫療第二階段的AI應用是精準醫療與用藥。林錫慶舉例,一個人的全基因序列可能就需要500G儲存量,要觀察病人長期用藥的反應,需要大儲存力及計算能力,才能協助精準醫療的判勢,便是AI超級電腦的著力之處。

醫療第三階段的AI應用是居家照護,追蹤病人用藥情況以及蒐集居家照護資料。

圖3-雲象科技高解析病理影像達十億以上畫素_截自國網中心影片.png
雲象科技的高解析病理影像達十億以上畫素。
圖片來源:

二、智慧製造

AI應用可作為「製造業的眼、耳」,在製造業生產線上可用AI做自動光學檢測(AOI),取代人工的產品瑕疵辨識,或是以自動視覺檢測(AVI)預測機器故障狀況。林錫慶表示,所謂的耳朵是在機器設備加上感測器,用AI技術分析機器震動的狀態,評估機器的健康。目前鋼鐵製造、重工業、晶圓生產、印刷電路板、航太工業等行業都開始應用智慧製造。

三、智慧生活

包括智慧城市,例如城市中的攝影機安防監控;智慧運輸用智慧號誌疏導車流;自動駕駛車也需要用到大量圖像辨識等AI技術。

圖4-盾心科技AI監視器發覺有人入侵_截自國網中心影片.png
盾心科技能將傳統攝影機83%的誤報率,降到1%以下,在特定情境下準確度改善100倍以上,每次禁區闖入都能精準地被偵測並發出警告。
圖片來源:

四、智慧防災

可了解氣候狀況,例如颱風來臨時,可透過衛星、飛機和無人機空拍畫面協助判別情勢。智慧農業則透過掌握生產狀況,能用AI分析物價波動,或改善農作物災種規劃等。

國網中心企劃推廣組專案行銷總監李君偉表示,目前已有地方政府應用AI超級電腦,透過AI提前部署,未來政府將不再只是被動的做災後處理,能在災前做水患預測,部署抽水機、人員疏散等。

效能領先一般公有雲近40%

國網中心主任史曉斌指出,AI超級電腦的運算能力高達 9 PFlops(每秒執行9千兆次浮點運算),因此,臺灣AI雲實際應用的計算力,在執行跨節點大數據的運算時,相較於其他公有雲平台,效能領先幅度可接近四成。

臺灣AI雲的產業應用到底有多快呢?其高效能在不同的應用環境下,各有不同的效益。以智慧醫療新創雲象科技為例,將組織病理切片數位化之後,單一張數位玻片的解析度高達數十億甚至百億畫素,檔案最大可超過10 GB,訓練AI模型曠日廢時,沒辦法在一般的公有雲平台獲得支援。

臺灣AI雲高速計算架構,每個節點間有100G頻寬,讓全解析度的全玻片數位影像資料得以順暢交換處理,才讓AI訓練成為可能。雲象科技運用臺灣AI雲做醫療影像深度學習,計算速度提高了275倍,每個專案可省下專業病理醫師近千個小時的標註時間,並以400倍超高解析度、零切割最完整的方式做全面檢視,提升了病理切片的辨識效率和品質。

圖3-雲象科技節省近千小時標註時間_截自國網中心影片.png
智慧醫療新創雲象科技用臺灣AI雲計算速度提高了275倍,每個專案可省下專業病理醫師近千個小時的標註時間。
圖片來源:

事實上,當初要打造國家AI超級電腦,外界有許多聲音,質疑國家為何要花這麼多錢建立這個系統?史曉斌說,「成果會自己說話。」 臺灣AI雲在與演算法相關的研究運算上,能提高接近七倍的速度 ,而在智慧安控的應用上,更能有效提高影像辨識的準確率,超過兩成以上。

以智能安全監控新創公司盾心科技(Umbo CV) 為例,為了能精準地辨識攝影機畫面中的物體及行為,借力臺灣AI雲,自我學習的模型訓練時間大幅縮減 70%,原本168小時的模型開發運算時間,可縮短至48小時內即完成。盾心科技更要在未來五年將影像運算數從70億次擴增至7,000億次,挑戰AI安控系統自動通報趨近於零的誤報率。

支援AI開發的容器系統

到底一般的AI平台和AI超級電腦的差別是什麼?最大的差別就是多節點運算的能力,台灣杉二號由252個節點組成,每個節點包含2顆CPU及8顆最先進GPU,史曉斌指出,「等於AI超級電腦有自己的互動網絡可以互相溝通。遇到複雜度很高的AI運算,就需要多個節點同時處理,超級電腦的價值就出來了!高速網路可以把計算節點連結起來,只有在超級電腦的架構才會出現,結果顯示比業界高速網路的效能還好。」

台灣AI超級電腦與日本AIST的AI超級電腦ABCI的硬體架構相似,但最大的差別是台灣AI超級電腦支援了AI開發環境最常使用的容器系統Kubernetes(K8s),是開發者的一大福音。史曉斌說,「全世界第一家支援Kubernetes容器系統的超級電腦,就是台灣杉二號!所以才能助力AI新創和企業有這麼好的表現!」

圖1-國家實驗研究院國家高速網路與計算中心主任史曉斌和副主任林錫慶-郭芝榕攝影
國網中心積極以AI超級電腦協助AI產業化,圖為國網中心主任史曉斌(右)和副主任林錫慶(左)。
圖片來源:

一般超級電腦聚焦傳統的高速運算(HPC)系統,2018年,國網中心團隊看到了機會,預先設想能不能讓AI超級電腦支援HPC和Kubernetes兩個架構?讓當時還是顧問的史曉斌看到了國產AI超級電腦的潛力,「這是很好的想法,走在大家最前面,也是最冒險的事。」

然而,要將Kubernetes運用在超級電腦上仍有許多限制,當時,國網中心跟NVIDIA提及,「最受歡迎的容器系統沒辦法在超級電腦上顯示它的威力!」有了NVIDIA大力協助,終於讓這件事能夠實現。「這個成果不只能協助台灣業界,也推動全世界的發展。」史曉斌說,預期未來將看到更多AI超級電腦支援Kubernetes。

2019年6月,台灣杉二號仍在世界排名第23名,軟體工程背景出身的史曉斌看好台灣軟體的機會,他說,「台灣AI超級電腦最大的意義是讓台灣業界能充分使用AI,協助產業界開發出AI產品,AI產業化,讓台灣軟體放眼全球。」

分享