迴紋針、硬起飛和隨機鸚鵡是什麼？AI 內行人必懂 10 大關鍵字

你可知「迴紋針」在人工智慧界有特殊意涵，甚至 OpenAI 企業 LOGO 就是以迴紋針構成？另外，用來訓練 ChatGPT 的非監督式學習是什麼？想像個內行人，在會議上談起此議題顯得專業，這 10 個英文單字請優先搞懂。

生成式 AI 至今在全球引發狂潮，現在，不論是科技業還是一般行業的主管，都把 AI 相關議題掛嘴上，常常討論。想談話像個內行人，或在公司數位轉型創新會議的簡報上顯得更專業嗎？以下這 10 個關鍵字是矽谷許多人工智慧科學家，討論此話題時常常提及的名詞。只要正確掌握，就能大致了解人工智慧的入門知識，也能提升你和企業高層討論此議題的深度。

未來商務【AI解方雜貨店】營業中！立即訂閱電子報，緩解你的「AI焦慮」>>

AGI（Artificial General Intelligence, 通用人工智慧）

通用人工智慧，或可稱為強人工智慧，相較於AlphaGO等弱人工智慧，或說專家型人工智慧，AGI 能理解與學習多元知識，較接近一般人類；不像 AlphaGO 只能執行學習下棋的特定任務，其它都不會。而去年至今爆紅的生成式人工智慧，例如 ChatGPT、Bard，也是朝 AGI 的方向去發展的應用，只是目前還不算全面成功。

Deep Learning（深度學習）

深度學習是機器學習的其中一種，它起源於模仿人類大腦的結構，特別是腦神經網絡，它實際上是採用具有多層節點的人造神經網絡來分析資訊與學習。由 OpenAI 開發出的聊天機器人ChatGPT，背後所使用的大型語言模型，正是採用了深度學習，特別是其中一種稱為「變換器」（Transformer）的模型，來生成近似人類的文本內容。

LLM, Large Language Model（大型語言模型）

大型語言模型（LLM）是一種人工智慧模型，它是根據所收到的輸入生成類似人類的文本來訓練出來。之所以能稱為「大型」，是因為它有大量的參數，通常是數十億，才足以讓這些模型來學習資料中更複雜的模式。

LLM 通常是從多元的互聯網內容中訓練出來的。然而，這些模型不知道訓練中的具體檔或來源，也沒有能力去搜尋外界網頁，除非在對話過程中與它們分享。包括 OpenAI ChatGPT 的 GPT-3和GPT-4；以及 Google Bard 的 LaMDA（Language Model for Dialogue Applications），都是一種 LLM。這些模型可以生成創意寫作，回答問題，翻譯語言，甚至編寫軟體代碼，以及其他任務。

Unsupervised Learning（非監督式學習）

訓練人工智慧學習的方式，可分為監督式與非監督式。所謂非監督式學習，是使用沒有經過標註與分類的資訊，來訓練人工智慧，並允許它在沒有經過指導的方式下自行理解掌握知識。ChatGPT 正是由非監督式學習的方式訓練出來。

非監督式學習的問題是，它回答同一個問題不會有固定答案，因為它是按照相似度分類得來答案，也因此，許多人常因為 ChatGPT 回答同個問題，可以出現多種答案而感到困惑，事實上仍需要人類去自行驗證正確性。

Supervised Learning（監督式學習）

監督式學習則和非監督式學習不同，它是採取標註過的數據來訓練人工智慧，因此問一個問題會有固定答案。同時，人工智慧也會透過對照誤差，逐步修正去達到愈來愈精準的預測。

像是目前廣泛被使用的垃圾信偵測模型，就是用監督式學習方式訓練出來。至於監督式學習的缺點是需要仰賴大量人工，事前去做標註，耗費時間與成本較高。

Reinforcement Learning（強化式學習）

是除了非監督式與監督式學習之外，第三種常見用來訓練 AI 的機器學習方式。簡單來說，強化學習是讓機器在和一個動態環境互動過程中，讓自己從一次次的試錯中學著進步。

例如之前引起圍棋界轟動的 AlphaGO，正是透過強化學習，來習得可以超越人類棋聖的強大下棋能耐。而 ChatGPT雖然主要是用非監督式學習來訓練，如今也正嘗試用強化學習來優化它的能耐。

Paperclips（迴紋針）

當愈來愈多人討論起人工智慧的安全風險，迴紋針一詞總被提起。就連 OpenAI 執行長奧特曼（Sam Altman），也曾在今年 2 月個人推特上做了網路投票：「請問大家認為人工智慧是想要做很多的小迴紋針，還是一個大迴紋針就好？」結果竟來引來超過 2 萬網友熱烈討論與投票，也讓行外人更摸不著頭緒，到底人工智慧和迴紋針有何關係？

其實，迴紋針這個象徵在人工智慧界相當重要，它源自於哲學家博斯特羅姆（Nick Bostrom）提出的一個思想實驗，該實驗認為，一個超級強大的人工智慧，有可能被賦予一項任務，即製造盡可能多的迴紋針，由於為了不斷製造迴紋針，人工智慧會不斷掠奪人類資源，甚至最後決定殺死人類，再將人類遺體製作成迴紋針，以完成被下達的任務。但是人類屆時已無法控制它。

因此，許多 AI 專家以迴紋針警惕自己，不要打造過度強大的人工智慧。其實，如果你有注意到 OpenAI 的企業標誌，會發現它正是由許多迴紋針所組成。雖然 OpenAI 執行長奧特曼，從未針對企業標誌背後的意義做完整說明，許多網友推測可能是發想於這個思想實驗。

Hard Takeoff/Soft Takeoff （硬起飛/軟起飛）

人工智慧又不是開飛機，為何要討論「硬起飛（Hard Takeoff）」或「軟起飛（Soft Takeoff）」？原來，這是專家用來評估人工智慧該如何開發，才不會過度衝擊人類的行內術語。「硬起飛」指的是人工智慧太快開發成超級智慧，人類有可能適應不及甚至反被宰制。「軟起飛」則就是相對緩慢的開發，讓人類社會有足夠時間適應。

Guardrails（護欄）

最近許多企業熱衷導入 AI，但是也發生了不少個資與企業機密疑似外洩的事件；另外 AI 隨機亂達，可能造成假訊息風暴也被不少人擔憂。人工智慧是否需要有「護欄」來防治各種 AI 不按牌理出牌的狀況？這是近期矽谷企業在發展人工智慧時，已經正視的議題，這些公司也正積極研究各種護欄，來改善現有軟體。

另外，包括 Nvidia 等許多企業，也正打造創新的 AI 護欄軟體，提供給有需要的客戶來順應新趨勢。

Stochastic Parrots（隨機鸚鵡）

許多人在和生成式AI聊天機器人溝通時，會覺得它只會順著自己語意，隨機回答一些模稜兩可的答案，似乎它沒有真的懂過？不過是隻鸚鵡。「隨機鸚鵡」要探討的，正是這個現象。

隨機鸚鵡一詞最早源於 2021 年由班德（Emily M. Bender）等人發表「語言模型有可能太大？」為主題的論文中，他們認為，雖然複雜的人工智慧模型，可以生成看似真實的文本，但軟體本身其實並不理解語言背後的概念，那就像是一隻鸚鵡。

（本文轉載自《遠見》）

AI全方位滲透，企業如何抓住先機，搶先佈局？
2023未來商務展 ｜6/15-6/17，60+產業領袖與你一同共創未來>>