訓練AI模型，要多少數據？拆解企業人工智慧專案為何難落地

2020.12.09 by 若水AI Blog

企業導入AI似乎已成為一種趨勢，但是訓練AI模型，需要多少數據？其背後的商業命題與成本又該如何解決？帶你來一起窺探AI專案背後的秘密！

企業的AI專案在釐清問題本質、找到命題之後，首先會面臨到一個問題：收集數據（Data Collection）和建立AI模型（Model Establishing），該以什麼作為評估基準？

訓練一個AI數據模型，需要多少數據？

訓練AI數據模型時，其實有三個要素，彼此互相影響。分別是： 商業問題的複雜度 、 AI模型複雜度 （Model Complexity），以及 數據複雜度 （Data Complexity）。

因此，如果想知道需要多少訓練數據（Training Data），建議先釐清：這個AI專案到底要處理什麼問題，以及這個問題有多複雜？確定之後，再來判斷應該選用哪種程度的模型來做訓練。根據不同的商業命題複雜度，用不同複雜度的模型和精準數據彼此搭配，找出最佳平衡，才能讓AI專案順利落地。

但光憑想像，很難評估實際的AI數據量和成效，所以開始AI的第一步，需要先透過POC概念驗證（Proof of Concept）實驗來找答案。

簡單來說，就是針對不同複雜程度的商業問題，嘗試選用不同複雜度的模型搭配測試，直到模型跑出來的曲線，符合理想目標。

一般狀態下，假設商業問題本身的複雜度很高，我們會預期要選擇複雜度較高的模型。但是如果數據量不足，那麼選擇複雜度較高的AI模型，反而會比用簡單的AI模型效果還差。（上圖左上、右上，分別代表複雜度10和複雜度50的問題，可以明顯看出複雜的模型曲線比較接近學習數據集（Dataset），但是在測試數據集上的誤差 Eout，反而比簡單模型還差了許多。）

上圖的左下和右下，是以不同複雜度的模型去做POC，跑出來的結果曲線圖。藍色線代表的是學習數據（Training Data）成效，紅色線代表的是測試數據（Testing Data）成效。最理想的POC目標，應該是兩條曲線很貼近彼此，而且位置越低越好。

我們會發現，左下這張圖的兩條曲線雖然彼此貼近，但是就算增加數據，也無法降低誤差。這表示模型偏誤（Bias）高，效果不佳，應該要增加模型複雜度 （Model Complexity）。

增加模型複雜度之後，就會像右下這張圖，藍色曲線（學習數據）雖然數值很低，但在學習數據不足的情況下（灰色區塊），紅色曲線（測試數據）卻「飄」得太高。這表示模型變異誤差（Variance）高，應該要增加學習數據。最後在慢慢增加模型複雜度以及學習數據之後，我們就可以達到理想的結果（兩條曲線很貼近彼此，而且位置越低越好）。

數據哪裡來？發展AI人工智慧之前，先建立數據流

先前我在文章裡提到，很多企業會急著開發AI模型，但AI專案落地經驗的三大關鍵之一，其實是先確認：是否已經準備好數據了？如果沒有這樣的能力，談AI落地其實有點好高騖遠。

AI數據收集（Data Collection）最大的挑戰，在於針對不同型態的命題，會產生不同的AI數據需求，因此需要建立的「數據流」（Data Pipeline），AI數據處理 （Data Processing）和數據標註（Data Annotation）的模式及流程也會有所不同。

發展AI之前，如果能建立起從數據收集（Data Collection）、數據處理（Data Processing）到AI模型學習的數據流（Data Pipeline），並確保可以順暢運行，實際訓練AI模型時才會省力很多。

數據不夠或太多怎麼辦？

Google開設的機器學習（Machine Learning）課程中，第一項原則就開宗明義地指出：「Don’t be afraid to launch a product without machine learning」。

如果你的產品或業務不一定需要用到機器學習（Machine Learning），那就別用，除非你有AI數據。有數據，再來談機器學習（Machine Learning）。但在業界的實際狀況，大家不是沒有數據，而是只有一些些，這時候該怎麼辦？我會建議，先從小地方開始做起，也就是從POC專案著手。

POC專案要有具體成效，除了要注意設計專案、實驗模型的指標（Metrics），企業最重要的是要先定義清楚：AI專案要達到什麼樣的指標，才算是成功？這樣最後做出來的成果，才會真正符合商業目標。

如果今天不是沒有AI數據，而是數據很多，又該從何下手呢？

我建議，嘗試減少訓練AI人工智慧時的「 數據大小 」和「 數據筆數 」。

過去曾經處理過一個AI專案，數據多達2億筆。第一次實驗，把數據全部餵進AI模型，取得結果。第二次，只拿其中有代表性的500萬筆出來訓練人工智慧。

猜猜結果如何？兩次實驗的表現，只差異不到1%。

所以，如果企業對於AI數據的品質和數量有一定程度的自信根據，其實不用把數據全部餵進AI模型訓練（Model Training），只用有代表性的AI數據來訓練就可以了。市面上很多常見的AI工具（Cluster），可以做到這點，幫助省時省力。

AI模型訓練，記得校準商業目標

企業發展AI人工智慧的最終目的，還是希望能 達到商業目標，創造價值 。

所以，訓練AI模型時，團隊如果不知道如何判斷哪個指標，對AI模型學習來說比較重要，建議回歸初心，重新釐清「 這個專案想達到的商業目標是什麼 」。

比方，趨勢科技（Trend Micro）要開發一個能夠判斷電腦病毒的AI，但是勒索病毒（denial-of-access attack）和廣告病毒對客戶的傷害程度大不相同。這時候，工程師就會針對這個命題，餵給AI模型不同病毒種類的數據，讓它學會判斷不同病毒的重要性，分辨出哪些病毒比較嚴重不能有判斷錯誤，而哪些病毒比較無害，不一定要做到一百分。

最常見的訓練方法，是用成本函數（Cost Function）的方式，訓練完再回去調整AI模型的評分（Rating），用加扣分的方式，告訴機器它的學習表現是好是壞，做對就加分，做錯就扣分。

上述評分原則的制定，和企業的商業價值考量息息相關，所以一般在組織分工，會由PM專案團隊負責判斷哪些項目重要，請資料科學家設計在上述Cost Function裡面。

很多人以為，AI人工智慧開發要做到很完美才行，但其實根據我們的經驗，只要AI開發成本符合預算、AI模型表現可接受（大約做到60–70分），而且結果有助於降低成本，就可以算是達到商業目標。反過來，即使AI模型表現非常好（高達90分），但成本卻遠超出預算，就不建議執行。

另外，因為POC階段會做很多的實驗，需要拿兩個穩定且可以互相比較的基準做A/B Test，所以做好基礎建設非常重要。

如果一個團隊裡面有三位工程師，但三個人做出來的結果都無法互相比較，那麼這個實驗就會變得霧裡看花，導致AI專案難以落地。

AI數據小學堂：模型指標（metrics）

在做模型實驗時，通常會用混淆矩陣（Confusion Matrix）的四種指標：TP（True Positive）、TN（True Negative）、FP（False Positive）、FN（False Negative），以及Count、Unique和Accuracy等等函數，來判斷這個模型的表現好不好。

P或TN值，代表模型辨識的答案正確，和預期結果一致。例如：模型正確判斷出「這是一隻貓」、「這不是一隻貓」。而FP或FN值，則代表模型的判斷錯誤，例如「明明是貓，模型卻說不是貓」、「明明不是貓，模型卻說它是貓」。

附圖：AI模型 若水國際
AI模型的POC概念驗證實驗怎麼做？

資料來源：https://www.bnext.com.tw/article/60440/ai-strategy-04?fbclid=IwAR1SOhjjGxypdGgOGfaBIl_a1IsZFJAQZ8J2aeDd98spbUfOdg7hiPQP7UA

【🎁抽獎贈書活動】《高產出的本事》x2本
🙋你有沒有遇過一種情形？當你面對主管或客戶做簡報的時候，他開始眉頭深鎖，語重心長地說道：「講重點…」。當下你亂了分寸，心想我已經準備了這麼多資料卻仍被嫌棄，到底是哪裡出了問題？
👨‍🏫職人簡報培訓專家劉奕酉的《#高產出的本事》就是你的特效藥
✍️圖文心得 https://readingoutpost.com/output-to-win/
.
【當人們過度關注輸入，卻忽略了輸出】
.
在資訊爆炸的時代，取得資訊的管道越來越多，也越來越容易。許多人追逐著吸收更多的資訊，卻很少回頭思考，自己處理這些資訊的方式跟技巧。在職場上也常見到，投影片充滿了密密麻麻的文字和圖表，卻讓人抓不到其中的重點。

然而，光是擁有一堆資訊還不夠，你還得學會如何消化吸收，轉化成別人看的懂的東西。因此，懂得把資訊的「輸入」轉化成有價值的「輸出」，讓每次的「產出」都能講到對方心中的「重點」，就成了每個職場人必備的關鍵技能。

究竟，我們該如何建立一套屬於自己的「講重點」技巧呢？
.
【《高產出的本事》是一本必讀之作】
.
最近上市的《高產出的本事》這本書，就是談論「化輸入為輸出的產出技巧」的翹楚。這本書的作者是職人簡報培訓專家劉奕酉，我長期追蹤他的Medium專欄，他是我目前看過能將簡報做得既精簡又精美，而且總是直指核心重點的人。

他曾經說過：「在大數據時代，能夠自主思考、表達觀點並採取行動，也就是能運用自身的知識與技能進行產出的人，將會是未來能存活得更好的人。」人們欣賞能夠化繁為簡、講話總是提綱契領的人。這種人讓人感到「有料」。

在這本書裡，作者毫不藏私地提供高效產出的祕訣：八個表達框架、四個圖解模板、產出內容的鑽石架構、五種產出之後的應用方法。這本書的內容豐富、論述精準、舉例貼切，是一本非常適合擺在辦公室的案頭書。

以下，我除了簡述書中部分的精華，還會結合我自己在職場帶領團隊的經驗，另外挑出「八個表達框架」特別著墨，用一張圖整理成「八個講重點的訣竅」。希望能讓你學會正確的表達方式，讓自己成為一個講話「有條有理」、總是「講重點」的人。
.
【為什麼要學「優勢輸出」模型？】
.
懂得把雜亂無章的資訊，整理成結構化、條列式精闢見解的人，在職場上的優勢會越來越大。我很推薦作者提倡的「優勢輸出」模型，他強調掌握這套優勢輸出模型的人，在未來會無往不利。

在〈專業有價、產出有值；有本事產出，就能讓價值兌現〉這篇文章裡，作者將這個模型分為四個步驟：定位、重組、產出、場景。

．定位方向：釐清產出的目的、對象，並選擇合適的框架。
．重組架構：根據框架來組織合乎邏輯、簡明扼要的表達內容。
．產出內容：將表達內容轉化為完整結構的產出內容。
．場景應用：把產出內容應用到各種不同的場景之中。

那麼，學會優勢輸出模型的人有什麼好處？作者說：「首先，省下了構思架構的時間；其次，有了框架做為架構，也可以除去不必要的素材蒐集，又進一步提升了效率。在這種情況之下，我們自然更有餘裕去產出內容、優化內容，也更可能發揮巧思與創意。」
.
【如何「講重點」的8個訣竅】
.
讓我們思考一個情境：當你在執行專案或任務時，無論你要跟主管匯報進度、尋求協助、展示成果，要注意的是，主管當下心中「最重要的事情」是什麼？快速、清楚地表達出事情的全貌，再直接切入其中的重點，這時候你就需要一些框架的輔助。

書中談到的「八個表達框架」，很適合用來把事情的全貌說清楚。以下，我用一張圖把這八個框架整理在一起，在每個框架裡，我用藍底色標出來的項目，就是主管心中「最重要的事情」（範例），讓我們分別來看這些範例。

１．重點框架
最泛用的框架之一，把你想表達的重點濃縮成三個（盡量不要超過），掌握「三的原則」，當事情不超過三個的時候，對方會比較有耐心聽完你講的重點。當然，最後別忘了重申，你講完這三個重點的結論是什麼？這個框架可以靈活運用到以下每一種框架裡。

２．清單框架
當你想要表達的事項，非得超過三個的時候，請開始「分類」。你如果想講10件事情，就試著把項目拆成三個大類別，每個分類再配置小項目（例如3:3:4）。同樣地，跟主管強調的重點，就以三個「大類別」為主，其他的小項目已經不是他最關注的重點。

３．時間框架
用時間來表達一件事情，可以分為：期間、階段、步驟。以「期間」為例，區分為過去、現在、未來。通常而言，如果事情的進度沒有落後，老闆只會關心你「未來」要做什麼。如果事情真的落後了，你就多講一點「現在」做了什麼安排，「未來」能不能追趕回來。

４．空間框架
用空間來表達一件事情，可以分為：距離、性質、規模。以「距離」為例，區分為遠、中、近。把事情用距離的方式表達（國外、國內、同縣市），有助於看出全貌，再從「近」的事情出發，說你的行動和計劃，同樣可以用「三個原則」講出三個行動。

５．主題框架
許多人熟知的黃金圈法則，從為什麼、如何做、做什麼，由內而外說明做一件事情的目的、做法、和結果。對我們自己而言，「為什麼」的內在動力固然很重要，但主管時常關注的重點反而是你「做什麼」和有什麼「結果」（除非他不知道自己為什麼要指派你做這件事情…）。

６．議題框架
這是一種很嚴謹的表達方式，總共有四個步驟：論點、理由、實例、重申。我認為最重要的在於「論點」本身，後面的眾多理由、實例、重申，都是為了支撐論點而存在。記得讓自己的表達圍繞著論點走，不要離題了而不自覺。

７．問題框架
闡述一個問題的時候，可以用這四個步驟來表達：情境、衝擊、課題、對策。這四個順序並沒有一定，你必須評估當下的狀況，最希望讓主管知道的重點是什麼？然後把希望強調給主管知道的項目「移到最前面講」。

８．課題框架
描述一個課題的時候，通常會用背景、任務、行動、成果，來依序交代。背景、任務、「實際完成」的行動和成果，通常是簡單帶過就好。如果事情進展順利，主管最關心的重點就是「計劃預期」的行動和成果，記得強調這個部分。

為什麼作者要提供這麼多「框架」讓我們參考使用？他說：「框架，可說是將『解決問題的過程』抽象化後的輪廓，能幫你跳脫這種漫無目的的摸索，替你創造邁出第一步的機會。」框架讓你有跡可循、讓你有勇氣踏出第一步。

此外，學習這些框架，就像是練武功的人學習蹲馬步一樣，屬於基本功的鍛鍊，唯有當你真的去使用、去練習，才能將這些框架內化成自己的東西。如果心中沒有這些基本泛用的框架，就很難將繁雜的資訊整理成有條理的重點。
.
【什麼樣的「圖解框架」容易讓人秒懂？】
.
當你開始運用許多種不同的表達框架時，記得搭配一些「圖解」來輔助說明。作者用這篇文章〈一流商務人士的思考術：懂得用框架解決問題，加速思考到產出的品質與效率〉的「圖解框架」為例，說明在不同的情境下，你都可以運用這些圖解框架來講重點，讓人一眼就看懂（樹狀圖、流程圖、矩陣圖、文氏圖、散佈圖）。

例如，當你使用這些圖解框架來表達一件事情的時候，你還可以針對裡面想要「強調的重點」（圖中橘色）的部分，進一步深入說明。作者也提醒：「使用框架是為了跳脫框架，發展出自我的思考脈絡。」你可以先把馬步打穩，然後再發展出自己的招式。
.
【後記】
.
雖然，這種整理重點的產出能力並非一蹴可幾，但有了《高產出的本事》這本書的幫助，會讓你少走很多冤枉路。如今，我持續向作者的文章學習，如何思考讀者的需求與文章定位、如何設計出思緒縝密的行文架構、如何用簡單的圖表呈現複雜的概念。

對於受雇者而言，這本書可以幫你增進簡報技巧、改善你的企劃提案、精煉你的說話內容。對於自雇者而言，無論是作家、講師、部落客等內容創作者，也絕對能從這本書中受益許多。

懂得將雜亂的資訊精煉之後輸出，才能將資訊化成屬於自己的知識，再用各種框架把知識傳遞給別人瞭解，成為善於講重點的人。這不只是一種職場技能，也是一種必備的生活習慣，除了會改變你職場的軌跡，也會提高你視野的高度。
.
講重點的關鍵就在於：在對方分心之前，就切入重點。
.
【抽獎辦法】感謝 樂金文化．富者樂金
１、抽出「2本」《高產出的本事》送給閱讀前哨站的粉絲們！有興趣的朋友請在底下「按讚留言」，「公開分享」本則動態參加抽獎。
２、留言請寫下：你為什麼想讀這本書？例如：「我想如何產出命中重點的簡報」
３、活動時間：即日起至2020/09/22(二)晚上十點截止，隔天在留言中公布名單，隨機抽出2名正取，2名備取。
４、請正取得獎者於2020/09/24(四)晚上十點前，私訊回覆寄件姓名、地址、電話，超過期限未認領由備取遞補，寄送僅限台澎金馬。

[走過KM15年(5/12)]
知識管理推動可以分成策略面、組織面、流程面、內容面、科技面、文化面與創新面等七個構面，以下分為二十九個執行重點。以下分別就各個構面的執行重點，作摘要說明。
(一) 策略面：
1. 訪談與診斷：針對企業最高主管、知識長、KM推動小組，設計各種訪談表，以了解企業推動知識管理的實施策略與期待目標。
2. 知識盤點：透過有系統的問卷設計，利用企業的知識分類與來源管道，盤點出知識文件分類、知識社群需求與專家黃頁名單。
3. 與企業策略接軌：利用策略地圖與平衡計分卡，讓組織的願景、使命與策略目標接軌，進而找出知識管理的行動方案與關鍵績效指標。
4. 推動白皮書：在推動知識管理前，規劃一份推動知識管理短、中、長期的計畫書，具體描述推動組織、推動時程、執行重點與預期目標。
(二) 組織面：
1. 建立專案團隊：由企業高階主管擔任知識長，知識管理推動小組為計畫核心推動成員，搭配由各單位推出的知識代表，共同來推動知識管理。
2. 設定參與對象：除選定適當人選擔任核心推動成員外，計畫正式展開時，可考慮選擇全體同仁共同參與，或是選定先導或示範單為來試行推動。
3. 教育訓練體系：針對高階主管、全體同仁與知識社群版主，分別實施不同課程的教育訓練，加強對知識管理的基礎觀念。
4. 知識工作者認證：為養成同仁自主知識管理的習慣、落實經驗與知識分享、挖掘高知識貢獻群的隱性知識，可推行知識專家、知識大師的認證。
(三) 流程面：
1. 擬定行動方案：利用策略地圖，將知識管理的願景與策略目標展開，設定具體的行動方案。
2. 知識加值活動：透過知識螺旋分析，建立面對面、小組對小組、團體對團體、現場實作型的知識分享活動。
3. 知識行銷活動：對內發行知識電子報、舉辦知識應用發表會或知識社群活動，對外則積極投稿成果專欄或學術文章，都有助知識的行銷。
4. 績效評估指標：知識管理的績效評估指標，可以依資訊科技指標、非資訊科技指標、量化指標與質化指標所形成的評估矩陣來設計。
(四) 內容面：
1. 有價知識庫：建立知識文件的審核標準、審核流程與審核委員會，進行有價值知識的篩選，並定期舉辦知識文件分享與加值活動。
2. 知識社群：建立以知識分享、挖掘隱性知識、激發創造力、加速專案溝通或解決急迫性專案問題的知識社群，成為知識工作者的溝通新管道。
3. 專家黃頁：將組織內部與外部知識專家名單及其相關基本資料與專業經歷建檔，方便同仁依專業查詢專家名單，或依專家名單查詢專業領域。
4. 組織學習中心：建立網路與實體的組織學習中心，落實最佳實務傳承與標竿學習，並讓同儕之間可以互相協助與學習成長。
5. 虛擬工作網絡：建立使用虛擬資源、數位工具的新觀念，打破傳統面對面會議、面對面溝通的習慣，讓遠距協同合作成為工作新環境。
(五) 科技面：
1. 開發廠商評估：資訊系統的開發，究竟是要自行設計或是委外開發？如果是委外開發，則需要設計一套評估標準以選擇適當的合作廠商。
2. 資訊系統規格：知識管理系統可以分成七個層級的架構，而知識入口、文件管理、群組軟體、搜尋引擎等模組，都應訂定開發規格。
3. 基礎建設評估：應先針對公司的資訊基礎建設與網路架構做一通盤性的了解後，再針對公司的軟、硬體設備進行現況分析。
4. 驗收與測試：不論是自行設計或委外開發，系統完工前的測試與驗收方式，以及修正後的結果說明，都是系統開放使用前的重要工作。
(六) 文化面：
1. 知識價值觀：知識型企業應建立符合知識透明、尊重多元價值的新知識價值觀，其中尤以Buckman的「工作道德規範」最值得觀摩與參考。
2. 分享文化：知識型企業應摒除藏私知識便可以擁有權利或競爭力的錯誤觀念，建立鼓勵分享、激勵分享型員工的企業文化。
3. 優勢轉型：找出部門與員工的核心專長與競爭優勢，並與動態的外在趨勢接軌，達成企業利用知識成功轉型的契機。
4. 激勵措施：找出可讓企業知識工作者願意分享、願意付出的誘因，設計實現這些誘因的激勵制度，可活化企業的分享文化。
(七) 創新面：
1. 交會點創新：鼓勵同仁善用交會點創新的三個驅動力─多與其他領域的人交流、學習跨領域的知識、多利用進步迅速的電腦科技。
2. 知識整合運用：知識管理與其他數位化、網路化專案的整合；知識文件、知識社群與專家黃頁的整合；知識管理與工作流程整合。
3. 協同知識分享：知識管理的焦點將會從內部知識的分享轉移到外部知識分享，知識管理的應用範圍將擴大到顧客、供應商及合作夥伴。
4. 知識價值鏈：知識以多元管道匯集，並收斂至單一窗口進入企業，透過知識加值活動運作後，再以發散式的多元價值貢獻度輸出。