AI 如何為公司創造更多價值？專家：2 個缺陷，要先由人類來修補

2021/05/13
採訪‧撰文
盧廷羲
張凱崴

美國人工智慧國家安全委員會（NSCAI）今年 4 月建議，國防部每年應至少分配 3.4% 的預算投入科技領域，並提撥 80 億美元研發 AI。企業方面，微軟（Microsoft）4 月宣布，將以 197 億美元收購語音辨識開發商紐安斯通訊（Nuance Communications）；後者是雲端與 AI 軟體的先驅。

從企業到國家，都愈來愈重視人工智慧，知道要想辦法運用 AI 創造更好的生活。不過，目前 AI 發展到底處於什麼階段？我們又該如何應用？

美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴形容，目前人工智慧技術已經可以幫助人類完成很多事，像是疫情來襲，電腦可以從大數據中篩選條件，自動搜尋、判讀潛在病例，幫助醫生大幅減少檢查時間，但 AI 也並非萬能，要先認知它的局限。他研究如何讓 AI 更符合人性，獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。

AI 局限1. 資料寬廣度不足時，就會複製人類偏見

張凱崴認為，電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考，如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差，「你跟電腦講清楚 input（輸入）、output（輸出），提供足夠的數據資料，它可以對應、學得很好，但還有很多面向 AI 做不到。」

舉例來說，亞馬遜（Amazon）2014 年推出智慧音箱（Amazon Echo），使用者口頭下指令給語音助理 Alexa 就能放音樂、查資訊。然而，有些人口音較罕見，或是用字較特殊，智慧音箱的資料庫沒有「不同口音」「不同用詞」的檔案，就可能失靈，這是當前 AI 的其中一大問題。

張凱崴進一步解釋，AI 另一項挑戰是，它無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別，只是從資料統計出要學的東西，無法像人類一樣進行邏輯思辨。

AI 的運作方式，第一步是輸入資料，第二步是分析，但這過程容易出現偏見。例如電腦在理解「總統」這個字，會去看四周有什麼字詞，來學習總統這個詞，由於許多總統都是男性，電腦就會「覺得」總統是男性。

這也是為什麼，如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄）。「你可以跟人類說，任何職業、性別都是平等的，但對電腦來講，這很困難，」張凱崴說明，一旦資料的寬廣度受限，電腦就容易產生偏見。

就像在自然語言處理（Natural Language Processing，讓電腦把輸入的語言變成有意義的符號）領域，張凱崴說明，AI需要知道代名詞指的是「哪個名詞」，才能運算下去。但如果資料受限，使用男性的「他」，電腦可能判斷這個代名詞是指總統、總理、執行長；但換成女性的「她」，由於數據不足，電腦就會混亂，出現系統性誤差。

他再舉一例，美國人工智慧研究組織 OpenAI 提出「生成式預先訓練」系統（GPT，Generative Pre-training），推出到 GPT3 版本，屬於書寫類 AI，電腦能夠揣測人們說完上一句話，下一句可能會講的句子，自動完成後半段。

好比有人上一句寫下「我正在和教授聊天」，系統可能推導出「我們在研究室討論學術問題」，因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示，GPT2（前一代版本）系統也從資料中學習到許多偏見，像是如果句子前半談論白人男性，系統傾向產生正面評價；如果句子前半是黑人女性，系統竟會產生負面句子。對企業來說，許多組織接觸 AI，想讓它們取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。

AI 局限2. 即便條件相同，也無法每次都做出正確判斷

「其實，現在的 AI 就像一台原型飛機，還缺乏穩定性。」張凱崴說，現行的 AI 就好比萊特兄弟（Wright brothers）剛發明飛機，看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。

紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片，AI 掃描後，確認是不是本人，但當時系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。

張凱崴說，在這個例子中，凸顯出 AI 的穩定性不足，「系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開。」所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策，這也是使用 AI 時，須留意的第二個挑戰。

他再舉例，許多模型可以準確分析，一則影評對電影的評價是正面或負面。然而研究顯示，有時只要將影評中一些字換成同義詞，例如把電影（movie）換成影片（film），或改寫句子，即使意思並未改變，系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。

在設計這些程式時，人們必須注意到 AI 可能有局限，設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。

餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆

經理人雖然不一定具備 AI 方面的專業知識，但只要掌握觀念，再透過 AI 領域專才協助，也能優化系統。張凱崴指出，最直接的方法是，設計 AI 模型時，要把來源群組不同的資料分門別類測試，在測試階段讓群體多元化，並確保不同特色的使用者，用起來都沒有問題。

舉例來說，一套 A 系統擁有來自各地的使用者，如果設計者是台北人，設計系統的思維容易以台北生活為主，很可能因為當地習慣不同，導致花蓮使用者操作不順。

另一個方法，則是用不同的「語意」，去測試 AI 有沒有徹底學會一個概念。例如，有一套餐廳評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性？張凱崴建議，可以利用「抽換詞面」的方法。

比如，把詞彙換成同義字，再看 AI 是否能運算出相同結果，「你可能會發現，原本評比結果是食物很美味，但如果美味換成比較困難的詞，AI 就會分不出這則評比是好是壞。」因此在訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。

第三種方式更進階：改變句型、重寫句子。張凱崴指出，同樣一句話，如果換成不同說法，電腦可能判讀錯誤，將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」，明明兩句話意思一樣，但 AI 很可能因為穩定性不足，搞混兩者的差別。如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。

張凱崴表示，經過這些測試，讓 AI 接受更多元化的訓練，得到更廣的學習範圍，往後碰到同義詞、相似資訊，才能有效判讀。

張凱崴總結，AI 還在快速發展，或許可以創造更多工作機會、新的職位，但現行階段，它只是輔助角色。AI 並非魔術盒子，使用它就一定有更好結果，人們還是要保持高度耐心，先認識它的缺陷，才能在技術更迭下，發揮出最好的結果。

張凱崴

台灣大學資訊工程系碩士、美國伊利諾大學（UIUC）電腦科學博士。美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授，研究領域包括人工智慧、機器學習、自然語言處理。2021 年獲得史隆研究獎（Sloan Research Fellowship），研究團隊開發的運算方法，使人類語言處理的程序更有效率、更多元，同時兼具公平性。

附圖：優化AI系統的3方法

資料來源：https://www.managertoday.com.tw/articles/view/62902?fbclid=IwAR2jI1bhg1anqct0AZZR_3LKKJqIsvG0wz2whSN8iniROZApHt-_qpD7dis

[Share]

2020年到底怎麼了？

---
Quote:

這個大爆炸將為時局飄蕩的黎巴嫩再添一層陰影。

黎巴嫩正經歷政治動盪，以及自1975年 - 1990年內戰以來最嚴重的經濟危機。《美聯社》本月3日分析指出，黎巴嫩因內政的失敗加上疫情的影響，正邁向亡國之路，或將面臨國家瓦解的命運。

分析指出，黎巴嫩內戰使首都「貝魯特」（Beirut）一詞成為毀滅性戰爭的同義詞，自戰爭結束以來，該國遭受了敘利亞佔領、與以色列的反覆衝突、一連串的宗派鬥爭，以及來自鄰國敘利亞內戰的100萬難民。

另一方面，該國當前的危機很大程度上是黎巴嫩幾十年來的腐敗，導致該國電力、食物短缺，陷入債務危機、社會分裂等種種嚴重國內危機。而黎巴嫩政府的腐敗、拖欠債務，也導致該政府無法得到國際貨幣基金組織（IMF）和法國等外國援助。

定海神針 - 扣緊變化中的三個必須

台灣現在還處在疫情的慶祝行情中，但兩個月之內就要面對殘酷的現實 -過去三個月所造成的世界經濟停擺現實，將帶來比起1929大蕭條更加低迷的衰退，時間可能長於兩三年甚至更久。有人說，台灣會是新局中的得利者，但即使如此也只是相對性的，實質的外貿壓力、金融壓力、社會內部的行業壓力、就業以及分配壓力，不會讓台灣好過。

台灣現在擔心2020年下半年是否會出現真實的台海軍事緊張，但也在猜測中共中南海是否會對美國白宮服軟，從而暫時解除台海緊張的引信。

習近平陷入共產政權內部鬥爭的攤牌時刻，這已是不爭的事實。11月底面臨連任選舉的川普總統，由於前所未有的重磅經濟打擊，陷入他是否能帶領美國再次偉大的質疑，也是不爭的事實。

疫情後的地球，不會再回到疫情前的地球，任何懷疑這點的人，都將為舊情綿綿付出代價。在可預見的將來，變化將是新常態，而且是每週、每天在變化。「變化」的同義詞，就是「不可預測」；過去三個月的全球疫情徹底顛覆了人類過去幾百年來累積的對秩序的預測技能。極端一點講，從亞當史密斯以來的所有經濟學原理，沒有一條能夠適用於當下；1648年西發利亞協定以來的國際秩序論述，無論什麼派別，看來都會失效。

四個字總括一切，就是「天翻地覆」。變，就是地球未來十年的主流；政治上的、經濟上的、生活方式上的、思維方式上的，任何方面都無法逃脫。

台灣當然也逃不掉。但，台灣究竟不在人類中心，其實不用為人類煩惱，若過於為世界擔憂，反而有點自尋心理負擔。然而，台灣必須為自己煩惱、為自己擔憂，把自己安排好了，就算是對人類、對世界盡責了。在種種天翻地覆中，台灣若要把自己安頓好，最需要扣緊的變化主軸有三條：美國與中共政權的脫鉤，必然迎來的台灣與中共政權的脫鉤，以及無可避免的台灣與美國的掛鉤。

我知道有人不同意突出這三條，或者不同意將其列為主軸。沒有關係，讓我們各自保留不同的看法。但首先還是要澄清一點：在此文的脈絡下，提出這三條並不是基於什麼理念，而是百分之百基於對現實的觀察。

不論是快一點還是慢一點，美國必然得與中共政權脫鉤。請注意，這兒說的是「中共政權」，而不是「中國」。由於中共政權的本質，美國若繼續通過中共與14億人口打交道，對美國立國精神的傷害將是無法逆轉的，甚至美國連作為一個正常國家都不可得。因此，美國必須與中共政權脫鉤，換一種方式與14億人打交道。

由於戰略地緣的因素，還有與美國的歷史牽扯，台灣也將不得不在大勢下與中共政權脫鉤；但是，同樣基於地緣和歷史因素，台灣也不可能假裝隔壁那塊大陸不存在，而也必須發展出另外一種與14億人打交道的方式。

因為以上兩點的交集，台美之間的掛鉤程度勢必強化。再說一次，這點不牽涉到什麼理念或價值，而是單純的，它就是現實。相信我，連中共政權都知道這是現實，台灣若還有人不知道這是現實，只能說是被舊情綿綿所誤，或因舊利綿綿而不願面對。

扣緊這三條主軸以錨定台灣的戰略，不被千變萬化、起起伏伏的枝節誤導，台灣就能把自己安頓好。台灣若有定海神針，非這三條主軸莫屬；過程中，戰術可以因為枝節或時差而調整，但戰略焦點不可搖擺。

最可能使台灣在過程中誤判而摔大跤的，其實就是台灣社會自己的認知缺陷。台灣當下處於選票文化掛帥的不成熟狀態，也有人稱其為民粹掛帥。在這狀態下，台灣大多數人還陷在所謂的「兩岸關係」的語境下，頭腦比較清楚的頂多也只達到「美中台三角關係」的意識程度。殊不知，與台灣前途有關的動力模型，已經演化到了一種「四角關係」- 美國、中國、中共、台灣。

多數台灣人尚未意識到，美國的國會及白宮，已經開始區別「美中關係」和「美共關係」，多數其他的國家，遲早也會形成這種區隔認知。對區隔「中共」與「中國」的認知，台灣大大落後了。倘若不趕快跟上認知的腳步，有一天台灣可能陰錯陽差的成為區域大局中的麻煩製造者，反之若跟上美國的認知腳步，台灣的戰略空間將大大擴張，對台灣的主權及國家安全，會有極大的幫助。

（本文原刊於 2020-05-17 蘋果日報）