AI 如何為公司創造更多價值？專家：2 個缺陷，要先由人類來修補

2021/05/13
採訪‧撰文
盧廷羲
張凱崴

美國人工智慧國家安全委員會（NSCAI）今年 4 月建議，國防部每年應至少分配 3.4% 的預算投入科技領域，並提撥 80 億美元研發 AI。企業方面，微軟（Microsoft）4 月宣布，將以 197 億美元收購語音辨識開發商紐安斯通訊（Nuance Communications）；後者是雲端與 AI 軟體的先驅。

從企業到國家，都愈來愈重視人工智慧，知道要想辦法運用 AI 創造更好的生活。不過，目前 AI 發展到底處於什麼階段？我們又該如何應用？

美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴形容，目前人工智慧技術已經可以幫助人類完成很多事，像是疫情來襲，電腦可以從大數據中篩選條件，自動搜尋、判讀潛在病例，幫助醫生大幅減少檢查時間，但 AI 也並非萬能，要先認知它的局限。他研究如何讓 AI 更符合人性，獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。

AI 局限1. 資料寬廣度不足時，就會複製人類偏見

張凱崴認為，電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考，如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差，「你跟電腦講清楚 input（輸入）、output（輸出），提供足夠的數據資料，它可以對應、學得很好，但還有很多面向 AI 做不到。」

舉例來說，亞馬遜（Amazon）2014 年推出智慧音箱（Amazon Echo），使用者口頭下指令給語音助理 Alexa 就能放音樂、查資訊。然而，有些人口音較罕見，或是用字較特殊，智慧音箱的資料庫沒有「不同口音」「不同用詞」的檔案，就可能失靈，這是當前 AI 的其中一大問題。

張凱崴進一步解釋，AI 另一項挑戰是，它無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別，只是從資料統計出要學的東西，無法像人類一樣進行邏輯思辨。

AI 的運作方式，第一步是輸入資料，第二步是分析，但這過程容易出現偏見。例如電腦在理解「總統」這個字，會去看四周有什麼字詞，來學習總統這個詞，由於許多總統都是男性，電腦就會「覺得」總統是男性。

這也是為什麼，如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄）。「你可以跟人類說，任何職業、性別都是平等的，但對電腦來講，這很困難，」張凱崴說明，一旦資料的寬廣度受限，電腦就容易產生偏見。

就像在自然語言處理（Natural Language Processing，讓電腦把輸入的語言變成有意義的符號）領域，張凱崴說明，AI需要知道代名詞指的是「哪個名詞」，才能運算下去。但如果資料受限，使用男性的「他」，電腦可能判斷這個代名詞是指總統、總理、執行長；但換成女性的「她」，由於數據不足，電腦就會混亂，出現系統性誤差。

他再舉一例，美國人工智慧研究組織 OpenAI 提出「生成式預先訓練」系統（GPT，Generative Pre-training），推出到 GPT3 版本，屬於書寫類 AI，電腦能夠揣測人們說完上一句話，下一句可能會講的句子，自動完成後半段。

好比有人上一句寫下「我正在和教授聊天」，系統可能推導出「我們在研究室討論學術問題」，因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示，GPT2（前一代版本）系統也從資料中學習到許多偏見，像是如果句子前半談論白人男性，系統傾向產生正面評價；如果句子前半是黑人女性，系統竟會產生負面句子。對企業來說，許多組織接觸 AI，想讓它們取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。

AI 局限2. 即便條件相同，也無法每次都做出正確判斷

「其實，現在的 AI 就像一台原型飛機，還缺乏穩定性。」張凱崴說，現行的 AI 就好比萊特兄弟（Wright brothers）剛發明飛機，看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。

紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片，AI 掃描後，確認是不是本人，但當時系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。

張凱崴說，在這個例子中，凸顯出 AI 的穩定性不足，「系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開。」所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策，這也是使用 AI 時，須留意的第二個挑戰。

他再舉例，許多模型可以準確分析，一則影評對電影的評價是正面或負面。然而研究顯示，有時只要將影評中一些字換成同義詞，例如把電影（movie）換成影片（film），或改寫句子，即使意思並未改變，系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。

在設計這些程式時，人們必須注意到 AI 可能有局限，設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。

餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆

經理人雖然不一定具備 AI 方面的專業知識，但只要掌握觀念，再透過 AI 領域專才協助，也能優化系統。張凱崴指出，最直接的方法是，設計 AI 模型時，要把來源群組不同的資料分門別類測試，在測試階段讓群體多元化，並確保不同特色的使用者，用起來都沒有問題。

舉例來說，一套 A 系統擁有來自各地的使用者，如果設計者是台北人，設計系統的思維容易以台北生活為主，很可能因為當地習慣不同，導致花蓮使用者操作不順。

另一個方法，則是用不同的「語意」，去測試 AI 有沒有徹底學會一個概念。例如，有一套餐廳評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性？張凱崴建議，可以利用「抽換詞面」的方法。

比如，把詞彙換成同義字，再看 AI 是否能運算出相同結果，「你可能會發現，原本評比結果是食物很美味，但如果美味換成比較困難的詞，AI 就會分不出這則評比是好是壞。」因此在訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。

第三種方式更進階：改變句型、重寫句子。張凱崴指出，同樣一句話，如果換成不同說法，電腦可能判讀錯誤，將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」，明明兩句話意思一樣，但 AI 很可能因為穩定性不足，搞混兩者的差別。如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。

張凱崴表示，經過這些測試，讓 AI 接受更多元化的訓練，得到更廣的學習範圍，往後碰到同義詞、相似資訊，才能有效判讀。

張凱崴總結，AI 還在快速發展，或許可以創造更多工作機會、新的職位，但現行階段，它只是輔助角色。AI 並非魔術盒子，使用它就一定有更好結果，人們還是要保持高度耐心，先認識它的缺陷，才能在技術更迭下，發揮出最好的結果。

張凱崴

台灣大學資訊工程系碩士、美國伊利諾大學（UIUC）電腦科學博士。美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授，研究領域包括人工智慧、機器學習、自然語言處理。2021 年獲得史隆研究獎（Sloan Research Fellowship），研究團隊開發的運算方法，使人類語言處理的程序更有效率、更多元，同時兼具公平性。

附圖：優化AI系統的3方法

資料來源：https://www.managertoday.com.tw/articles/view/62902?fbclid=IwAR2jI1bhg1anqct0AZZR_3LKKJqIsvG0wz2whSN8iniROZApHt-_qpD7dis

關於跟印度音樂家Waka桑合作我寫一下。請看一下(^ ^)
✳︎因為有兩個語言的nuance彼此不一樣的部分，所以翻譯不太正確啊，不好意思 m(_ _)m

《通過演出合作要變創作》

日本の音楽雑誌　Music Magazine が台湾の音楽の特集をした時に、アルバムのレヴューを書いて欲しいと頼まれました。頼まれた10枚のうちの1枚が、吳書齊の「」というアルバムでした。何の予備知識もなく聴いたアルバムだったのですが、懐かしたと異境が同居したような素晴らしいアルバムでした。知人を辿ってアルバムについて調べたところ、このアルバムでパーカッションを担当しているのは、日本人のWakaさんと判明しました。

日本音樂雜誌「Music Magazine」2020年4月有台灣音樂特輯的時候問我寫台灣專輯的文章。他們給我的十張之一就是已經逝世的鋼琴手吳書齊的「鹿港」以及這張專輯一邊有懷念的感覺一邊也有異境的感覺很好聽的。通過幾個朋友查了這張專輯明白這張專輯的鼓手是日本人Waka。

僕の音楽の歴史に、インド音楽のバックボーンはほとんど何もありません。が、異なる文化同士の音楽のコラボレーションが難しいことは僕自身よくわかっています。一緒に演奏するのは簡単だけれど、何かを創り出す、というレベルまで持っていくのは本当に大変です。それでも今回は、Wakaさんと演奏してみたいと思い、コラボレーションを開始しました。そこには、Wakaさんと引き合わせてくれた吳書齊氏の影響が大きいです。これは、ご縁の力と言ってよいでしょう。

我的音樂經歷完全沒有印度音樂的經驗。可是通過我的經驗我自己知道跟不一樣的文化的音樂合作真難。合作很簡單，可是創作很難。跟其他人一起演奏很簡單，可是通過演奏創很特別的音樂狀態很難。それにも関わらず因為這次我跟Waka桑想一起合作所以開始duo活動。這裡有台灣的鋼琴手吳書齊的影響很大。他讓我跟Waka桑遇見以及讓我們開始合作。這就是緣分的力量。

Wakaさんとの演奏を通して、インド音楽の奥の深さを感じずにはいられません。ライブに来ていただけたら、インド楽器の独特な表情の音色や耳慣れない音階を聴くだけでも面白いと思います。タブラはまるで喋っているようだし、エスラジはゆったりとした時間を私たちに思い出させてくれます。こう言った感触は、ライブならではのものなので、ぜひ生で体感していただきたいです。

每次跟Waka桑演奏與聊天我不得不知道印度音樂的深度。不過印度音樂也有很單純很好聽的。來到看表演的話大家都可以享受印度樂器獨一無二的顏色與很特別的音階。塔布拉鼓好像講話，艾斯拉吉琴讓我們想起來很放鬆的時間流動。這樣的感受就是看live演出特別的東西，所以我希望大家都有這樣的音樂體驗。

もうひとつ、ライブに来て欲しい理由があります。今回、このデュオのプロジェクト用に僕もWakaさんも、曲を作りました。その曲の中には、インド楽器とギターを美しく同居させたいという想いと想像力が詰め込まれています。ライブの中でそれらの曲たちは、このコラボレーションをより深いものにしつつ、聴きに来てくれたお客さんが楽しんでくれるためにより変化していくと思います。僕もその変化を楽しみたいと思いますし、台湾各地で皆さんとそれらを共有したいと思っています。こう言った過程があれば、このコラボレーションはより「創作」と言って良いものになっていくと思います。会場でお会いしましょう！

我還有一個理由你來看我們的演出。為了這個duo活動我跟Waka桑作曲幾首曲子。這些曲子裡面為了印度樂器跟吉他漂亮的一起存在有很大的願意與想像力。為了讓觀眾的大家享受我們的音樂通過演出這我們曲子給我們的合作深度與變化。我要想享受這個變化也想要分享大家一下。有這樣的過程的話我們的合作要變創作。
現場見啊！

【大丈夫・お疲れ様・どうも・ヤバい一句7解！？😨】
有同學仔話日文一個字咁多解，
咁咪好麻煩？
點會呢？
只要明白佢哋語感上嘅微妙差別（ニュアンス・nyuansu，即係「nuance」）就分得清點解囉～！ww

#大丈夫（だいじょうぶ・daijobu）
總之就係解「OK，我很好！」
所以當便利店醒個膠袋俾你，你唔想要，就可以同人講：「我OK啦，所以得啦，唔駛啦！」嘅意思囉。

#お疲れ様（おつかれさま・otsukaresama）
各位同學響日劇聽過公司啲人講「こんにちは」咩？ww
結局職場上都係一句「辛苦你啦」輕鬆包底。

#どうも（domo）
用嚟加響寒暄句前面，即係解「說之不盡的、非常」嘅意思。
於是令「多磨」響不同語氣下語帶不同意味，一句走天涯！

#ヤバい（yabai）
本來解「危險、糟糕」嘅意思，
直至後生仔每當覺得好衝擊，就會用佢嚟表達「不得了」嘅心情，於是無論見到有型得意靚嘢又好，恐怖嘢衰嘢危險嘢又好，都一律用佢嚟表達，真係ヤバいね。😅

Twitter：@KoalaEnglish180
原文連結：https://twitter.com/koalaenglish180/status/1256167761304186881?s=21

#記一句有7種意思好方便！
#日文就是語氣加身體語言
#ニュアンスが大事！

柯朋宇粉絲專頁// http://www.facebook.com/kurtpengyu/
----------------

巷口的漫畫店，招牌都舊了…
記得那時候，挑一套漫畫就能坐一下午。
從未嘗過真實戀愛滋味的小青澀，
對愛情的想像，最早也來自那裡。

如果，可以像櫻木一樣，遇見總是燦爛笑著、鼓勵著自己的晴子，我想我也會整天笑得像個傻瓜。
或是，像瀨戶，遇見一位溫柔、美麗、滿分到遙不可及的心儀對象伊織…只要有那麼一點點機會親近她，就會狂捏自己確定這不是在作夢。

某日下午，我遇見了她。

及肩長髮、白皙的皮膚，還有雙圓滾滾的大眼睛，
只是看一眼就烙印在我腦海，久久徘徊不去。

那時候我發現她喜歡看「美少女戰士」，為了更了解她，我也租了同一套漫畫來看。

…男女主角在生死交關之際交換愛之誓言…我驚訝地想著「原來這種劇情會打動女生呀？」
每每想到她，我就想著：「要是也能和她，有這樣跨越星球、宇宙，如此浪漫的對白就好了！」

但是，沒用如我，還是選擇先遠遠的…看著她、觀察她。

她騎著一台黑色的淑女車，書包放在前面的籃子裡，
天熱的時候綁著長馬尾，不多話，也總是一個人來漫畫店，
很安靜的看書，有時候會發呆。

「好想知道她在想什麼。」我內心大概怒吼過六萬次。

一個月後，我鼓起勇氣遞了一張紙條給她，寫著：「我可以當你的小衛嗎？…以後…」

她只看了看我，露出一抹微笑。
到現在我還不明白那個笑容的意思。

那天以後，我們依舊沒有說話，好像建立一些在遇見時會互相點頭的默契，
最終，我們仍是不知道彼此姓名的陌生人。

這大概是最不傷人的拒絕了，
如果可以，我也想像楊過…和小龍女使出完美地雙人劍法，就能了解彼此心意⋯
這樣我應該就能很勇敢地對她說：「讓我們一起在漫畫店修(ㄏㄢˋ)煉(ㄨㄟˋ)愛(ㄏㄜˊ)情(ㄆ一ㄥˊ)吧！」

LIVE Is Life
柯朋宇的音樂現場 - ＜修煉愛情＞ in 漫畫店
原唱/林俊傑

//
製作-杉朋娛樂 攝影 #莊柏林 吉他 #徐森 服飾提供-Laking
髮型 #Penny (倪萱髮藝NUANCE) 文案 #柯朋宇 #蔡昀羲 #周恨兒 場地提供/知苑租書坊 特別感謝/謝先生、林立恩、林淑貞小姐