近日，我與阿萊克斯·彭特蘭教授（Alex Pentland）展開了一場”AI如何重塑人類社會”的精彩對話。

《連線》雜誌的資深撰稿人威爾·奈特（Will Knight）主持了這場對話。

阿萊克斯·彭特蘭教授任教于麻省理工學院，為全球大資料權威專家之一，現任MIT連接科學研究所主任、MIT媒體藝術與科學教授，擁有“可穿戴設備之父”、《福布斯》“全球七大權威大資料專家”、《麻省理工科技評論》“年度十大突破性科技”兩度桂冠獲得者等頭銜，曾參與創建MIT媒體實驗室，是全球被引述次數最多的計算科學家之一。

對話金句：

李開復：

 AI最大的機會蘊藏在與傳統企業的結合中，這種價值的產生極其迅速，只需要幾個月，甚至短短幾周。
 未來突破很難預測，對奇點、超級智慧的爭辯，在我看來都過於樂觀了。
 小型AI公司與巨頭競爭，我的建議是找准巨頭沒有平臺優勢的細分領域，為某個針對性產業創造價值，不要與巨頭核心業務正面硬碰。

阿萊克斯·彭特蘭：

 AI絕非試圖取代人類，而是促進多元文化之間的相互連接、團隊合作，讓人們更好的進行社交和連接彼此。
 最困難的其實是說服人們改變商業流程去使用AI，因為大多數人是墨守成規的。
 人工智慧有朝一日可以取代人類所有的能力，但是這個過程會非常漫長，可能需要上百年或更久。

我在對話中表示，當我們試圖解決AI問題時，應該用技術來解決技術的問題，可以尋求與監管部門協作，而不只是丟給他們，“新技術會衍生新的問題，我們應該多方嘗試用更進階的技術性解決方案，就像電腦病毒剛出現時，殺毒軟體隨之誕生。”

彭特蘭教授認為，人工智慧的核心，是促進多元文化之間的相互連接。不只是工程師或科學家，連經濟學家、政治家都必須參與進來。“國家之間應該促進合作、制定互通標準，就像TCP/IP互聯網協定那樣，避免AI冷戰。” 我們都贊同，AI發展從來不是單打獨鬥，跨學科思維、跨領域合作尤為重要。 這場對話是麻省理工學院中國創新與創業論壇（MIT-CHIEF) 組織的高峰對話系列活動，主題是《計算與未來: AI與資料科學如何重塑人類社會》。

麻省理工學院中國創新與創業論壇（MIT-CHIEF）由麻省理工學院的中國留學生創立，至今已有十年，是北美歷史最悠久的、由高校學生組織的中國創新創業論壇。系列高峰對話邀請了頂級科學家、投資人及創業者，共同探討科技創新及商業化過程中面臨的挑戰。

以下是我們對話的核心內容，由我的同事整理、分享給大家：

Part I 主題演講

▌李開復：各方應協作，讓AI 更務實

非常榮幸再次受到MIT-CHIEF的邀請，對於人工智慧的看法，這次我主要想講四點。

第一點是我書裡的主題，人工智慧的超能力。我們已經從人工智慧的發明期步入應用期階段，從應用落地層面來說，正迎來了AI發展最大的機遇。

很多科技公司目前已對人工智慧進行了多樣化佈局，從視覺、語言、觸覺和其他感知技術，到自動化機器人、無人駕駛等，對很多領域開啟了深遠的影響。雖然眼下所見的AI應用仍有局限性，但我預測未來的格局會非常龐大，依據統計，各行各業採用AI的程度目前不到5%，AI應用的中長期增長曲線相當可期。

第二點是我很欣喜看到的一點，AI正在和傳統行業深度融合。隨著人們對人工智慧的瞭解越來越多，更多的AI公司湧現出來。

AI最大的機會蘊藏在與傳統企業的結合中，創新工場也正在説明金融、製造、物流、零售、醫療等行業的公司進行AI變革。

作為AI投資人，我認為在這些行業如果找到正確的AI應用方向，就能帶來上千萬的回報。這種商業價值的產生是極其迅速的，通常只需要幾個月，甚至短短幾周就能看到成果。

現在人工智慧在傳統產業的滲透率仍在個位數，仍然有很大的提升空間。然而對於很多公司來說，它們需要的是高度定制化的方案，而非通用型AI方案，所以融合的過程中，不可避免會遇到不少挑戰和痛點。

第三，我早年做過很多科研工作，很高興能看到關於系統一和系統二（System One, System Two）的討論，我們期待人工智慧技術從系統一升級為系統二，即從識別、決策、優化等能力，升級到感知、認知等進階智慧的能力。

有不同的學派都在努力讓人工智慧更接近人類智慧，其中一個流派主張回歸經典的AI理念，甚至重新構建嶄新的模型結構，在深度學習技術的基礎上利用人類的知識。但我更支持另一個理論——深度學習的潛力還沒有完全釋放。

回看人工智慧過去60多年的歷程，最大的突破來自於計算能力和資料量大增而產生的可擴展演算法。我們看到了卷積神經網路（CNN）帶來的喜人成績，還有預訓練自然語言處理模型（Pre-Trained Models for Natural Language Processing）的廣泛運用。

預訓練模型與人類語言學習的模式類似，不管是英語還是中文，在習得這些語言之後，再去學習程式設計、藝術、化學。在無人監督的學習環境中，這種模式比我們想像得還要強大，就像阿爾法圍棋（AlphaGo）一樣。

最後一點我想說的是，如何讓AI變得更務實。

AI有很多問題，例如隱私、資料安全、治理和監管，在此就不一一討論了。當我們試圖解決這些AI難題時，有人認為讓監管部門加強管理是唯一辦法，其實不然，我們是否也可以朝著研發更厲害的技術性解決方案去努力？

就像電腦病毒剛出現時，殺毒軟體隨之誕生；面對千年蟲難題時，也迅速找到了技術應對方案。我們可以通過研發新技術，應對DeepFake深度換臉程式的挑戰；或者通過聯邦學習技術，在保證資料私密性的同時，滿足深度學習訓練需求。

作為握有技術能力的群體，我們需要與監管部門一起協作，而不只是把工作丟給他們。相信有了各方的助力，我們可以讓AI的應用變得更有深度，更加務實，更高效地克服現在面臨的種種問題。

▌阿萊克斯·彭特蘭：國家間應建立互通標準，避免“AI冷戰”

我對當前的深度學習技術不太樂觀。

最為主要原因是，深度學習不僅需要龐大的資料來源，而且要求這些資料長時間恒定不變，以保證模型訓練結果的可靠性，例如人類的面容、語言，就是相對穩定不變的資料來源。

但深度學習卻沒法應對快速變化的真實情況。亞馬遜在新冠疫情蔓延速度暴增時，出現了倉庫貨物緊缺，不得不停止送貨服務。這種經過深度學習高度優化後的系統發生崩潰，就是因為快速變化的疫情，和深度學習對恒定資料來源的需求是矛盾的。

另外，我想談談如何通過聯邦學習，促進資料的流通。

大多數公司沒有足夠豐富的資料，需要聯合不同的資料來源。基於這種需求，出現了很多新商業模式，比如“資料經紀人”——他們不出售資料，而是把資料借出去，作特定需求的使用。

“資料經紀人”業務湧現了很多，他們促進了資料的流通，也加強了資料的隱私性。因此，像聯邦學習這樣的技術和商業策略結合，有效解決了資料在合規性和所有權方面的難題。

聯邦學習也依賴於新的基礎設施建設，為資料應用和深度學習提供基礎環境，比如區塊鏈技術。現在世界上很多國家在做相關系統的建設實驗，新加坡等國家設置了一種相互競爭的區塊鏈系統，來解決支付和物流問題。我們最近也幫助瑞士做了類似的實驗，涉及不同資料的互通性和連貫性問題。

我們仍在研究如何用儘量少的資料，實現人工智慧的目標。少量資料是指不斷更新的短期資料，這些資料能使AI應對迅速變化的情況，並及時做出調整。

我們打算將AI與其他基礎科學結合，例如阿爾法圍棋(AlphaGo)就是這類結合的初步嘗試。這些方法不依賴于大量恒定資料，可能會比深度學習更加強大。

除此之外，我們在探討用AI保障聯邦學習過程中不同資料方的權益，這是實現不同國家之間的互通性、支付信任度、物流運輸等方面合作的關鍵前提。

另一方面，我們探索如何將AI技術應用於加密資料上。我們和大公司以及政府密切合作，找出解決系統入侵和保障網路安全的方法。

我同時花了很多時間研究與政府的合作。政府很多時候不知道如何通過大資料做決策，也不知道如何進行資料優化。而AI能夠幫助政府實現更高的效率，比如聯合國現在已經有了很多可持續發展目標的相關評估指標,世界經濟論壇也可以為會員國提供不同的標準測算。

基於我們已有的多中繼資料庫，現在可以利用AI實現全新的資料優化方式，將貧困、不平等這種之前無法量化的指標，通過可量化的指標進行評估。

同時，要真正實現這個目標，我們還需要制定統一的互通性標準。如果沒有這個標準，國家之間就不會相互信任去合作，就可能出現AI冷戰。

因此我們需要找到促進合作的方式，就像TCP/IP互聯網協議那樣。而之前我提到的，新加坡、瑞士等現在正在嘗試的區塊鏈系統，將有希望解決國家間缺乏互通標準的問題。

Part II 對話

▌ 美國線上教育發展難度更大，只在ZOOM上講課是不夠的

Q1：疫情加速了行業的改變，遠端醫療、線上教育開始蓬勃發展，這只是AI對人類社會產生影響的冰山一角。想請兩位談一談，目前看好AI在哪些領域應用的未來前景？

李開復：疫情的確對整個社會產生了實質性的影響，人們行為習慣發生了很多改變，更願意接受線上學習和工作了。

這種新的行為習慣產生了大量資料流程，為AI應用帶來了更多可能性。比如大健康領域以及遠端醫療中所產生的資料，可以訓練更智慧的模型。同時更多人開始在基因組學、新藥研發方面結合新的AI技術進行研究，因此我相信AI在醫療健康領域的潛能是非常巨大的。

AI與教育的結合也很值得期待。一方面可以説明老師處理重複性的日常事務，例如批改作業，讓老師得以將時間精力投入到更有創造性的事情上，能更悉心地為孩子提供優質教學。另一方面可以提高學生的課堂參與度和積極性，比如設置卡通版AI虛擬老師，讓課程充滿趣味性。

在中國，有很多線上教育公司在疫情之前就已經發展迅速，像創新工場投資的VIPKID，讓國外的純正英語老師線上上教授中國學生。目前，中國的線上教育已經擴展到了更多科目，包括體育、舞蹈、書法等素質教育課程。

相比之下，美國線上教育發展的難度會更大。畢竟只在ZOOM上講課是不夠的，好的線上教育必須要有好的內容。

▌AI核心是增強人際互聯，應注重文化多樣性

阿萊克斯·彭特蘭：李開復博士提到的教育案例，我不是很認同。

MIT大約20年前就在教育中使用AI，重點根本不是內容，我們甚至提倡將內容免費開放給大眾。

AI絕非試圖取代人類的作用，我們更強調用AI增強人與人之間的互動，讓人們更好的社交和連接彼此。比如手機上人工智慧技術，不是要取代你，而是讓你高效地找到最適合的工作、最正確的人，讓你更容易的獲取資訊，並進行創新。

我們可以利用資料激發更強的創新力，培養領導力。只有基於這樣的宗旨，才能促進更有創造力的教育和學習，這比關注教育內容本身重要得多。

在加拿大，有家創業公司正在訓練普通民眾學習AI，比如水管工，教學效果非常不錯。他們的教育方式不是簡單的教授基本知識，而是以一種能夠激發人們互動思考的方式。

我們之前在中國調研了3000多個孵化器，發現創業公司成功的要素裡，第一個是文化多樣性，也就是說創始團隊背景的複雜性和多樣性。第二個是團隊成員專業的多樣性，他們能否發揮自己所長，並很好地進行團隊合作。

1956年，馬文·明斯基 (Marvin Minsky)提出了人工智慧這個詞。但我們對於人工智慧的理解，不應該只停留在“人工”層面，而應擴展到多元文化之間的相互連接、團隊合作，我把它叫做延伸智能（Extended Intelligence)。這也是我想強調的，人工智慧這個名詞有一定的偶然性，但它的核心點是增強人與人之間的互聯性。

▌AI未來突破難預測，奇點、超級智慧過於樂觀

Q2：未來十年AI有沒有可能取得重要突破？比如GPT-3近期展現驚人的能力。兩位認為未來的突破方向是什麼？

李開復：過去60多年來，深度學習是唯一的重大突破。在這之後，卷積神經網路（CNN）和GPT-3等都算是重要的改善，我對於人工智慧的漸進式改善保持樂觀。

對科學家來說，他們更期待著技術上的突破式進展。但我覺得未來十年基礎科研或許不會有大的突破。但模型相對容易，只要有大量的資料，就可以從實驗室進入到行業應用，CNN和GPT-3都是模型加海量資料的成果。

我是務實派的，雖然持有樂觀態度，但並不是一位“未來學家”。未來的突破很難預測，對奇點（Singularity）的爭辯，甚至預測超級智慧的出現，在我看來都過於樂觀了。

阿萊克斯·彭特蘭：我同意李博士的觀點。很多生物機制很難解釋，包括用感知認識事物、理解聲音、尋找食物等，是深度學習演算法做不到的。但深度學習可以研究科學、制定規則、研究理論，並進行實踐。

從務實的角度來說，我最感興趣的就是聯邦學習。就醫療而言，我們有這麼多醫院，在新冠疫情期間做了很多的實驗，為什麼這些實驗資料不能進行聯合呢？

儘管資料有不相容的地方，但這也是一個很好的機會去探究不同的資料之間的關聯性。在未來，我們對資料的需求也許會越來越少，外科醫生或者物理學家或許不需要太多資料，因為他們對規則已經瞭若指掌了。

▌不要墨守成規，要跨領域、跨學科應對挑戰

Q3：人工智慧會有什關鍵挑戰？對於想從事這個行業的人，有什麼是需要瞭解的關鍵點？

李開復：首先，大背景在改變，新科技層出不窮，我們每年都需要學習新的東西。

其次，人工智慧可能引起各種問題，包括偏見、歧視、倫理道德等，是否危害人類的身體健康，無人駕駛技術該何去何從等等。

第三，人工智慧的研發需要深刻地理解技術對社會、生活與人類健康會產生的影響。我非常欣賞斯坦福和MIT這樣的高校，能夠把AI教育擴展到各個學科，讓研發人員及早意識到自己的責任和價值。

阿萊克斯·彭特蘭：是的，我朋友做過一個有關電的趣味類比，電動馬達最初在工廠裡用於生產的時候，並沒有發揮出多大的作用，因為大家並不知道如何改造生產流程。

AI在一些領域發揮的作用是顯著的，但應用到其他領域時，就需要改造流程。很多情況下，最困難的就是說服人們改變商業流程去使用AI，因為大多數人是墨守成規的。

而有意思的是，就像李博士提到的，像MIT和斯坦福這樣的高校確實在認真嚴肅地對待這個問題。

比如，我今天早上正好就這個話題跟G20領導人對話，大家一致認為我們必須從跨領域、跨學科的角度去面對這個問題，不能只是工程師或者社會科學從業者們在做，經濟學家，政治家等等都必須參與進來緊密合作。

隨著AI的應用領域越來越廣，除了必須具備強有力的技巧來建立社會規則，還需要對研究經費、企業投入等進行各種調整。

▌雖然大公司實力不容小覷，但依舊對小公司抱有期待

Q4：AI研究會消耗大量的資源，我們是否應該將資源往學術界平衡？現在已經發生資源的重新分配和平衡了嗎？

李開復：就人才而言，現在已經有重新平衡的跡象了。

過去，頂尖大學的學者基於待遇和種種考量，不少選擇去企業界工作。而近期，曾任職於百度、海爾、位元組跳動等公司的數位優秀AI科學家已經回歸高校。

但像GPT-3這樣的技術，仍然不是大學和小公司能支付得起的。支撐GPT-3運行的電腦是世界算力第五的超級電腦。每進行一次演算法訓練，就要花費460萬美金，只有像騰訊、穀歌、微軟這個級別的公司才能負擔得起如此強大的算力。

我觀察到，近年的AI創業公司已經和5年前截然不同了。它們一般由AI科學家和商業人才共同創建，為了解決特定問題而生，並非紙上談兵做突破性科研，切入的領域也往往是巨頭公司忽略的地方。

例如，為製造業進行AI賦能，不是一件輕鬆的事，需要去工廠實地勘查，瞭解運作方式。大公司因為賺錢很容易，不願意做這些性價比低的苦活累活。這些小公司的努力一旦有了成果，就會給產業界帶來革命性的影響。所以，雖然大公司的實力不容小覷，但我依舊對小公司抱有期待。

阿萊克斯·彭特蘭：大學和公司是一種融合的關係，不僅體現在人才流動上，也會進行資訊資源分享，彼此是整體性的合作態勢。

當然這也不是絕對，產業界的保密需求還是存在的，只是從學校的出發點來說，我們願意毫無保留地為大家提供更好的研究成果，並與企業合作，形成標準化平臺。

▌人工智慧取代人類需要上百年或更久

Q5：兩位認為什麼是AI不能取代的？

李開復：一類是創造力、分析能力、邏輯辯論能力，瞭解自己知道什麼不知道什麼，這些是人工智慧無法取代的。另外一類是同理心，人類之間的信任、友誼，自我認知、意識等。

阿萊克斯·彭特蘭：人工智慧有朝一日可以取代人類所有的能力，但是這個過程會非常漫長，可能需要上百年或更久。

▌AI創業建議I：找到小切入點，不要與巨頭正面硬碰

Q6：李博士提到了AI在小企業中的運用，可否再舉例說明是如何運用的？

李開復：這個問題分兩部分：一個是小型AI公司與巨頭競爭，我的建議是找准巨頭沒有平臺優勢的細分領域，為某個針對性產業創造價值，並且不要與巨頭核心業務正面硬碰。

對於那些中小型非AI、但想應用AI的公司，需要確保有足夠的資料，以訓練與核心商業價值掛鉤的AI模型，並且有願意變革的開放性公司文化。

所以，早期應用AI的公司可能規模較大，因為他們有足夠大的資料，和可相容變革的商業模型。每個例子都不同，不是任何一家公司都要應用AI。

阿萊克斯·彭特蘭：如果我們放寬AI的定義，或許水管工、合同工都有資料，通過一些簡單的分析、整合，AI也可以在很大程度上改進他們的工作。

這些都是很小的切入點，基於簡單的AI分析、機器學習，依舊可以產生巨大的潛力。

▌ AI創業建議II：知曉技術，同時理解商業

Q7：兩位再分享一下最後的建議？

李開復：我們在步入一個AI開始滲透到方方面面的令人振奮的時代，我希望所有的學生們都能參與到這個改革浪潮中。要深刻地理解人工智慧的商業落地，而不僅僅鑽研技術本身。

阿萊克斯·彭特蘭：不要太較真於深度學習或者冗長的演算法，一切始於要解決的現實問題。不要止步於技術本身，要明白資料類型、形態和規律，關注商業流程。

感謝葉樂斐、劉諾、藍萱、張昊、陳冬傑、劉子昂、張梓煜、錢淩寒、水一方、沈雍在校譯和審閱上對本文的貢獻。

近日，我與阿萊克斯·彭特蘭教授（Alex Pentland）展開了一場”AI如何重塑人類社會”的精彩對話。

《連線》雜誌的資深撰稿人威爾·奈特（Will Knight）主持了這場對話。

阿萊克斯·彭特蘭教授任教于麻省理工學院，為全球大資料權威專家之一，現任MIT連接科學研究所主任、MIT媒體藝術與科學教授，擁有“可穿戴設備之父”、《福布斯》“全球七大權威大資料專家”、《麻省理工科技評論》“年度十大突破性科技”兩度桂冠獲得者等頭銜，曾參與創建MIT媒體實驗室，是全球被引述次數最多的計算科學家之一。

對話金句：

李開復：

 AI最大的機會蘊藏在與傳統企業的結合中，這種價值的產生極其迅速，只需要幾個月，甚至短短幾周。
 未來突破很難預測，對奇點、超級智慧的爭辯，在我看來都過於樂觀了。
 小型AI公司與巨頭競爭，我的建議是找准巨頭沒有平臺優勢的細分領域，為某個針對性產業創造價值，不要與巨頭核心業務正面硬碰。

阿萊克斯·彭特蘭：

 AI絕非試圖取代人類，而是促進多元文化之間的相互連接、團隊合作，讓人們更好的進行社交和連接彼此。
 最困難的其實是說服人們改變商業流程去使用AI，因為大多數人是墨守成規的。
 人工智慧有朝一日可以取代人類所有的能力，但是這個過程會非常漫長，可能需要上百年或更久。

我在對話中表示，當我們試圖解決AI問題時，應該用技術來解決技術的問題，可以尋求與監管部門協作，而不只是丟給他們，“新技術會衍生新的問題，我們應該多方嘗試用更進階的技術性解決方案，就像電腦病毒剛出現時，殺毒軟體隨之誕生。”

彭特蘭教授認為，人工智慧的核心，是促進多元文化之間的相互連接。不只是工程師或科學家，連經濟學家、政治家都必須參與進來。“國家之間應該促進合作、制定互通標準，就像TCP/IP互聯網協定那樣，避免AI冷戰。” 我們都贊同，AI發展從來不是單打獨鬥，跨學科思維、跨領域合作尤為重要。 這場對話是麻省理工學院中國創新與創業論壇（MIT-CHIEF) 組織的高峰對話系列活動，主題是《計算與未來: AI與資料科學如何重塑人類社會》。

麻省理工學院中國創新與創業論壇（MIT-CHIEF）由麻省理工學院的中國留學生創立，至今已有十年，是北美歷史最悠久的、由高校學生組織的中國創新創業論壇。系列高峰對話邀請了頂級科學家、投資人及創業者，共同探討科技創新及商業化過程中面臨的挑戰。

以下是我們對話的核心內容，由我的同事整理、分享給大家：

Part I 主題演講

▌李開復：各方應協作，讓AI 更務實

非常榮幸再次受到MIT-CHIEF的邀請，對於人工智慧的看法，這次我主要想講四點。

第一點是我書裡的主題，人工智慧的超能力。我們已經從人工智慧的發明期步入應用期階段，從應用落地層面來說，正迎來了AI發展最大的機遇。

很多科技公司目前已對人工智慧進行了多樣化佈局，從視覺、語言、觸覺和其他感知技術，到自動化機器人、無人駕駛等，對很多領域開啟了深遠的影響。雖然眼下所見的AI應用仍有局限性，但我預測未來的格局會非常龐大，依據統計，各行各業採用AI的程度目前不到5%，AI應用的中長期增長曲線相當可期。

第二點是我很欣喜看到的一點，AI正在和傳統行業深度融合。隨著人們對人工智慧的瞭解越來越多，更多的AI公司湧現出來。

AI最大的機會蘊藏在與傳統企業的結合中，創新工場也正在説明金融、製造、物流、零售、醫療等行業的公司進行AI變革。

作為AI投資人，我認為在這些行業如果找到正確的AI應用方向，就能帶來上千萬的回報。這種商業價值的產生是極其迅速的，通常只需要幾個月，甚至短短幾周就能看到成果。

現在人工智慧在傳統產業的滲透率仍在個位數，仍然有很大的提升空間。然而對於很多公司來說，它們需要的是高度定制化的方案，而非通用型AI方案，所以融合的過程中，不可避免會遇到不少挑戰和痛點。

第三，我早年做過很多科研工作，很高興能看到關於系統一和系統二（System One, System Two）的討論，我們期待人工智慧技術從系統一升級為系統二，即從識別、決策、優化等能力，升級到感知、認知等進階智慧的能力。

有不同的學派都在努力讓人工智慧更接近人類智慧，其中一個流派主張回歸經典的AI理念，甚至重新構建嶄新的模型結構，在深度學習技術的基礎上利用人類的知識。但我更支持另一個理論——深度學習的潛力還沒有完全釋放。

回看人工智慧過去60多年的歷程，最大的突破來自於計算能力和資料量大增而產生的可擴展演算法。我們看到了卷積神經網路（CNN）帶來的喜人成績，還有預訓練自然語言處理模型（Pre-Trained Models for Natural Language Processing）的廣泛運用。

預訓練模型與人類語言學習的模式類似，不管是英語還是中文，在習得這些語言之後，再去學習程式設計、藝術、化學。在無人監督的學習環境中，這種模式比我們想像得還要強大，就像阿爾法圍棋（AlphaGo）一樣。

最後一點我想說的是，如何讓AI變得更務實。

AI有很多問題，例如隱私、資料安全、治理和監管，在此就不一一討論了。當我們試圖解決這些AI難題時，有人認為讓監管部門加強管理是唯一辦法，其實不然，我們是否也可以朝著研發更厲害的技術性解決方案去努力？

就像電腦病毒剛出現時，殺毒軟體隨之誕生；面對千年蟲難題時，也迅速找到了技術應對方案。我們可以通過研發新技術，應對DeepFake深度換臉程式的挑戰；或者通過聯邦學習技術，在保證資料私密性的同時，滿足深度學習訓練需求。

作為握有技術能力的群體，我們需要與監管部門一起協作，而不只是把工作丟給他們。相信有了各方的助力，我們可以讓AI的應用變得更有深度，更加務實，更高效地克服現在面臨的種種問題。

▌阿萊克斯·彭特蘭：國家間應建立互通標準，避免“AI冷戰”

我對當前的深度學習技術不太樂觀。

最為主要原因是，深度學習不僅需要龐大的資料來源，而且要求這些資料長時間恒定不變，以保證模型訓練結果的可靠性，例如人類的面容、語言，就是相對穩定不變的資料來源。

但深度學習卻沒法應對快速變化的真實情況。亞馬遜在新冠疫情蔓延速度暴增時，出現了倉庫貨物緊缺，不得不停止送貨服務。這種經過深度學習高度優化後的系統發生崩潰，就是因為快速變化的疫情，和深度學習對恒定資料來源的需求是矛盾的。

另外，我想談談如何通過聯邦學習，促進資料的流通。

大多數公司沒有足夠豐富的資料，需要聯合不同的資料來源。基於這種需求，出現了很多新商業模式，比如“資料經紀人”——他們不出售資料，而是把資料借出去，作特定需求的使用。

“資料經紀人”業務湧現了很多，他們促進了資料的流通，也加強了資料的隱私性。因此，像聯邦學習這樣的技術和商業策略結合，有效解決了資料在合規性和所有權方面的難題。

聯邦學習也依賴於新的基礎設施建設，為資料應用和深度學習提供基礎環境，比如區塊鏈技術。現在世界上很多國家在做相關系統的建設實驗，新加坡等國家設置了一種相互競爭的區塊鏈系統，來解決支付和物流問題。我們最近也幫助瑞士做了類似的實驗，涉及不同資料的互通性和連貫性問題。

我們仍在研究如何用儘量少的資料，實現人工智慧的目標。少量資料是指不斷更新的短期資料，這些資料能使AI應對迅速變化的情況，並及時做出調整。

我們打算將AI與其他基礎科學結合，例如阿爾法圍棋(AlphaGo)就是這類結合的初步嘗試。這些方法不依賴于大量恒定資料，可能會比深度學習更加強大。

除此之外，我們在探討用AI保障聯邦學習過程中不同資料方的權益，這是實現不同國家之間的互通性、支付信任度、物流運輸等方面合作的關鍵前提。

另一方面，我們探索如何將AI技術應用於加密資料上。我們和大公司以及政府密切合作，找出解決系統入侵和保障網路安全的方法。

我同時花了很多時間研究與政府的合作。政府很多時候不知道如何通過大資料做決策，也不知道如何進行資料優化。而AI能夠幫助政府實現更高的效率，比如聯合國現在已經有了很多可持續發展目標的相關評估指標,世界經濟論壇也可以為會員國提供不同的標準測算。

基於我們已有的多中繼資料庫，現在可以利用AI實現全新的資料優化方式，將貧困、不平等這種之前無法量化的指標，通過可量化的指標進行評估。

同時，要真正實現這個目標，我們還需要制定統一的互通性標準。如果沒有這個標準，國家之間就不會相互信任去合作，就可能出現AI冷戰。

因此我們需要找到促進合作的方式，就像TCP/IP互聯網協議那樣。而之前我提到的，新加坡、瑞士等現在正在嘗試的區塊鏈系統，將有希望解決國家間缺乏互通標準的問題。

Part II 對話

▌ 美國線上教育發展難度更大，只在ZOOM上講課是不夠的

Q1：疫情加速了行業的改變，遠端醫療、線上教育開始蓬勃發展，這只是AI對人類社會產生影響的冰山一角。想請兩位談一談，目前看好AI在哪些領域應用的未來前景？

李開復：疫情的確對整個社會產生了實質性的影響，人們行為習慣發生了很多改變，更願意接受線上學習和工作了。

這種新的行為習慣產生了大量資料流程，為AI應用帶來了更多可能性。比如大健康領域以及遠端醫療中所產生的資料，可以訓練更智慧的模型。同時更多人開始在基因組學、新藥研發方面結合新的AI技術進行研究，因此我相信AI在醫療健康領域的潛能是非常巨大的。

AI與教育的結合也很值得期待。一方面可以説明老師處理重複性的日常事務，例如批改作業，讓老師得以將時間精力投入到更有創造性的事情上，能更悉心地為孩子提供優質教學。另一方面可以提高學生的課堂參與度和積極性，比如設置卡通版AI虛擬老師，讓課程充滿趣味性。

在中國，有很多線上教育公司在疫情之前就已經發展迅速，像創新工場投資的VIPKID，讓國外的純正英語老師線上上教授中國學生。目前，中國的線上教育已經擴展到了更多科目，包括體育、舞蹈、書法等素質教育課程。

相比之下，美國線上教育發展的難度會更大。畢竟只在ZOOM上講課是不夠的，好的線上教育必須要有好的內容。

▌AI核心是增強人際互聯，應注重文化多樣性

阿萊克斯·彭特蘭：李開復博士提到的教育案例，我不是很認同。

MIT大約20年前就在教育中使用AI，重點根本不是內容，我們甚至提倡將內容免費開放給大眾。

AI絕非試圖取代人類的作用，我們更強調用AI增強人與人之間的互動，讓人們更好的社交和連接彼此。比如手機上人工智慧技術，不是要取代你，而是讓你高效地找到最適合的工作、最正確的人，讓你更容易的獲取資訊，並進行創新。

我們可以利用資料激發更強的創新力，培養領導力。只有基於這樣的宗旨，才能促進更有創造力的教育和學習，這比關注教育內容本身重要得多。

在加拿大，有家創業公司正在訓練普通民眾學習AI，比如水管工，教學效果非常不錯。他們的教育方式不是簡單的教授基本知識，而是以一種能夠激發人們互動思考的方式。

我們之前在中國調研了3000多個孵化器，發現創業公司成功的要素裡，第一個是文化多樣性，也就是說創始團隊背景的複雜性和多樣性。第二個是團隊成員專業的多樣性，他們能否發揮自己所長，並很好地進行團隊合作。

1956年，馬文·明斯基 (Marvin Minsky)提出了人工智慧這個詞。但我們對於人工智慧的理解，不應該只停留在“人工”層面，而應擴展到多元文化之間的相互連接、團隊合作，我把它叫做延伸智能（Extended Intelligence)。這也是我想強調的，人工智慧這個名詞有一定的偶然性，但它的核心點是增強人與人之間的互聯性。

▌AI未來突破難預測，奇點、超級智慧過於樂觀

Q2：未來十年AI有沒有可能取得重要突破？比如GPT-3近期展現驚人的能力。兩位認為未來的突破方向是什麼？

李開復：過去60多年來，深度學習是唯一的重大突破。在這之後，卷積神經網路（CNN）和GPT-3等都算是重要的改善，我對於人工智慧的漸進式改善保持樂觀。

對科學家來說，他們更期待著技術上的突破式進展。但我覺得未來十年基礎科研或許不會有大的突破。但模型相對容易，只要有大量的資料，就可以從實驗室進入到行業應用，CNN和GPT-3都是模型加海量資料的成果。

我是務實派的，雖然持有樂觀態度，但並不是一位“未來學家”。未來的突破很難預測，對奇點（Singularity）的爭辯，甚至預測超級智慧的出現，在我看來都過於樂觀了。

阿萊克斯·彭特蘭：我同意李博士的觀點。很多生物機制很難解釋，包括用感知認識事物、理解聲音、尋找食物等，是深度學習演算法做不到的。但深度學習可以研究科學、制定規則、研究理論，並進行實踐。

從務實的角度來說，我最感興趣的就是聯邦學習。就醫療而言，我們有這麼多醫院，在新冠疫情期間做了很多的實驗，為什麼這些實驗資料不能進行聯合呢？

儘管資料有不相容的地方，但這也是一個很好的機會去探究不同的資料之間的關聯性。在未來，我們對資料的需求也許會越來越少，外科醫生或者物理學家或許不需要太多資料，因為他們對規則已經瞭若指掌了。

▌不要墨守成規，要跨領域、跨學科應對挑戰

Q3：人工智慧會有什關鍵挑戰？對於想從事這個行業的人，有什麼是需要瞭解的關鍵點？

李開復：首先，大背景在改變，新科技層出不窮，我們每年都需要學習新的東西。

其次，人工智慧可能引起各種問題，包括偏見、歧視、倫理道德等，是否危害人類的身體健康，無人駕駛技術該何去何從等等。

第三，人工智慧的研發需要深刻地理解技術對社會、生活與人類健康會產生的影響。我非常欣賞斯坦福和MIT這樣的高校，能夠把AI教育擴展到各個學科，讓研發人員及早意識到自己的責任和價值。

阿萊克斯·彭特蘭：是的，我朋友做過一個有關電的趣味類比，電動馬達最初在工廠裡用於生產的時候，並沒有發揮出多大的作用，因為大家並不知道如何改造生產流程。

AI在一些領域發揮的作用是顯著的，但應用到其他領域時，就需要改造流程。很多情況下，最困難的就是說服人們改變商業流程去使用AI，因為大多數人是墨守成規的。

而有意思的是，就像李博士提到的，像MIT和斯坦福這樣的高校確實在認真嚴肅地對待這個問題。

比如，我今天早上正好就這個話題跟G20領導人對話，大家一致認為我們必須從跨領域、跨學科的角度去面對這個問題，不能只是工程師或者社會科學從業者們在做，經濟學家，政治家等等都必須參與進來緊密合作。

隨著AI的應用領域越來越廣，除了必須具備強有力的技巧來建立社會規則，還需要對研究經費、企業投入等進行各種調整。

▌雖然大公司實力不容小覷，但依舊對小公司抱有期待

Q4：AI研究會消耗大量的資源，我們是否應該將資源往學術界平衡？現在已經發生資源的重新分配和平衡了嗎？

李開復：就人才而言，現在已經有重新平衡的跡象了。

過去，頂尖大學的學者基於待遇和種種考量，不少選擇去企業界工作。而近期，曾任職於百度、海爾、位元組跳動等公司的數位優秀AI科學家已經回歸高校。

但像GPT-3這樣的技術，仍然不是大學和小公司能支付得起的。支撐GPT-3運行的電腦是世界算力第五的超級電腦。每進行一次演算法訓練，就要花費460萬美金，只有像騰訊、穀歌、微軟這個級別的公司才能負擔得起如此強大的算力。

我觀察到，近年的AI創業公司已經和5年前截然不同了。它們一般由AI科學家和商業人才共同創建，為了解決特定問題而生，並非紙上談兵做突破性科研，切入的領域也往往是巨頭公司忽略的地方。

例如，為製造業進行AI賦能，不是一件輕鬆的事，需要去工廠實地勘查，瞭解運作方式。大公司因為賺錢很容易，不願意做這些性價比低的苦活累活。這些小公司的努力一旦有了成果，就會給產業界帶來革命性的影響。所以，雖然大公司的實力不容小覷，但我依舊對小公司抱有期待。

阿萊克斯·彭特蘭：大學和公司是一種融合的關係，不僅體現在人才流動上，也會進行資訊資源分享，彼此是整體性的合作態勢。

當然這也不是絕對，產業界的保密需求還是存在的，只是從學校的出發點來說，我們願意毫無保留地為大家提供更好的研究成果，並與企業合作，形成標準化平臺。

▌人工智慧取代人類需要上百年或更久

Q5：兩位認為什麼是AI不能取代的？

李開復：一類是創造力、分析能力、邏輯辯論能力，瞭解自己知道什麼不知道什麼，這些是人工智慧無法取代的。另外一類是同理心，人類之間的信任、友誼，自我認知、意識等。

阿萊克斯·彭特蘭：人工智慧有朝一日可以取代人類所有的能力，但是這個過程會非常漫長，可能需要上百年或更久。

▌AI創業建議I：找到小切入點，不要與巨頭正面硬碰

Q6：李博士提到了AI在小企業中的運用，可否再舉例說明是如何運用的？

李開復：這個問題分兩部分：一個是小型AI公司與巨頭競爭，我的建議是找准巨頭沒有平臺優勢的細分領域，為某個針對性產業創造價值，並且不要與巨頭核心業務正面硬碰。

對於那些中小型非AI、但想應用AI的公司，需要確保有足夠的資料，以訓練與核心商業價值掛鉤的AI模型，並且有願意變革的開放性公司文化。

所以，早期應用AI的公司可能規模較大，因為他們有足夠大的資料，和可相容變革的商業模型。每個例子都不同，不是任何一家公司都要應用AI。

阿萊克斯·彭特蘭：如果我們放寬AI的定義，或許水管工、合同工都有資料，通過一些簡單的分析、整合，AI也可以在很大程度上改進他們的工作。

這些都是很小的切入點，基於簡單的AI分析、機器學習，依舊可以產生巨大的潛力。

▌ AI創業建議II：知曉技術，同時理解商業

Q7：兩位再分享一下最後的建議？

李開復：我們在步入一個AI開始滲透到方方面面的令人振奮的時代，我希望所有的學生們都能參與到這個改革浪潮中。要深刻地理解人工智慧的商業落地，而不僅僅鑽研技術本身。

阿萊克斯·彭特蘭：不要太較真於深度學習或者冗長的演算法，一切始於要解決的現實問題。不要止步於技術本身，要明白資料類型、形態和規律，關注商業流程。

感謝葉樂斐、劉諾、藍萱、張昊、陳冬傑、劉子昂、張梓煜、錢淩寒、水一方、沈雍在校譯和審閱上對本文的貢獻。

前陣子與深度學習發明人之一、2019年ACM圖靈獎得主Yoshua Bengio教授一起對話，深深為他身上的科學家底蘊所感動。

Bengio教授長期致力於推動AI的合理使用，尤其對用AI解決環保議題有很多投入，如使用新藥研發的AI演算法概念，延伸應用在發掘全新低污染材料以對抗全球氣候環境變化的艱巨挑戰。

他相信，人工智慧將推送社會的理性和包容，構建AI與人類社會的良性循環。

這是我們討論的視頻和文字記錄。

……………………

李開復對話Yoshua Bengio：構建AI與人類社會的良性循環

7月23日，創新工場董事長兼CEO李開復博士，受邀參加SGInnovate主辦的“深度科技（Deep Tech）造福人類”活動，與Element AI聯合創始人Yoshua Bengio教授對話，討論人工智慧的未來發展。

在對話中，李開復博士與Yoshua Bengio教授探討了AI對人類社會的意義，尤其在COVID-19疫情後時代，AI如何幫助未來的經濟社會更加富有彈性、宜居和可持續。

他們認為，AI是一個千載難逢的機會，人類得以真正從重複性事務中解脫出來。在 AI 的幫助下，我們將有希望希望建立一個明智、理性、包容的社會，構建人類社會與AI的良性循環。

他們討論的話題包括：

1、AI技術的下一個突破，如何加速AI從科研到應用轉化？
2、COVID-19疫情如何加速AI應用，由此帶來了什麼風險？
3、AI的責任和挑戰：如何促進未來社會經濟可持續發展？
4、你心目中理想的AI未來是什麼樣的？

▌深度學習2.0時代，提升機器理解和執行能力

話題1：AI技術的下一個突破，以及如何加速AI科研到應用

“接下來的研究雖然繁重，但新的進展會令人振奮。尤其是在深度學習領域，我稱其為‘深度學習2.0’。” ——Yoshua Bengio

Yoshua Bengio：第一個問題我非常有共鳴，在我看來，目前機器學習的一大限制，是學習系統的泛化能力。

過去幾十年研發的系統，都建立於一個假設，即預設測試數據與訓練數據有相同的數據分佈。

然而在現實世界中，無論在什麼行業應用，都會存在實際情況與AI訓練時不同的問題。

這一問題看起來無解，但目前我們找到了幾個突破點和想法，主要是借鑒人類的意識加工機制，對原本分散的知識積累，快速進行全新重組。

雖然這些知識的組合不一定遵循訓練數據分佈，但我們還是能從中獲得某種重組方向的優勢，從而在訓練分佈中進行更好的歸納。

接下來的研究雖然繁重，但新的進展會令人振奮。尤其是在深度學習領域，我稱其為“深度學習2.0”，它能吸收人類的歸納傾向，對數據分佈演算法進行泛化。

李開復：我借 Bengio 教授的觀點多說幾句。我從大學時期就開始著手會話式 AI 的研究。目前的人機界面，我稱之為委託界面，大多基於直接操作，如鍵盤、滑鼠、多點觸控等。

但語言是人類最基本的交流方式，也是最自然的交流途徑。向AI語音辨識、自然語言理解進軍，一直是我們孜孜以求的目標。

例如，以前我們使用搜尋引擎時，會通過輸入關鍵字來查找網頁。後來，Google帶來了新的突破，基於深度學習的智慧問答功能，可以直接讓機器“說”出答案。

但我們不應止步於此，而是應該繼續向下一步目標努力：通過深度學習的進一步研究，提升機器對人類指令意圖的理解和執行能力。

例如，我們是否可以直接向亞馬遜 Alexa發送指令：“給我媽媽送個生日禮物”。之後，它將自動理出頭緒，流覽禮物，安排配送。它瞭解我的個人喜好，知道我能接受的價格範圍，也知道我媽媽是誰，住在哪裡，想要的禮物是什麼。

Yoshua Bengio：關於AI的行業應用，我做個簡短分享。我認為這是個很有難度的議題。困難來自兩方面：一是社會方面，二是技術方面。

在社會方面，從基礎科學研究，到最後產品研發階段，需要共同營造一種文化，讓研究人員可以擁有研究自由，從而取得真實的突破。在技術方面，我們需要一些軟體工具，讓技術從研發到生產這一轉化過程，盡可能的高效快速。

李開復：AI的行業應用，我將之分為兩大類：顛覆式和漸進式。

顛覆式是指引入 AI 會對行業造成顛覆性的結果，帶來天翻地覆的改變。

例如，自動駕駛將徹底改變運輸行業；Alexa某種程度上正在改變音箱行業；新的互聯網保險應用，比如美國的Lemonade，極可能顛覆保險行業。

這些行業已經具備了一定的條件，讓行業專家通過 AI 帶來顛覆影響，讓人非常期待。當AI與行業的顛覆式創新兩相結合，將有機會擊敗行業巨頭，重整行業格局。

然而顛覆式只是冰山一角。在人工智慧帶來的巨大機會中，漸進式變革佔據絕大部分份額。

普華永道預估，人工智慧將在2030年給全球帶來15萬億美元的財富淨增，主要來自于傳統行業和AI的結合。由於傳統行業規模龐大，僅僅提高幾個百分點，就可以產生海量財富。

但困難在於，當前一些傳統企業對 AI 一無所知，他們以為AI是科幻小說的臆想，看不到即刻就能產生的收益，再加上技術工具太難使用，導致他們的 IT 部門無法駕馭。

因此，我們應該通過培訓，説明傳統行業接受並認識到AI的益處。同時，我們投資的AI企業或像 Element AI 之類的公司，需要幫助傳統企業找到簡單易用的工具，讓他們跨越技術鴻溝，上手即用。

▌AI提前預測傳染性，應權衡公共衛生與隱私保護

話題2：疫情如何加速AI應用，由此帶來了什麼風險？

“必須在公共衛生或個人健康的背景下考慮隱私，在公共衛生危機期間，國家應該在尊重權利和必要防控措施間加以權衡，從而有效控制疾病的傳播。”——李開復

李開復：我說幾個親身經歷的例子。疫情期間的社交隔離，催生了眾多的 AI 應用，例如醫院中的送貨機器人。

對於隔離中的人也一樣。前陣子我回到北京隔離時，在我居住的公寓樓裡，沒有見到一個人。所有的事情都交給了一台機器人代勞，包括網購的包裹和食品運送，真正實現了零接觸，將危險降到最小化。

第二個例子是AI與醫療的結合。我們投資的AI 醫療企業Insilico Medicine，主要使用生成化學對抗神經網路，研發新藥小分子。在疫情期間，他們通過AI平臺，用幾個星期的時間，研發出了能抑制病毒內負責複製的主要蛋白成分的新藥物小分子。

最後一個例子或許有些爭議，就是接觸者追蹤。世界上許多國家已經成功的建立了接觸者追蹤體系，並較為有效地控制了疫情蔓延。但在美國、歐洲等地方，這種做法被視為是對隱私的侵犯。

對此，我的觀點是，對那些重視隱私的國家，我表示完全理解和尊重，但是我認為必須在公共衛生或個人健康的背景下考慮隱私。在公共衛生危機期間，國家應該在尊重權利和必要防控措施間加以權衡，從而有效控制疾病的傳播。等到疫情結束後，再回歸正常。

我們都不希望重蹈疫情的覆轍。我預計在未來，AI將被用來預防流行病的發生和傳播。醫院將廣泛使用感測器、可穿戴設備，匯總疫情資訊，及時報告潛在危害，在早期遏制疫情指數級增長的趨勢，從而更好地應對危機，避免再次失控。

Yoshua Bengio：李開復博士提到的這幾個領域，我都有所涉及。

一個是藥品研發，我本人參與了幾個專案，其中涉及神經網路、即時強化學習和主動學習。

在化學和生物領域，需要進行測試的組合方式太多，逐個進行研究是不可能的。所以我們需要一個合理的搜索策略，這就是我現在參與的專案內容。我們希望能用AI縮短研究時間，通過重組已有藥物，研發新型抗病毒藥物。

在接觸追蹤方面，目前已有的接觸追蹤大都沒有用到AI，只是進行簡單的測試法：如果有人測試結果為陽性，或者確診感染，那麼與其接觸過的所有人，都應該採取隔離措施。但是，在測試為陽性進而被隔離之前，傳染就已經開始了。

我們的一項研究顯示，如果能借助機器學習，提前預測某個體是否具有傳染性以及傳染性強弱，透過一些模糊的數據分析，就能大幅節省等待時間，及早知道曾接觸過病毒攜帶者，從而抑制病毒的傳播。

當然不可避免會出現隱私問題。隱私保護與機器學習需求之間存在有趣的矛盾。隱私保護需要盡可能降低數據交換，而機器學習卻需要盡可能收集大量的數據。

許多國家非常擔憂接觸者追蹤的濫用會侵犯隱私，因此催生了許多隱私保護技術。好消息是，這兩者可以共存。

▌AI是把雙刃劍，應推動全球治理、改變文化

話題3：AI的責任和挑戰：如何促進未來社會經濟可持續發展？

“如果我們能對人工智慧的能力善加利用，就能更快速地找到更好的新材料，以取代現今對地球造成長期污染的碳、電池等毒性材料。”——Yoshua Bengio

李開復：我會從創新工場的角度舉一些例子，創新工場是一家創業投資公司，我們非常希望 AI 能得到合理應用。Bengio 教授可能會在氣候變化上再補充一些。

在 《AI新世界》一書中，我描述了一個人類與 AI 的共存的藍圖：由 AI 承擔優化常規工作，讓人類專注於需要創造力和同情心的工作。

從社會責任感的角度說講，AI與醫療和教育的結合，將帶來極大的社會福祉。

未來，醫生將成為富有同情心的護理者，深切關懷病患，與他們交流。而 AI 可以用於分析放射結果、MRI、CT報告，提出各種可能的診斷及治療結果，針對性推薦藥物，以及輔助科學家研發新藥。

教育行業也是這樣。我們投資了很多線上教育公司，發現 AI 在教師的常規工作上表現非常出色，能夠根據學生的特點，因人而異地佈置作業，幫老師們節省了時間，讓他們專注于為孩子指導能力和引導心靈，進行個性化的教育，幫助他們培養創造力、團隊合作能力、交流能力以及同情心。

所以，醫療和教育既是 AI能夠顯現優勢的領域，也是有價值的投資。目前這兩個領域正在蓬勃發展，我們也投入了大量精力和資金。

Yoshua Bengio：我完全同意李開復博士的觀點。AI 技術的進步，能夠造福大多數人，我們需要將大量精力投入到此類項目中。

我個人對用AI解決環保問題投入很多，目前正在參與的一個項目就和氣候危機相關。

我們使用類似新藥研發的AI演算法，應用在對抗全球氣候環境變化的艱巨挑戰上，生成、合成、評估各種新型材料技術，包括碳回收和電池。

正常情況下，這些新材料研發耗時極長，動輒十幾年，甚至比新藥研發的時間還要久。但是如果我們能對人工智慧的能力善加利用，就能更快速地找到更好的新材料，以取代現今對地球造成長期污染的碳、電池等毒性材料。

但是，我們同時應該保持警惕：如果AI僅被少數市場玩家掌握，也有可能被用做牟利的工具，破壞正常、自由、動態競爭的市場環境。

因此，在向AI 未來發展的路上，我們需要時刻謹記 AI 具有的社會危害性。要將AI治理落實到各個層面，小到公司，大到全球。只有具備放眼全球的管理，才能合理有效地協調所有的力量，一起應對這些挑戰。

如果我們真的想引導 AI 應用富有道德和責任，就必須改變現有的文化。而這依賴於所有人的努力。

政府必須參與其中，要投資好的技術應用，改變教育體系，讓工程師、科學家不只專攻特定的科技領域，還要具備足夠的社會學科知識；科學家必須懂得謙虛，認識到自己對專業以外的領域知之甚少，與其他不同領域的專家合作，保證自己的成果對社會產生正面的影響。

▌構建AI與人類社會的良性循環

話題4：你心目中理想的AI未來是什麼樣的？

如果我們能努力抓住人類與 AI 共存的機遇，思考人類存在真正的意義，從我們這一代便開始努力，最終將可以實現理想的AI未來。——李開復

Yoshua Bengio：未來，在 AI 的幫助下，我們可以建立一個更明智、更公平、更理性、更包容的社會，每個人都可以說出自己的觀點，進行充分辯論，再做出最佳決定。

社交媒體在誕生之初，本意是做一個最為透明、最為公平、普惠大眾的公眾傳播平臺，但由於演算法基於人類偏好的推薦，及帶有特定企圖的傳播者作祟，造成社交網路的破碎淩亂，煽動的、謬誤的、偏見的資訊被放大傳播，不僅沒法幫助我們理性討論，也欠缺幫助人們做出最佳集體決策的能力。

人工智慧應該在這一方面有所作為，從各種垃圾資訊中篩選出有用結果，讓社交
平臺更加智慧，做到真正的公正透明，推送社會的理性和包容。

反過來說，如果我們都能變得更理智，也就能更好地使用 AI 技術，就能構建一個良性循環。但如果應用不當，就可能陷入惡性循環，因此我們必須謹慎選擇。

李開復：Bengio教授說得太好了！我們是幸運的一代，AI是一個千載難逢的機會，人類能夠與AI共存合作，由AI來承擔常規事務，我們則專注於人類擅長的領域，從重複性事務中解脫出來，放手去做自己喜愛的事情。

我想用我心愛的、約翰·亞當斯的一首詩來結束這場分享。如果我們能努力抓住人類與 AI 共存的機遇，思考人類存在真正的意義，從我們這一代便開始努力，最終將可以實現理想的AI未來：

I must study politics and war
我必須研究政治和戰爭

that my sons may have liberty to study mathematics and philosophy
因此我的兒子們能夠學習數學和哲學

My sons ought to study mathematics and philosophy, geography, natural history, naval architecture, navigation，commerce and agriculture
我的兒子們應該學習數學、哲學、地理、博物、造船、航海、商業和農業

in order to give their children a right to study painting, poetry, music, architecture, statuary, tapestry and porcelain
使得他們的孩子們可以學習繪畫、詩歌、音樂、建築、雕塑、織物和瓷器

約翰·亞當斯，美國第二任總統，《獨立宣言》起草委員會的五個成員之一，被譽為“美國獨立的巨人”。

本文及視頻內容經主辦方 SGInnovate 同意翻譯轉載