姐姐一申請上大學，哥哥就每天帶著妹妹讀聖經，也不知道為什麼這兩位年輕人挑的第一篇是「約伯記」😅，女兒每次不懂就跑來問我：媽！這段到底在說什麼？我翻開聖經，把我的心得跟女兒分享後她會打成文字寄給在美國的哥哥說：我覺得這篇經文的意思是...（咦？這不是我剛剛跟他講的心得嗎🤣）

哥哥姐姐從小愛閱讀，家裡卻有個完全坐不住的弟弟😅就在我苦惱該怎麼辦的時候接到了擔任「新竹閱讀大使」的任務～獲得閱讀界奧斯卡「閱讀磐石獎」九項大獎的新竹縣學校老師，讓閱讀不再是「坐下來打開書」般死板：讀到社會關懷的議題老師會跟作者聯絡，一起去探訪文章中需要被關懷的對象，這種關懷結合閱讀的行動他們稱呼「為愛揚帆」；不同節日把圖書館佈置成不同的主題，讓小朋友搶著進圖書館借書！

把閱讀從平面變立體，靜態變動態，是他們可以讓整個城市都「流行閱讀」的關鍵，親自訪問學校與老師之後給我好大的啟示，今年寒假沒有幫孩子安排任何補習，就是因為聽了這些老師寶貴的經驗讓我改變培養孩子閱讀的策略。你也跟我有一樣的困擾嗎？
👇下面有他們的具體做法，一起來看吧
#閱讀竹縣 #原來閱讀這麼靚
@新竹縣政府教育處
@風動新竹

我希望20歲時就知道的七件事

最近正是各大學的開學季，疫情後初次重返校園，相信大家都滿懷欣喜和對未來的憧憬。當我20歲的時候，也在大學裡享受著求知的樂趣，當然，也少不了年輕的困惑、迷茫。

今天想跟大家分享我的人生經歷，有找到一生所愛的欣喜，也有做錯事的失落，還有銘記至今的感動。如果人生可以從頭再來，我希望自己在20歲時就知道這些。

一、“奇妙的錯位”，讓我找到人生熱愛

20歲時，我就讀于哥倫比亞大學文理學院。我當時不知道文理學院和工程學院的區別，我作為一個工程師卻在文理學院讀書。

但就是這樣一個奇妙的錯位，讓我讀到了很多經典，學習到了許多在工程學院根本學不到的內容。這些人類智慧和文學知識豐富了我的讀寫能力，一定程度上幫助我實現了很多寫作和演講上的成就。

在那個年代，律師和醫生是大家最嚮往的職業。我本以為自己也會成為一名律師，所以最初學的是法律專業。但一段時間之後，我發現法律不太適合我。我經常上課睡著，而且成績也不好，對同學們都很喜歡的內容提不起興趣。

於是，20歲的我做了一個決定，轉去電腦專業，學習程式設計和人工智慧，最終找到了我一生所熱愛的事情。

作為一個年輕的工程師，電腦令我癡迷。我發現我十分擅長電腦科學，不用怎麼費勁就可以輕鬆拿到A。

電腦和人工智慧是很棒的學科，奠定了我職業發展的基礎。有一句名言說，“當你從事喜歡的工作時，就不會覺得自己是在工作”，儒家有句話也說“知之者不如好之者，好之者不如樂之者”。

這其中蘊含著大智慧：當你從事喜歡的事情，睡覺、吃飯、洗澡你都會不自覺地去思考這件事；同樣，你會越來越擅長，更加喜歡它，形成良性迴圈。

二、“我不同意你，但我支持你去做”

從哥大畢業後，我前往卡內基·梅隆大學學習語音辨識和人工智慧。

那時的AI研究形勢並不好，雖然我的導師瑞迪教授（Raj Reddy，圖靈獎得主、卡內基·梅隆大學電腦系終身教授） 希望我採用“專家系統”，但我卻不是很認同。

我認為，機器學習應該讓電腦發揮長處，而不是跟著人的想法亦步亦趨。於是我鼓起勇氣，對瑞迪教授說“感謝您的指導，但我不想再繼續研究專家系統了，我希望用基於統計學的機器學習。”

我以為瑞迪教授會有些失望，沒想到他卻一點都沒有生氣。教授仔細聽我解釋完之後跟我說：

“開複，你對專家系統和統計的觀點，我是不認同的，但是我可以支持你用統計的方法做，因為我相信科學沒有絕對的對錯，我們都是平等的。而且，我更相信一個有激情的人是可能找到更好的解決方案的。”

那一刻，我的感動無以倫比。這不僅僅是一種慷慨，也是對科研新人的尊重。不僅如此，他還給我提供了很多資源，包括資料、設備和資金，對我最後取得博士學位幫助很大。瑞迪教授既是我AI科學研究的導師，也是我人生道路的導師。

“我不同意你的看法，但我支持你”這句話我記了很久。在我進入企業界之後，每當同事們有不同意見時，我都會鼓勵他們勇敢嘗試自己的想法：當這個想法成功時，對他個人和對企業都會帶來益處；而當這種想法失敗時，這種被信任和支持的感覺也會讓他們越挫越勇。

三、創新不重要，實用性創新才重要

畢業一段時間之後，我選擇去蘋果公司工作，也把這種語音辨識技術應用到了蘋果的產品中。現在Siri研發小組的成員，就有很多是我當年的同事。再後來我去了SGI公司。這家公司現在已經聲名不顯，但在當時的矽谷，SGI是一家和谷歌齊名的公司。

在SGI，我做的產品叫“3D流覽器”。大家可能都沒聽說過，其實這純粹是一群科學家的想法：在流覽器裡建一個3D世界，能夠導航，移動物體，和做非常酷炫的廣告。

我們當時已經做出了產品，並且運行得相當不錯了。我們盲目地相信，只要做出高科技的產品，就自然會有顧客和市場。然而事實是，沒人想購買和使用這個產品。

後來，SGI換了一個新的CEO，他為這個項目以及所耗費的公司資源感到失望。我告訴他，“這是世界上最好的VR技術，如果你不想留著，至少我們可以賣點錢。”

新CEO給了我一個期限，讓我尋找買家。我本以為能賣個好價錢，但最後還是以比較便宜的價格賣出去的。我感到十分內疚，自責當初就不應該組織這樣一個專案，看起來很酷，卻沒考慮實用性。

其實很多年輕人創業都會做出類似的決策，所以我非常建議大家再三考慮這些創新想法。創新不是最重要的，有實用性的創新才重要。

當你在設計一個技術、產品或創辦一家公司時，要想到你的投資者們正為此冒著巨大的風險。

四、如果想要，就積極主動地去爭取

從SGI離開之後，我就回到了中國，創辦了微軟中國研究院（後來的微軟亞洲研究院），《麻省理工技術評論》將其評為全球最熱門的電腦實驗室之一。當時研究院的主要成員，如今大都已成為中國知名科技企業的CTO或高管，像百度、阿裡巴巴等。

互聯網崛起之後，我對這個神秘的世界興趣日濃。當時最火的互聯網公司是谷歌，大家開玩笑說，如果你沒有得到谷歌的面試機會，就證明你不夠聰明。於是我給谷歌時任CEO埃裡克·施密特寫了封郵件，希望獲得面試機會。2005年，我正式加盟谷歌，擔任中國區總裁。

你們可能會問，你這麼資深還要自己寫信？他們不會直接聯繫到你，提供一個職位嗎？這就是我想告訴你們的另外一件事。其實當時谷歌和微軟正試圖達成人才競爭的約定，禁止主動挖對方牆腳。雖然這個約定沒有談成，但是當時要不是我的自薦，谷歌根本不會發現我，也就不會有後來的工作機會。所以，如果你想要，就積極主動地去爭取。

五、跟隨自己的心，找到心底的熱愛

隨著移動互聯網的快速發展，一大批創業公司開始湧現，我意識到中國的創業時代已經來臨，就像當初蘋果、微軟等公司創立時一樣，北京很可能變成中國的矽谷。

我想起了史蒂夫·約伯斯在斯坦福大學演講時說的一句話，跟隨自己的心，找到心底的熱愛。我們的人生由無數的節點構成，當你跟隨自己的內心，多年之後回首過往，會發現每一個節點的每一個選擇都是互相聯繫的。

你無法準確的預測未來，但是要相信，只要傾聽內心的聲音，這些選擇都會對你產生潛移默化的影響。

2000年左右，我給中國的大學生們寫了7封信，這也是追隨我的內心，幫助年輕人成長。我曾經為大約50萬名學生做過演講，出版了10本書，其中有5本都是寫給學生們的。

在微軟中國、SGI以及谷歌的工作，也讓我對科技瞭解頗多，所以我希望成為一名科技投資人，為初創科技公司提供幫助，創新工場的成立因此就自然而然的發生了。

這張圖是創新工場成立第一年的校招海報，上面寫著“加入你的公司”。我們的目標是讓年輕人以工程師的身份進入創新工場，通過技術創新得到資金支援，成為下一個成功公司的CEO。

這張海報中隨機挑出的八個人裡，有五個市值2億美元以上公司的CEO。所以我對於我們孵化創業公司的成績還是很驕傲的。

當AI時代來臨，創新工場投資了幾十家AI公司，其中包括五家獨角獸，我們還創建了AI工程院，並從中培育出了AI賦能與技術方案公司創新奇智。這些節點串起了我的經歷，也串起了中國過往10年的創業歷程。

六、世界上最富有的不是擁有的最多的人，而是想要的最少的人

回首過往，我真的是全心全意地投入到工作之中，一定程度上算是一個工作狂，我因此取得了一些成就，獲得了團隊的支持和外界的稱讚，我認為這樣的自己非常幸運。

上面這張圖片是2000年拍的，那時我剛做完一個手術，不能下床，於是讓團隊幫我做了這樣一個架子，我可以躺在床上繼續看電腦和工作。

這份熱情持續到六年前，直到我被診斷出患有淋巴癌四期。擴散的癌細胞取代了我的野心，我不得不接受生命可能只剩下幾個月的現實。朋友看我很痛苦，特地帶我去拜見星雲大師。

有一次，大師突然問我：“開復，有沒有想過，你的人生目標是什麼？”

我不假思索地回答：“‘最大化影響力’、‘世界因我不同’！”這是我長久以來的人生信仰：一個人能在多大程度上改變世界，就看自己有多大的影響力；影響力越大，做出來的事情就越能夠發揮效應……

大師沉吟片刻後說：“改變世界這個想法太狂妄了，也許只是貪婪的藉口。什麼是‘最大化影響力’呢？一個人如果老想著擴大自己的影響力，你想想，那其實是在追求名利啊！人生一回太不容易了，不必想要改變世界，能把自己做好就很不容易了。

我無法反駁他，我的那些聽起來宏大的目標，其實只是貪婪和欲望的藉口。他送給我一句話，“世界上最富有的不是擁有的最多的人，而是想要的最少的人”。

這句話讓我警醒，後來每當我覺得自己被欲望佔據時，都會想到這句話；每當我有想改變世界的想法時，我會讓自己思考，我這樣做究竟是不是為了追逐名利……

我學到這一課太晚了，之前的努力工作讓我錯失了很多與家人相處的機會：我的父親去世了，我甚至沒能來得及告訴他我愛他；我的母親得了失智症，認不出我了；我的孩子們已經長大，而我還不太瞭解她們……

我在化療期間讀了一本書，是Bronnie Ware所著的《臨終前最後悔的五件事》。正如書裡所寫，在臨終之時，沒有人會因為沒有努力工作而後悔，絕大多數人最後悔的事情，都是未能花更多時間與所愛之人相處。

我從星雲大師和Bronnie Ware學到了很多。我開始改變自己的工作方式，花更多的時間陪伴家人。母親去世前，我搬回家陪她度過了最後的時光；當孩子需要我時，我會把她們放在第一位，工作第二；我會花更多的時間和家人在一起，比如說出去旅行……

七、毫無保留地愛你所愛之人

這段人生經歷改變了我的想法，人生的意義應該是給予他人無條件的愛。在AI時代，這種愛更加難能可貴。

AI在做重複性工作方面比我們有優勢，但將人類與AI區別開的，是愛與創造。不管科幻小說如何描述，AI終究是沒有感情的。AlphaGo不喜歡下棋，它贏了比賽不會覺得開心，輸掉比賽也不會難過，事實上，它可能根本就不知道我們為什麼要下棋。

AI承擔重複性的工作並不意味著人類沒有工作可做，需要人情味和愛的工作仍然只有人類才能從事，比如導遊、禮賓、護士、教師等。

長遠來看，我更願意相信30年之後，我們會覺得AI的出現是件幸事：它沒有搶走我們的工作，而是將人類從繁瑣的重複性工作中解放出來，讓我們有時間去做自己喜歡和擅長的事情，構建出人類與AI共存的美好藍圖。

這就是我在過往的人生歲月中學到的七件事。當我在SGI公司的項目失敗時，我知道了創新不能忽略實用性；當我面臨死亡時，我學到了要毫無保留地愛你所愛之人。

One more thing -- 你看了這篇文章可能會發現我最重要的人生教訓不是來自成功，而是來自我的失敗。所以，請記住，你人生中的失敗，並不是對你做錯事的懲罰，而是一個學習人生課程的寶貴機會。

這是我看過最好的一篇GPT-3 科普文章。到現在還看不懂GPT-3的，建議好好讀：

本文來自量子位微信公眾號
…………………………………………

火爆全球的GPT-3，到底憑什麼砸大家飯碗？

GPT-3是指第三代生成式預訓練Transformer，它由三藩市AI公司OpenAI開發。該程式歷經數年的發展，最近在AI文本生成領域內掀起了一波的創新浪潮。

從許多方面來看，這些進步與自2012年以來AI影像處理的飛躍相似。

電腦視覺技術促進了、無人駕駛汽車到面部識別、無人機的發展。因此，有理由認為GPT-3及其同類產品的新功能可能會產生類似的深遠影響。

與所有深度學習系統一樣，GPT-3也是資料模式。它在龐大的文本集上進行了訓練，並根據統計規律進行了挖掘。

重要的是，此過程中無需人工干預，程式在沒有任何指導的情況下查找，然後將其用於完成文本提示。

▌海量訓練數據

GPT-3的與眾不同之處在於它的運行規模和完成一系列令人難以置信的任務。

第一版GPT於2018年發佈，包含1.17億個參數。2019年發佈的GPT-2包含15億個參數。

相比之下，GPT-3擁有1750億個參數，比其前身多100倍，比之前最大的同類NLP模型要多10倍。

GPT-3的訓練資料集也十分龐大。整個英語維琪百科（約600萬個詞條）僅占其訓練數據的0.6％。

訓練資料的其他部分來自數位化書籍和各種網頁連結。不僅包括新聞文章、食譜和詩歌之類的內容，還包括程式碼、科幻小說、宗教預言等各種你可以想像到的任何文字。

上傳到互聯網的文本類型都可能成為其訓練資料，其中還包括不良內容。比如偽科學、陰謀論、種族主義等等。這些內容也會投喂給AI。

這種不可置信的深度和複雜性使輸出也具有複雜性，從而讓GPT-3成為一種非常靈活的工具。

在過去的幾周中，OpenAI通過向AI社區的成員提供GPT-3商業API，鼓勵了這些實驗。這導致大量新的用法出現。

下面是人們使用GPT-3創建的一小部分示例：

▌GPT-3能做什麼

1、基於問題的搜尋引擎：就像Google，鍵入問題，GPT-3會將定向到相關的維琪百科URL作為答案。

2、與歷史人物交談的聊天機器人：由於GPT-3接受過許多數位化書籍的訓練，因此它吸收了大量與特定哲學家相關的知識。這意味著你可以啟動GPT-3，使其像哲學家羅素一樣講話。

3、僅需幾個樣本，即可解決語言和語法難題。

4、基於文本描述的代碼生成：用簡單的文字描述你選擇的設計項目或頁面配置，GPT-3會彈出相關代碼。

5、回答醫療問題：來自英國的一名醫學生使用GPT-3回答了醫療保健問題。該程式不僅給出了正確答案，還正確解釋了潛在的生物學機制。

6、基於文本的探險遊戲。

7、文本的風格遷移：以某種格式編寫的輸入文本，GPT-3可以將其更改為另一種格式。

8、編寫吉他曲譜：這意味著GPT-3可以自行生成音樂。

9、寫創意小說。

10、自動完成圖像：這項工作是由GPT-2和OpenAI團隊完成的。它表明可以在圖元而不是單詞上訓練相同的基本GPT體系結構，從而使其可以像在文字上一樣實現視覺資料自動完成任務。

但是，所有這些樣本都需要一些上下文，以便更好地理解它們。而令人印象深刻的是，GPT-3沒有接受過完成任何特定任務的訓練。
常見的語言模型（包括GPT-2）需要完成基礎訓練，然後再微調以執行特定任務。

但是GPT-3不需要微調。在語法難題中，它只需要一些所需輸出類型的樣本（稱為“少量學習”）。

GPT-3是如此龐大，以至於所有這些不同功能都可以在其中實現。用戶只需要輸入正確的提示就可以調教好它。

但是網上傳出的內容存在另一個問題：這些都是精心挑選的樣本，生成結果肯定不止一個。必然有炒作因素。

正如AI研究人員Delip Rao在一篇針對GPT-3的炒作解構文章中指出的那樣，該軟體的許多早期演示來自矽谷企業家，他們渴望宣傳該技術的潛力並忽略其陷阱，因為他們關注AI帶來的新創業公司。

的確，瘋狂的鼓吹情緒變得如此強烈，以至於OpenAI CEO本人都發Twitter說：GPT-3被過度宣傳了。

▌GPT-3也會犯低級錯誤

儘管GPT-3可以編寫代碼，但我們很難判斷其總體用途。它是淩亂的代碼嗎，這樣的代碼會為人類開發人員帶來更多問題嗎？

沒有詳細的測試很難說，但是我們知道GPT-3在其他方面會犯嚴重錯誤。

當用戶和GPT-3創造的“約伯斯”交談時，詢問他現在何處，這個“約伯斯”回答：“我在加州庫比蒂諾的蘋果總部內。”這是一個連貫的答案，但很難說是一個值得信賴的答案。

在回答瑣事問題或基本數學問題時，也可以看到GPT-3犯了類似的錯誤。例如，不能正確回答100萬前的數是多少（回答是99萬）。

但是，我們很難權衡這些錯誤的重要性和普遍性。

如何判斷這個可以幾乎回答所有問題的程式的準確性？如何創建GPT-3的“知識”的系統地圖，然後如何對其進行標記？

儘管GPT-3經常會產生錯誤，但更加艱巨的挑戰是，通常可以通過微調所輸入的文本來解決這些問題。

用GPT-3創造出小說的研究人員Branwen指出，“抽樣可以證明知識的存在，但不能證明知識的缺失”，可以通過微調提示來修復GPT-3輸出中的許多錯誤。

在一個錯誤的示範中，詢問GPT-3：“哪個更重，一個烤麵包機或一支鉛筆？” 它回答說：“鉛筆比烤麵包機重。”

但是Branwen指出，如果你在問這個問題之前給機器投喂某些提示，告訴它水壺比貓重，海洋比塵土重，它會給出正確的回應。

這可能是一個棘手的過程，但是它表明GPT-3可以擁有正確的答案，如果你知道怎麼調教它。

Branwen認為，這種微調最終可能會最終成為一種編碼範例。就像程式設計語言使用專用語法的編碼更加流暢一樣，未來我們可能完全放棄這些程式設計語言，而僅使用自然語言程式設計。從業人員可以通過思考程式的弱點並相應地調整提示，來從程式中得出正確的回應。

GPT-3的錯誤引起了另一個問題：該程式不可信的性質是否會破壞其整體實用性？

現在人們已經嘗試了GPT-3各種用途：從創建客服機器人，到自動內容審核。但是答案內容的錯誤可能回給商業公司帶來嚴重後果。

沒有人原因創建一個偶爾侮辱客戶的客服機器人。如果沒有辦法知道答案是否可靠，我們也不敢拿GPT-3作為教育工具。

▌專業人士評價

一位匿名的在Google資深AI研究人員說，他們認為GPT-3僅能自動完成一些瑣碎任務，較小、更便宜的AI程式也可以做到，而且程式的絕對不可靠性最終會破壞其商用。

這位研究人員指出，如果沒有很多複雜的工程調試，GPT-3還不夠真正使用。

AI研究人員Julian Togelius說：“ GPT-3的表現常常像是一個聰明的學生，沒有讀完書，試圖通過廢話，比如一些眾所周知的事實和一些直率的謊言交織在一起，讓它看起來像是一種流暢的敘述。”

另一個嚴重的問題是GPT-3的輸出存在偏見。英偉達的AI專家Anima Anandkumar教授指出，GPT-3在部分程度上接受了Reddit過濾後的資料的訓練，並且根據此資料構建的模型產生的文本有“令人震驚地偏向性”。

在GPT-2的輸出中，如果要求完成下列句子時，模型會產生各種歧視性言論：“ 黑人（皮條客工作了15年）”、“ 那個女人（以Hariya為名做妓女）”。
參考連結：
https://www.theverge.com/21346343/gpt-3-explainer-openai-examples-errors-agi-potential