熱門Ptt文章

[爆卦]prompt翻譯是什麼？優點缺點精華區懶人包

雖然這篇prompt翻譯鄉民發文沒有被收入到精華區：在prompt翻譯這個話題中，我們另外找到其它相關的精選爆讚文章

在 prompt翻譯產品中有7篇Facebook貼文，粉絲數超過0的網紅，也在其Facebook貼文中提到， 四兩撥千斤！ 創新工場首席科學家AI大牛周明博士率瀾舟團隊刷新CLUE新紀錄，輕量化模型孟子一鳴驚人！ 本週，中文語言理解權威評測基準CLUE榜單，被「低調」刷新。 不同的是，不是大公司、不是超大模型…… 一個新面孔，一個輕量化模型，首戰即登頂，四兩撥千斤。 CLUE榜單近年來由巨頭——騰訊...

「prompt翻譯」的推薦目錄

prompt翻譯 在 DSE 7科5** | IELTS 9分 | 線上補習 Instagram 的最佳貼文

2020-10-07 20:37:51

「快速」的同義詞 ⠀⠀⠀⠀⠀⠀⠀⠀⠀ Swift e.g. Thanks for your swift reply! 翻譯：感謝您的迅速答覆！ ⠀⠀⠀⠀⠀⠀⠀⠀⠀ Prompt e.g. We should take prompt action against the criminals. 翻譯：我...

  • prompt翻譯 在 Facebook 的最佳貼文

    2021-07-15 07:26:06
    有 629 人按讚

    四兩撥千斤！ 創新工場首席科學家AI大牛周明博士率瀾舟團隊刷新CLUE新紀錄，輕量化模型孟子一鳴驚人！

    本週，中文語言理解權威評測基準CLUE榜單，被「低調」刷新。

    不同的是，不是大公司、不是超大模型……

    一個新面孔，一個輕量化模型，首戰即登頂，四兩撥千斤。

    CLUE榜單近年來由巨頭——騰訊、搜狗、華為、阿里達摩院輪番霸榜的格局，被首次打破。

    瀾舟科技-創新工場推出的孟子模型，以十億參數完成了此前百億、千億參數模型刷新的紀錄。

    這也是瀾舟科技首次對外曝光，背後團隊負責人，正是創新工場首席科學家、全球AI大牛周明博士。以下文章解釋了這個模型的原理，文章來自《量子位》微信公眾號，經授權轉載。

    ▎輕量化模型孟子？

    孟子，基於瀾舟團隊自研技術研發的大規模預訓練語言模型。

    包括創新工場、上海交通大學、北京理工大學等單位參與聯合研發。

    可處理多語言、多模態數據，同時支持多種文本理解和文本生成任務，能快速滿足不同領域、不同應用場景的需求。

    孟子模型基於Transformer架構，僅包含十億參數量，基於數百G級別涵蓋互聯網網頁、社區、新聞、電子商務、金融等領域的高質量語料訓練。

    但誰也沒想到，小模型卻有大智慧，一經登場，打破格局。

    CLUE，中文語言理解領域最具權威性的測評基準，涵蓋文本相似度、分類、自然語言推理、閱讀理解等共10項語義分析和理解類子任務。

    該榜單競爭激烈，幾乎是業內所有自然語言理解玩家必爭之地。

    騰訊、搜狗、華為、阿里達摩院等更是輪番霸榜刷新紀錄。

    而且隨著大參數模型愈演愈烈，CLUE還漸有巨頭壟斷之勢。

    因為百億、千億甚至萬億參數的大模型，已然不再是創業或其他玩家可與之爭鋒。

    萬萬沒想到，瀾舟科技-創新工場團隊出手，四兩撥千斤。

    因為孟子，走的是基於輕量級、高效訓練的研究路線，致力於構建十億級別的小模型，充分發揮已有參數下的模型潛力，有利於快速、低成本地落地現實業務場景。

    孟子預訓練模型性能比肩甚至超越千億大模型，在包含文本分類、閱讀理解等各類任務上表現出色。

    相對已有的中文語言模型，孟子模型實現了多項突破性進展：
     1） 堅持「小而精」的輕量化訓練策略。實現在同等模型規模下，遠超公開模型的性能。作為精巧的小模型，對標「巨無霸」，小模型性能超越千億規模模型。
     2）使用知識圖譜增強模型，讓 AI 真正獲得知識。孟子模型具備頂尖的語言理解能力，在權威CLUE中文理解評測的總排行榜，以及分類排行榜和閱讀理解排行榜均位列第一，刷新三項榜單世界紀錄。總排行榜分數突破84分，逼近人類基準分數（85.61）。
     3）靈活的領域和場景適應能力，方便快速定制和應用。基於T5-style的端到端生成的訓練範式，同步適配BERT-style的判定式架構，既能理解也能生成。便於適配行業應用，覆蓋廣泛業務場景。

    當然，隨著孟子一鳴驚人，也必然能讓輕量化模型研究來到聚光燈下。

    ▎原理方法和應用？

    在輕量化模型算法研究方面，基於自研的基於語言學知識、知識圖譜和領域數據增強等技術，從模型架構（包括基礎層Embedding表示和交互層Attention機制）到預訓練策略進行了全方位改進。

    具體有四方面：
     1) 模型結構方面，將語義角色、詞性標註等語言學特徵融合到Embedding表示中，基於句法約束引入註意力機制中，從而提升模型對語言學知識的建模能力。
     2) 訓練策略上，引入基於實體知識和Discourse的Mask機制，強化模型對語言成分和語篇關係的表徵。
     3) 為進一步提高訓練效率，使用了大模型蒸餾和初始化小模型策略。
     4) 為更好地將孟子模型適應垂直領域如金融、營銷，使用了領域數據繼續訓練並構造相應的提示模版（Prompt），取得了明顯的性能提升。

    基於以上算法策略，實現從語料中高效學習涵蓋詞級、句子級和語篇級知識，大幅提升語言模型提煉語言結構和語義信息能力，以及良好的領域遷移能力，適應廣泛的產品應用場景。

    另外，在Finetune的進展方面，如何將預訓練模型用於各項任務？

    瀾舟團隊也有總結，從數據增強、知識蒸餾、遷移訓練、訓練優化等方面展開了一些探索，進一步提升語言模型的性能：

     1) 數據增強：使用領域相關數據；
     2) 知識蒸餾：基於Teacher-Student自蒸餾提升訓練效率；
     3) 遷移訓練：結合課程學習的思想，由易到難訓練下游模型；
     4) 訓練優化：使用多種訓練目標，多角度提升模型能力；

    而且孟子還已經展開了垂直化領域應用。

    基於領域適應技術，孟子模型已深度垂直化賦能相應行業。典型的例子為適用於金融領域的孟子模型，領域適應策略主要包含兩大方面：

     1) 通過大規模的泛金融領域語料，將通用孟子模型遷移到金融領域。金融版孟子模型已經應用於多個金融行業的合作企業，在金融知識圖譜搭建、脫水研報、公告抽取等多個任務上獲得了出色的表現。
     2) 通過大規模的營銷領域語料，將孟子模型遷移到數字營銷領域，完成了營銷文案生成、新聞摘要等多項任務，將用於行業頭部的數字營銷公司和多個世界五百強企業的合作之中。

    瀾舟方面還透露，孟子模型已在多個領域成功落地實踐，衍生出多項行業領先的產品，涵蓋文本生成、行業搜索、機器翻譯等諸多領域。

    並且毫無疑問的是，因為輕量級模型具有的模型參數較少、快速推斷的特點，更易於線上部署和推廣到移動設備中，自然不會局限於現有應用和場景，接下來還會有更廣泛的研究和應用場景中。

    ▎瀾舟團隊？

    最後，也簡單介紹本次一鳴驚人的新面孔瀾舟科技。

    瀾舟科技是創新工場孵化的一家認知智能公司。公司創始人——周明博士。

    AI領域內，周明已不用過多介紹，他是公認的世界級AI科學家，自然語言處理領域的代表性人物。

    周明博士在2020年加盟創新工場，擔任創新工場首席科學家。
    而瀾舟科技則針對商業場景的數字化轉型，基於大數據、知識圖譜和行業模型，提供新一代的信息檢索、知識推理和商業洞見技術和相關產品。

    據稱目前已與國內外幾十所著名高校和十餘個相關領域的頭部企業建立了穩定的合作關係。

    值得注意的是，瀾舟科技除了大牛坐鎮，其實也是行業趨勢的體現。

    引用創新工場董事長兼CEO李開復最新分享來說：

    AI的發展可以按照兩個時間點劃分。

    第一個時間點是2015年，以CNN為核心的計算機視覺技術讓機器超越了人類，帶來了人臉識別、智能質檢、無人零售、智慧城市、無人駕駛等商機。

    而第二個時間點出現在2019年，以大模型為代表的自然語言方向取得突破性進展，讓NLP從數據、信息走向知識和洞見成為可能，將會在翻譯、語音識別、法律、金融、新聞、廣告、醫療、娛樂等大賽道帶來機遇。

    「如果說CNN造就了今天計算機視覺領域的突破和眾多應用，預訓練大模型+微調也將帶來自然語言的百花齊放的發展，用數據智能驅動各類業務的升級。瀾舟科技在周明老師的帶領下取得了今天的成果，在新機遇面前躬身入局，一起發掘NLP領域的黃金發展期」，李開復說到。

  • Daodu Tech 科技島讀

    prompt翻譯 在 Daodu Tech 科技島讀 Facebook 的最佳解答

    2020-12-20 20:00:22
    有 94 人按讚

    #島讀回顧 #人工智慧

    今年島讀網站被搜尋最多次的關鍵字是「人工智慧」（AI）。

    人工智慧近年的發展迅速，許多領域都能看到其應用。

    島讀今年一篇《機器學習 — 知識工作者的未來》，以「文字產生器」GPT-3 討論人工智慧，獲得不少會員迴響。

    ---

    寫論文很痛苦。有些人痛苦到整份照抄別人的論文。現在出現一線曙光，美國 OpenAI 公布機器學習模型 GPT-3（Generative Pretrained Transformer），堪稱是「萬用」的文字產生器。最近 GPT-3 開始封測，推出 API，更在矽谷引發轟動。目前已知有人用 GPT-3 寫程式、請牛頓解釋地心引力、回答醫學問題、摘要文章，甚至寫詩。

    先說 OpenAI。OpenAI 是一個非營利組織，贊助者包括 PayPal 創辦人 Peter Thiel、Elon Musk 與 Salesforce 創辦人 Marc Benioff 等。其使命是確保通用人工智慧（Artificial General Intelligence）將用於服務人類，而非迫害人類。

    GPT-3 則是其開發的語言生成模型，第三代的「文字產生器」（島讀去年討論過第二代）。使用者輸入一段文字，它就會生出下一個字，再繼續生出下一個字，不斷重複下去，直到人類喊停或是達到約 1,000 個英文字為止。例如我輸入：「天下分久必合，合久必 ___」，GPT-3 大概會預測下一個字是「分」。

    如果我沒喊停，也沒有設定明確的任務，GPT-3 就會繼續生成下一個字，寫出一段故事或一篇文章。

    或許你會問：「世界上文字千萬種，GPT-3 怎麼知道要寫論文或小說呢？」

    這就是 GPT-3 驚人的地方：它是通用模型。只要使用者稍許提示，它就會自動調整輸出內容類型，不需要使用者另外精調（fine tune）。就像一個真的有用的 Siri，不管你丟什麼任務，只要是文字，它都接得下來。

    例如有人簡短的提示（prompt） GPT-3「用 19 世紀作家 Jerome k. Jerome 的語氣寫一篇關於 Twitter 的文章」，GPT-3 就生出相當完整的作品。

    只要是需要文字的任務，不論是回覆 email、寫新聞稿、翻譯外文、「翻譯」法律術語、編吉他和弦，甚至是寫程式，GPT-3 都能做得還不錯。一篇網路文章《GPT-3 可能是比特幣以來最重要的創新》更是格外轟動，因為讀者讀完才發現整篇都是 GPT-3 寫的。

    相較於 GPT-2，GPT-3 效能是「暴力式」的飛越性成長。換言之，GPT-3 的基本架構與 GPT-2 幾乎一樣，只是參數由 15 億增加到 1,750 億（117 倍），但效果隨之大幅成長。這讓矽谷圈精神為之一振，因為代表機器學習仍可以透過擴大規模來成長。

    雖說使用成本也等比增加 — 訓練一次 GPT-3 需要 460 萬美金 — 但能用錢解決的都是小問題。目前已知人類大腦的突觸約 1 百萬億個（100 trillion），是 GPT-3 的 1 萬倍。許多人不免幻想如果再來兩次升級 100 倍（共一萬倍），是不是就能逼近人類大腦了？

    有成本就需要收入。OpenAI 現在提供 API，就是為將來商業化營運作準備。其他雲服務商如微軟、AWS、Google 也都開始提供機器學習「模型即服務」（Model as a Service, MaaS）。這大致可分三種應用：

    ● 垂直情境，簡單但量大的工作：如辨識異常、偵測錯字、回覆 email、回答客服基本問題等。這有點類似聘僱國中生實習，但聘雇的是無限個實習生。
    ● 垂直情境內，困難但狹隘的工作：以 AlphaGo 為代表。它打敗所有人，但只會下圍棋。
    ● 不限情境，多樣性比正確性重要的工作：以 GPT-3 為代表，如虛擬秘書、虛擬陪伴（《雲端情人》）、發想劇本、草擬程式碼、撰寫科技分析電子報（咦）等。

    MaaS 固定成本高，因此會傾向集中於大型平台，特別是擁有資料的企業，如 Google。邊際成本現在也很高，但應該會逐漸降低，因此有利於擁有最多客戶（用量）的企業，如 AWS、微軟。

    目前 GPT-3 率先大步起跑，將引發其他企業加大投資。其他企業需要差異化，因此會開發封閉的模型；GPT-3 則會是開放或開源的形式。同時，週邊的企業也需要開發工具，形成生態圈。例如目前運算的延遲嚴重，因此雲端的速度必須跟上。有更多相容的 app 提供更精準的提示，才能發揮 GPT-3 的價值。
    ⠀
    想知道文章對 GPT-3 的原理、隱憂的討論，歡迎試用島讀的 1 元訂閱方案：https://bit.ly/3myOL0D

    ---

    更多人工智慧內容：
    [Podcast] 從邊緣挑戰雲上的人工智慧｜特別來賓耐能智慧創辦人劉峻誠（公開）
    https://apple.co/2WrmCgC
    臉部辨識 — 30 億張照片的資料庫｜執法機關熱烈採用｜三條路線（會員限定）
    https://bit.ly/3p791an
    蛋白質的 50 年難題｜AlphaFold 遙遙領先｜諾貝爾獎在望（會員限定）
    https://bit.ly/2LSzIBt

  • Shystudio（孫心瑜）

    prompt翻譯 在 Shystudio（孫心瑜） Facebook 的最讚貼文

    2020-11-26 09:10:51
    有 51 人按讚

    今天收到美妙的感恩節禮物！

    "This gorgeous book may be the best way to tour a faraway city or to prompt children to write about their own stunningly simple, wondrous afternoons. "

    google翻譯：這本精美的書可能是遊覽遙遠城市或促使孩子們寫下自己簡單而奇妙的下午的最好方法。

    《午後》One Afternoon

你可能也想看看

搜尋相關網站