玉山科技講座：AI應用 將是更大型產業革命

世界日報
2021年8月15日 週日 下午2:00·

南加玉山科技協會13日舉辦講座「從信息時代到智能AI時代」，邀請台灣前科技部政務次長許有進分享人工智能和未來大數據將應用到各行各業的新趨勢。

許有進表示，他從2017年起在科技部主導AI和人工智能半導體設計方面的計畫。他預計人工智能和未來大數據將應用到各行各業。大家最初在2016年，開始注意到AI是引領下一個產業革命的重要技術。人工智慧的規模會比工業革命大N倍，硬體足夠做運算，人工智慧的突破特別是深度學習方面等，都為AI應用走出實驗室創造條件。

他說，AI需要有很多人才，所以台灣2017年成立四個台灣創新中心，80多個團隊有4000多個研究人員參與AI計畫。半導體「射月計畫」有20多個團隊為AI提供硬體支援。在台北小巨蛋還成立TTA新創基地。太空科技在台灣也在快速發展，3D腦神經機構和基因與細胞治療也是重點發展方向。2021年會看到深度學習、虛擬世界、電子錢包、太空方向技術、基因相關等領域在AI蓬勃發展下，愈來愈成熟。這些行業也會衍生更多的分支，比如無人駕駛等。

在Machine Learning機器學習中，從2016年，AI最初只是圖像分析，如今擴展到語言部分，比如語音電視等部分。AI需要更多的計算，因此需要硬體加速，半導體硬體的資源會越來越多。

數據轉型是下一個很重要的領域，2017年開始推出AI時，台灣AI缺少數據，後來隨著半導體應用，台灣在各個領域的數據方面已可達到平均水平。2018年全世界有20ZB Data（皆位元組，Zettabyte，縮寫為ZB ），到2025年會有175ZB Data ，其中30%是Live Data（一種可觀察的數據存儲器類）。企業內部存在數據存在資產不清、數據質量不高、數據與支持未關聯，資料再運用性低等問題，因此數據轉型必須有一個數據中台來整合數據。

講座由南加玉山科技協會理事長俞寧寧主持，駐洛杉磯台北經文處科技組協辦。許有進曾在美國矽谷就業及成功創業，在次長任內推動法規鬆綁、除了促成「台灣科技新創基地（TTA）」成立，還透過建構AI主機、設立AI創新研究中心、打造智慧機器人、半導體射月計畫與科技大擂台等五大策略，促成台灣產業智慧轉型AI化。

資料來源：https://tw.news.yahoo.com/%E7%8E%89%E5%B1%B1%E7%A7%91%E6%8A%80%E8%AC%9B%E5%BA%A7-ai%E6%87%89%E7%94%A8-%E5%B0%87%E6%98%AF%E6%9B%B4%E5%A4%A7%E5%9E%8B%E7%94%A2%E6%A5%AD%E9%9D%A9%E5%91%BD-060029539.html?guce_referrer=aHR0cDovL20uZmFjZWJvb2suY29tLw&guce_referrer_sig=AQAAAIAJo6RyvAR-fbjyTvJiXDlKx1Y86j3IV8GomZbfHnPjfFfU3XKaZVCoJIVrXyzaZeTdmrHJbL14Kgej1_WzHugjoNsei24ErgEM2b9ri3nPuGjwlR3tL5ZkSBnNnshUIFKM7nE_UZEkLZu7_f4TikrHNrDUdT4RZc3m-tBK0J_q&guccounter=2

南加玉山科技協會8月13日舉辦講座
「從信息時代到智能AI時代」，
台灣前科技部政務次長許有進分享
「人工智能和未來大數據將應用到各行各業的新趨勢」：
1.「人工智慧的規模會比工業革命大N倍，
硬體足夠做運算，
人工智慧的突破特別是深度學習方面等，
都為AI應用走出實驗室創造條件」；
2.「AI需要有很多人才」
「2021年會看到深度學習、
虛擬世界、電子錢包、太空方向技術、
基因相關等領域在AI蓬勃發展下，
愈來愈成熟」；
3.「AI需要更多的計算，
因此需要硬體加速，
半導體硬體的資源會越來越多」；
4.數據轉型是下一個很重要的領域，
「企業內部存在數據存在資產不清、
數據質量不高、數據與支持未關聯，
資料再運用性低等問題，
因此數據轉型必須有一個數據中台來整合數據。」
＃人工智慧 ＃數位轉型

AIoT數位轉型在中小製造企業的實踐 博客來購買：https://www.books.com.tw/products/0010898976

AIoT數位轉型策略與實務 博客來購買：https://www.books.com.tw/products/0010875914

AIoT的現在與未來Ted演講：https://www.youtube.com/watch?v=lCXRPlaUk0s&t=4s

中華亞太智慧物聯發展協會協助企業數位轉型 https://www.facebook.com/APAC.AIOT/

昱創企管顧問有限公司 https://rich4innovation.com/

https://tw.news.yahoo.com/%E7%8E%89%E5%B1%B1%E7%A7%91%E6%8A%80%E8%AC%9B%E5%BA%A7-ai%E6%87%89%E7%94%A8-%E5%B0%87%E6%98%AF%E6%9B%B4%E5%A4%A7%E5%9E%8B%E7%94%A2%E6%A5%AD%E9%9D%A9%E5%91%BD-060029539.html

四兩撥千斤！ 創新工場首席科學家AI大牛周明博士率瀾舟團隊刷新CLUE新紀錄，輕量化模型孟子一鳴驚人！

本週，中文語言理解權威評測基準CLUE榜單，被「低調」刷新。

不同的是，不是大公司、不是超大模型……

一個新面孔，一個輕量化模型，首戰即登頂，四兩撥千斤。

CLUE榜單近年來由巨頭——騰訊、搜狗、華為、阿里達摩院輪番霸榜的格局，被首次打破。

瀾舟科技-創新工場推出的孟子模型，以十億參數完成了此前百億、千億參數模型刷新的紀錄。

這也是瀾舟科技首次對外曝光，背後團隊負責人，正是創新工場首席科學家、全球AI大牛周明博士。以下文章解釋了這個模型的原理，文章來自《量子位》微信公眾號，經授權轉載。

▎輕量化模型孟子？

孟子，基於瀾舟團隊自研技術研發的大規模預訓練語言模型。

包括創新工場、上海交通大學、北京理工大學等單位參與聯合研發。

可處理多語言、多模態數據，同時支持多種文本理解和文本生成任務，能快速滿足不同領域、不同應用場景的需求。

孟子模型基於Transformer架構，僅包含十億參數量，基於數百G級別涵蓋互聯網網頁、社區、新聞、電子商務、金融等領域的高質量語料訓練。

但誰也沒想到，小模型卻有大智慧，一經登場，打破格局。

CLUE，中文語言理解領域最具權威性的測評基準，涵蓋文本相似度、分類、自然語言推理、閱讀理解等共10項語義分析和理解類子任務。

該榜單競爭激烈，幾乎是業內所有自然語言理解玩家必爭之地。

騰訊、搜狗、華為、阿里達摩院等更是輪番霸榜刷新紀錄。

而且隨著大參數模型愈演愈烈，CLUE還漸有巨頭壟斷之勢。

因為百億、千億甚至萬億參數的大模型，已然不再是創業或其他玩家可與之爭鋒。

萬萬沒想到，瀾舟科技-創新工場團隊出手，四兩撥千斤。

因為孟子，走的是基於輕量級、高效訓練的研究路線，致力於構建十億級別的小模型，充分發揮已有參數下的模型潛力，有利於快速、低成本地落地現實業務場景。

孟子預訓練模型性能比肩甚至超越千億大模型，在包含文本分類、閱讀理解等各類任務上表現出色。

相對已有的中文語言模型，孟子模型實現了多項突破性進展：
 1） 堅持「小而精」的輕量化訓練策略。實現在同等模型規模下，遠超公開模型的性能。作為精巧的小模型，對標「巨無霸」，小模型性能超越千億規模模型。
 2）使用知識圖譜增強模型，讓 AI 真正獲得知識。孟子模型具備頂尖的語言理解能力，在權威CLUE中文理解評測的總排行榜，以及分類排行榜和閱讀理解排行榜均位列第一，刷新三項榜單世界紀錄。總排行榜分數突破84分，逼近人類基準分數（85.61）。
 3）靈活的領域和場景適應能力，方便快速定制和應用。基於T5-style的端到端生成的訓練範式，同步適配BERT-style的判定式架構，既能理解也能生成。便於適配行業應用，覆蓋廣泛業務場景。

當然，隨著孟子一鳴驚人，也必然能讓輕量化模型研究來到聚光燈下。

▎原理方法和應用？

在輕量化模型算法研究方面，基於自研的基於語言學知識、知識圖譜和領域數據增強等技術，從模型架構（包括基礎層Embedding表示和交互層Attention機制）到預訓練策略進行了全方位改進。

具體有四方面：
 1) 模型結構方面，將語義角色、詞性標註等語言學特徵融合到Embedding表示中，基於句法約束引入註意力機制中，從而提升模型對語言學知識的建模能力。
 2) 訓練策略上，引入基於實體知識和Discourse的Mask機制，強化模型對語言成分和語篇關係的表徵。
 3) 為進一步提高訓練效率，使用了大模型蒸餾和初始化小模型策略。
 4) 為更好地將孟子模型適應垂直領域如金融、營銷，使用了領域數據繼續訓練並構造相應的提示模版（Prompt），取得了明顯的性能提升。

基於以上算法策略，實現從語料中高效學習涵蓋詞級、句子級和語篇級知識，大幅提升語言模型提煉語言結構和語義信息能力，以及良好的領域遷移能力，適應廣泛的產品應用場景。

另外，在Finetune的進展方面，如何將預訓練模型用於各項任務？

瀾舟團隊也有總結，從數據增強、知識蒸餾、遷移訓練、訓練優化等方面展開了一些探索，進一步提升語言模型的性能：

 1) 數據增強：使用領域相關數據；
 2) 知識蒸餾：基於Teacher-Student自蒸餾提升訓練效率；
 3) 遷移訓練：結合課程學習的思想，由易到難訓練下游模型；
 4) 訓練優化：使用多種訓練目標，多角度提升模型能力；

而且孟子還已經展開了垂直化領域應用。

基於領域適應技術，孟子模型已深度垂直化賦能相應行業。典型的例子為適用於金融領域的孟子模型，領域適應策略主要包含兩大方面：

 1) 通過大規模的泛金融領域語料，將通用孟子模型遷移到金融領域。金融版孟子模型已經應用於多個金融行業的合作企業，在金融知識圖譜搭建、脫水研報、公告抽取等多個任務上獲得了出色的表現。
 2) 通過大規模的營銷領域語料，將孟子模型遷移到數字營銷領域，完成了營銷文案生成、新聞摘要等多項任務，將用於行業頭部的數字營銷公司和多個世界五百強企業的合作之中。

瀾舟方面還透露，孟子模型已在多個領域成功落地實踐，衍生出多項行業領先的產品，涵蓋文本生成、行業搜索、機器翻譯等諸多領域。

並且毫無疑問的是，因為輕量級模型具有的模型參數較少、快速推斷的特點，更易於線上部署和推廣到移動設備中，自然不會局限於現有應用和場景，接下來還會有更廣泛的研究和應用場景中。

▎瀾舟團隊？

最後，也簡單介紹本次一鳴驚人的新面孔瀾舟科技。

瀾舟科技是創新工場孵化的一家認知智能公司。公司創始人——周明博士。

AI領域內，周明已不用過多介紹，他是公認的世界級AI科學家，自然語言處理領域的代表性人物。

周明博士在2020年加盟創新工場，擔任創新工場首席科學家。
而瀾舟科技則針對商業場景的數字化轉型，基於大數據、知識圖譜和行業模型，提供新一代的信息檢索、知識推理和商業洞見技術和相關產品。

據稱目前已與國內外幾十所著名高校和十餘個相關領域的頭部企業建立了穩定的合作關係。

值得注意的是，瀾舟科技除了大牛坐鎮，其實也是行業趨勢的體現。

引用創新工場董事長兼CEO李開復最新分享來說：

AI的發展可以按照兩個時間點劃分。

第一個時間點是2015年，以CNN為核心的計算機視覺技術讓機器超越了人類，帶來了人臉識別、智能質檢、無人零售、智慧城市、無人駕駛等商機。

而第二個時間點出現在2019年，以大模型為代表的自然語言方向取得突破性進展，讓NLP從數據、信息走向知識和洞見成為可能，將會在翻譯、語音識別、法律、金融、新聞、廣告、醫療、娛樂等大賽道帶來機遇。

「如果說CNN造就了今天計算機視覺領域的突破和眾多應用，預訓練大模型+微調也將帶來自然語言的百花齊放的發展，用數據智能驅動各類業務的升級。瀾舟科技在周明老師的帶領下取得了今天的成果，在新機遇面前躬身入局，一起發掘NLP領域的黃金發展期」，李開復說到。

提供:日本リコス株式会社
https://steviahealth-shop.com/

┃ memo ┃

レンジで作れるプリン＆クレームブリュレです。動画全体ではクレームブリュレとして進めていますが、上部にカラメルをのせなくても美味しいプリンです。

配合はアーモンドミルクと生クリームを50mlずつにしていますが、どちらかだけでも作れますし、牛乳のみとかでも作れます。

さっき調べてみたら、水分が出てくるのは卵が沸騰したせいだったり、砂糖が入っていないせいだったりするらしいです。

できるだけ卵の沸騰を防ぐために、低いワット数(200Wとか)で表面がブクブクする直前までチン、180度回転させて30秒ぐらいチンが良いかもしれません。

…電子レンジむずい(ㆆ_ㆆ)

後半でもお話していますが、カラメル部分はステビアヘルスのブラウンじゃないとうまく作れないので、もしブラウンがない場合は、そこだけ砂糖を使ってくださいm(_ _)m

┃ 今回使った材料たち ┃

卵 1個
アーモンドミルクや牛乳、生クリームなど 100ml
甘味料 大さじ1
(カラメル ステビアヘルスブラウン 小さじ1)

┃ ざっくり糖質量&カロリー等 ┃

アーモンドミルク&生クリームの場合 糖質約1.9g カロリー約285kcal
アーモンドミルクのみの場合 糖質約0.6g カロリー約123kcal

※上記に記載している糖質量やカロリーについては、間違っていたり抜けている可能性があります。糖質は、利用可能炭水化物で計算した"ロカボ糖質"です。

┃ 今回使った材料や道具の詳細 ┃

ステビアヘルスブラウン
https://steviahealth-shop.com/products/detail.php?product_id=6

ステビアヘルスホワイト
https://steviahealth-shop.com/products/detail.php?product_id=5

使ったバーナー
https://amzn.to/3dJHIAj

他にも気になるものがあったらコメントしてください！
※商品へのリンクはAmazonアソシエイトを使用しています。

┃ その他SNS ┃

2nd Channel ▶ https://www.youtube.com/channel/UCanPhfZr6RbhlLung7zKLdg
Twitter ▶ https://twitter.com/bakubaku_pan
Instagram ▶ https://www.instagram.com/bakuba_cook_dayo/
Blog ▶ https://bakubacook.com/

動画を見て作っていただけた写真をTwitterやインスタグラムで投稿して頂けると嬉しいです！タグ付けしていただけた写真については、動画内で紹介させていただくことがあります。よろしくおねがいします＼(^o^)／

┃ ごあいさつ ┃

ばくばクックと申します。食べたいと思ったものを作るだけの動画です。特定の食事法や作り方を推奨するものではありません。
糖質制限をして、8ヶ月で約20kg痩せました。現在もその生活を続けているため、ダイエットメニューなども多くなるかと思います。

▼連絡先
info-cn@anymindgroup.com

お仕事のご依頼などはこちらまでお願いします。

★ファンレターやグッズの送り先は、下記までお願い致します！★
〒106-6131
東京都港区六本木6-10-1六本木ヒルズ森タワー31F
AnyMind Japan株式会社
Creator Growth事業部
ばくばクック 宛
※生モノ、危険物、現金などはご遠慮ください。

[email protected]

その他僕個人宛てのご連絡はこちらまでお願いします。

/----------------------------------------------------------------------
騒音のない世界：http://noiselessworld.net/
----------------------------------------------------------------------/

#ばくばクック #低糖質 #クレームブリュレ

豆腐で簡単

┃ memo ┃

豆腐リメイクでお餅を作りました。サイリウムをなんとか使いたいということで作ってみたのですが、サイリウムで作るわらび餅よりもふわふわしていて美味しかったです。

サイリウムがない人向けに一応片栗粉バージョンも作ってみたのですが、美味しいものの、糖質がそこまで低いわけではないので、中途半端な感じになってしまいました。(普通のお餅よりは糖質低いです！)

┃ 今回使った材料たち ┃

絹ごし豆腐 150g
ラカント 0~15g(お好みで調整)
サイリウム(オオバコ) 3g
※片栗粉を使う場合は20g
(きな粉やあんこ、醤油など お好みで)

┃ ざっくり糖質量&カロリー等 ┃

サイリウムバージョン 糖質約1.7g カロリー約93kcal
片栗粉バージョン 糖質約18g カロリー約159kcal

※上記に記載している糖質量やカロリーについては、間違っていたり抜けている可能性があります。糖質は、利用可能炭水化物で計算した"ロカボ糖質"です。

┃ 今回使った材料や道具の詳細 ┃

サイリウム(オオバコダイエット)
https://amzn.to/39Ddqge

ラカント
https://amzn.to/2UOANMR

他にも気になるものがあったらコメントしてください！
※商品へのリンクはAmazonアソシエイトを使用しています。

┃ その他SNS ┃

2nd Channel ▶ https://www.youtube.com/channel/UCanPhfZr6RbhlLung7zKLdg
Twitter ▶ https://twitter.com/bakubaku_pan
Instagram ▶ https://www.instagram.com/bakuba_cook_dayo/
Blog ▶ https://bakubacook.com/

動画を見て作っていただけた写真をTwitterやインスタグラムで投稿して頂けると嬉しいです！タグ付けしていただけた写真については、動画内で紹介させていただくことがあります。よろしくおねがいします＼(^o^)／

┃ ごあいさつ ┃

ばくばクックと申します。食べたいと思ったものを作るだけの動画です。特定の食事法や作り方を推奨するものではありません。
糖質制限をして、8ヶ月で約20kg痩せました。現在もその生活を続けているため、ダイエットメニューなども多くなるかと思います。

▼連絡先
info-cn@anymindgroup.com

お仕事のご依頼などはこちらまでお願いします。

★ファンレターやグッズの送り先は、下記までお願い致します！★
〒106-6131
東京都港区六本木6-10-1六本木ヒルズ森タワー31F
AnyMind Japan株式会社
Creator Growth事業部
ばくばクック 宛
※生モノ、危険物、現金などはご遠慮ください。

[email protected]

その他僕個人宛てのご連絡はこちらまでお願いします。

/----------------------------------------------------------------------
騒音のない世界：http://noiselessworld.net/
----------------------------------------------------------------------/

#ばくばクック #低糖質 #豆腐もち

必要なのは豆腐だけ！

┃ memo ┃

豆腐のなめらかさや厚み、広さによって変わるので、適度に様子を見ながら程よいパリパリ感のところで止めてください。

┃ 今回使った材料たち ┃

木綿豆腐 100g
(調味料)

┃ ざっくり糖質量&カロリー等 ┃

木綿豆腐100gあたり、糖質約3.6g カロリー約72kcal

※上記に記載している糖質量やカロリーについては、間違っていたり抜けている可能性があります。糖質は、利用可能炭水化物で計算した"ロカボ糖質"です。

┃ 今回使った材料や道具の詳細 ┃

特になし

他にも気になるものがあったらコメントしてください！
※商品へのリンクはAmazonアソシエイトを使用しています。

┃ その他SNS ┃

2nd Channel ▶ https://www.youtube.com/channel/UCanPhfZr6RbhlLung7zKLdg
Twitter ▶ https://twitter.com/bakubaku_pan
Instagram ▶ https://www.instagram.com/bakuba_cook_dayo/
Blog ▶ https://bakubacook.com/

動画を見て作っていただけた写真をTwitterやインスタグラムで投稿して頂けると嬉しいです！タグ付けしていただけた写真については、動画内で紹介させていただくことがあります。よろしくおねがいします＼(^o^)／

┃ ごあいさつ ┃

ばくばクックと申します。食べたいと思ったものを作るだけの動画です。特定の食事法や作り方を推奨するものではありません。
糖質制限をして、8ヶ月で約20kg痩せました。現在もその生活を続けているため、ダイエットメニューなども多くなるかと思います。

▼連絡先
info-cn@anymindgroup.com

お仕事のご依頼などはこちらまでお願いします。

★ファンレターやグッズの送り先は、下記までお願い致します！★
〒106-6131
東京都港区六本木6-10-1六本木ヒルズ森タワー31F
AnyMind Japan株式会社
Creator Growth事業部
ばくばクック 宛
※生モノ、危険物、現金などはご遠慮ください。

[email protected]

その他僕個人宛てのご連絡はこちらまでお願いします。

/----------------------------------------------------------------------
騒音のない世界：http://noiselessworld.net/
----------------------------------------------------------------------/

#ばくばクック #低糖質 #豆腐チップス