[爆卦]Transformer-XL是什麼？優點缺點精華區懶人包

雖然這篇Transformer-XL鄉民發文沒有被收入到精華區：在Transformer-XL這個話題中，我們另外找到其它相關的精選爆讚文章

在 transformer-xl產品中有2篇Facebook貼文，粉絲數超過2萬的網紅台灣人工智慧學校，也在其Facebook貼文中提到，在2019年6月中旬 Google 提出一個 NLP 模型 XLNet，在眾多 NLP 任務包括 RACE, GLUE Benchmark 以及許多 Text-classification 上輾壓眾生，尤其是在號稱最困難的大型閱讀理解 QA 任務 RACE 足足超越BERT 6~9 個百分點，其中...

　同時也有10000部Youtube影片，追蹤數超過2,910的網紅コバにゃんチャンネル，也在其Youtube影片中提到，...

「transformer-xl」的推薦目錄

關於transformer-xl 在台灣人工智慧學校 Facebook 的最佳解答
關於transformer-xl 在 โปรแกรมเมอร์ไทย Thai programmer Facebook 的精選貼文
關於transformer-xl 在コバにゃんチャンネル Youtube 的精選貼文
關於transformer-xl 在大象中醫 Youtube 的最佳解答
關於transformer-xl 在大象中醫 Youtube 的最讚貼文

transformer-xl 在台灣人工智慧學校 Facebook 的最佳解答

2019-07-09 12:55:00
有 58 人按讚

在2019年6月中旬 Google 提出一個 NLP 模型 XLNet，在眾多 NLP 任務包括 RACE, GLUE Benchmark 以及許多 Text-classification 上輾壓眾生，尤其是在號稱最困難的大型閱讀理解 QA 任務 RACE 足足超越BERT 6~9 個百分點，其中 XLNet 模型改善了 ELMo, GPT, BERT, Transformer-XL 的缺點。
觀看全文 ➡️ http://bit.ly/2S4oclF
#台灣人工智慧學校medium專欄每周發行
#作者為台灣人工智慧學校助教
#台北總校 #新竹校區 #台中校區 #南部校區
==============================
台灣人工智慧學校，全台開課招生中 http://bit.ly/2K52VpF
「智慧醫療專班報名」請點這裏 http://bit.ly/2VCyRnF
==============================
《人工智慧在台灣》新書上架
天下網路書店 http://bit.ly/2K9jVes
博客來網路書店 http://bit.ly/2W0n4oe
transformer-xl 在 โปรแกรมเมอร์ไทย Thai programmer Facebook 的精選貼文

2019-02-19 17:57:00
有 112 人按讚

GPT-2 เป็นโมเดลทางภาษา
เป็นปัญญาประดิษฐ์ (deep learning)
ทีมผู้สร้างคือ OpenAI
มันมีความสามารถหลากหลาย เช่น
อ่านทำความเข้าใจเนื้อหา แปลภาษา ตอบคำถาม และเขียนสรุป
.
แต่เนื่องจากผู้สร้างกลัวคน
จะนำเอา AI ไปใช้ในทางที่ผิด
เช่น สร้างข่าวปลอม โพสต์ปลอมในโลกโซเซียล เป็นต้น
เลยปล่อยตัวโมเดลที่โง่ออกมา
ใครอยากให้ฉลาด ก็เอาไปสอนเองนะครับ
.
สนใจงานวิจัยชินนี้ก็ตาม blog นี้
https://blog.openai.com/better-language-models/
งานตีพิมพ์
https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf
ส่วนโค้ด
https://github.com/openai/gpt-2
....
รันไม่ยากครับ ลองดูได้เลย
จะยุ่งยากตอนเซทโปรเจคหน่อย
เป็นภาษา python นะครับ
แต่เนื่องจากมันเซทยุ่งยาก เลยแชร์โค้ดให้ลองเล่นผ่าน colab ไม่ได้ต้องเซทอะไรให้ยุ่งยาก
https://colab.research.google.com/drive/1lZoaSLo2Ip-mlBNUFpjKhVAPWDenbRCu
.
อ่านต่อ
https://www.patanasongsivilai.com/blog/gpt-2-generate-sentences/
...
ให้ความรู้เพิ่มเติม สำหรับโมเดลภาษาแบบนี้ที่เป็น AI
โลกนี้ไม่ได้มีแค่โมเดลนี้อันเดียว
ก็มีหลายทีมวิจัยสร้างขึ้นมาแข่งกัน เช่นกัน
- BERT model ของ Google
https://github.com/google-research/bert
- Transformer-XL model ของ Google/CMU
https://github.com/kimiyoung/transformer-xl
- new-mt-dnn ของ Microsofts
https://medium.com/syncedreview/microsofts-new-mt-dnn-outperforms-google-bert-b5fa15b1a03e
:
เขียนโดยโปรแกรมเมอร์ไทย thai programmer
ฝากติดตาม https://youtu.be/i2fmwGOveOo

transformer-xl 在コバにゃんチャンネル Youtube 的精選貼文

2021-10-01 05:19:08
transformer-xl 在大象中醫 Youtube 的最佳解答

2021-10-01 05:10:45
transformer-xl 在大象中醫 Youtube 的最讚貼文

2021-10-01 05:09:56

[爆卦]Transformer-XL是什麼？優點缺點精華區懶人包

雖然這篇Transformer-XL鄉民發文沒有被收入到精華區：在Transformer-XL這個話題中，我們另外找到其它相關的精選爆讚文章

同時也有10000部Youtube影片，追蹤數超過2,910的網紅コバにゃんチャンネル，也在其Youtube影片中提到，...

「transformer-xl」的推薦目錄

transformer-xl 在 台灣人工智慧學校 Facebook 的最佳解答

transformer-xl 在 โปรแกรมเมอร์ไทย Thai programmer Facebook 的精選貼文

transformer-xl 在 コバにゃんチャンネル Youtube 的精選貼文

transformer-xl 在 大象中醫 Youtube 的最佳解答

transformer-xl 在 大象中醫 Youtube 的最讚貼文

你可能也想看看

搜尋相關網站

#1Transformer-XL: Attentive Language Models Beyond a Fixed ...

#2论文笔记—— Transformer-XL - 知乎专栏

#3從Transformer到TransformerXL，都做了什麼 - 每日頭條

#4transformer-XL與XLNet筆記_AINLP - MdEditor

#5Transformer-XL： Attentive Language Models Beyonds a ...

#6Transformer-XL: Attentive Language Models ... - ACL Anthology

#7Transformer-XL: Attentive Language ... - Papers With Code

#8Transformer-XL 語言模型 - 人人焦點

#9Transformer-XL Review: Beyond Fixed-Length Contexts

#10kimiyoung/transformer-xl - GitHub

#11深度之眼Paper带读笔记NLP.27：Transformer-XL - CSDN博客

#12Transformer-XL: Language Modeling with Longer-Term ...

#13Attentive Language Models Beyond a Fixed-Length Context

#14Transformer-XL for PyTorch | NVIDIA NGC

#15Transformer-XL: Unleashing the Potential of Attention Models

#16What is Transformer XL? - Analytics India Magazine

#177. Transformer-XL原理介绍 - 博客园

#18Transformer XL - Hugging Face

#19Transformer-XL: Attentive Language Models ... - ResearchGate

#20【Pre-Training】Transformer-XL：比Transformer 强一点

#21Transformer-XL

#22Transformer-XL: Attentive Language Models beyond ... - Vimeo

#23Transformer-XL - 智源开源开放平台 - 悟道

#24Transformer-XL: Attentive Language Models ... - BibSonomy

#25Learning Transformer-XL - biggan的博客

#26Transformer-XL With Graph Neural Network for Source Code ...

#27Applying Transformer-XL to Q&A - Stanford University

#28Transformer XL - 简书

#29Transformer-XL 處理超長輸入的變形金剛(20/04/14) - YouTube

#30Transformer-XL, XLNet, XLM and CTRL - Alexander Thamm ...

#31transformer-xl - SegmentFault 思否

#32Transformer-XL PyTorch Model

#33NLP预训练家族| Transformer-XL及其进化XLNet - 云+社区

#34Comprehensive Guide to Transformers - neptune.ai

#35Transformer xl - SlideShare

#36Transformer XL - Google Colab (Colaboratory)

#37KT-XL: A Knowledge Tracing Model for Predicting Learning ...

#38Transformer XL - 蓝林鸟的博客

#39編碼長度優化（Transformer-XL、Longformer） - 台部落

#40PL Transformer XL bagpack large - ApronStudio

#41keras-transformer-xl - PyPI

#42Transformer-XL - backprop.org

#43Transformer-XL：释放注意力模型的潜力_上下文 - 搜狐

#44Transformer-XL: Attentive Language Models Beyond a Fixed ...

#45Transformer-XL architecture - Data Science Stack Exchange

#46Attentive Language Models beyond a Fixed-Length Context

#47突破長篇上下文理解挑戰，Google發布全新自然語言理解架構 ...

#48Transformer-XL: Unleashing the Potential of Attention Models

#49Transformer-XL - Mathematical software - swMATH

#50Transformer-XL Attentive Language Models Beyond a Fixed ...

#51Attentive Language Models beyond a Fixed-Length Context

#52Transformer-XL: Going Beyond Fixed-Length Contexts

#53三、Transformer XL - 《AI算法工程师手册》 - 书栈网

#54谷歌开源先进语言模型Transformer-XL - 闪念基因

#55Transformer-XL: Input and labels for Language Modeling

#56Exploring Transformers for Large-Scale Speech Recognition

#57PyTorch-Transformers

#58NLP预训练家族| Transformer-XL及其进化XLNet - 360doc个人 ...

#59AI Tech 第37次meetup - Transformer淺介

#60Transformer-XL: Attentive Language Models ... - PythonRepo

#61最新Transformer模型大盤點，NLP學習必備，Google AI研究員 ...

#62Yann LeCun on Twitter: "The Transformer-XL results from ...

#63Transformer-XL: Attentive Language ... - Python Awesome

#64CMU、谷歌提出Transformer-XL：学习超长上下文关系| 机器之心

#65Transformer-XL - Advanced Deep Learning with Python [Book]

#66Tag: Transformer-XL | Yam

#67Transformer-XL With OpenNMT - Research

#68Transformer-XL详解 - 码农家园

#69[NLP] 相對位置編碼(二) Relative Positional Encodings - IT人

　同時也有10000部Youtube影片，追蹤數超過2,910的網紅コバにゃんチャンネル，也在其Youtube影片中提到，...

transformer-xl 在台灣人工智慧學校 Facebook 的最佳解答

transformer-xl 在コバにゃんチャンネル Youtube 的精選貼文

transformer-xl 在大象中醫 Youtube 的最佳解答

transformer-xl 在大象中醫 Youtube 的最讚貼文