為什麼這篇驚奇的意思鄉民發文收入到精華區：因為在驚奇的意思這個討論話題中，有許多相關的文章在討論，這篇最有參考價值！作者spencer8864 (咩咩)看板Stock標題Re: [新聞] 學家：美股AI熱潮像是200...
驚奇的意思 在 柯蘿依Chloe Instagram 的精選貼文
2021-09-15 15:56:09
適應能力很好的莎拉，每天期待小學生活，是說媽咪我也可以擁有早上那五小時的自由時光。 放學回家，聽著👂莎拉訴說學校發生的事，老師教了什麼，也跟著她一起溫習功課、寫作業✍🏻 #今日事今日畢 養成好習慣 功課寫完之後，就是她的自由時間 感謝采實文化的贈書，這月的書單完全激發她的興趣，看她閱讀的樣子我就...
量變帶動質變
一直是不變的道理
這次是什麼量呢？
運算能力的量
造就了很多以前沒辦法達成的事情，可以用電腦暴力破解
而這波破解也造就了chatGPT
「
我給你打個比方，比如說你在教一個學生即興演講。 他什麼都不會，所以你找了很多現
成的素材讓他模仿。 在訓練初期，他連模仿這些素材都模仿不好，磕磕巴巴說不成句子
。 隨著訓練加深，他可以很好地模仿現有的演講了，很少犯錯誤。 可是如果你給他出個
沒練過的題目，他還是說不好。 於是你就讓他繼續練。
繼續訓練好像沒什麼意義，因為現在只要是模仿他就都能說得很好，只要是真的即興發
揮他就不會。 但你不為所動，還是讓他練。
就這樣練啊練，突然有一天，你驚奇地發現，他會即興演講了！ 給他一個什麼題目，他
都能現編現講，發揮得很好！
這個過程就是下面這張圖
https://i.imgur.com/lx81Xx9.jpg
紅色曲線代表訓練，綠色曲線代表生成性發揮。 訓練到一千步乃至一萬步，模型對訓練
題的表現已經非常好了，但是對生成性題目幾乎沒有能力。 練到10萬步，模型做訓練題
的成績已經很完美，對生成題也開始有表現了。 練到100萬步，模型對生成性題目居然達
到了接近100%的精確度。
這就是量變產生質變。
」
你看出什麼了嗎？
NVD讓人類有了足夠的算力，讓很多東西未來能發生質變
就像AI發現了號稱目前不會產生抗藥性的抗生素一樣。
如果用人工的方法去排列組合測試，可能要花好機百年才能把所有的組合嘗試完。
用AI可能就是分分鐘的事情。
就像愛迪生發明電燈，愛迪生嘗試了那麼多種的可能性，嘗試了很久很久，終於發明了「
劃時代」的電燈。
如果在今天有算力的年代，可能一個月電燈這產品就出現了。
你說NVA是虛漲嗎？
短期內有可能是，但對于我們正在踏入奇異點的現在，我覺得NVA還漲少了。
就像下圖
https://i.imgur.com/suQk09U.jpg
我相信人類目前的演進會和量變帶動質變一樣，直線噴發。
你會發現很多以前解決不了的事情，會靠著強大的算力，能一一破解。
你也會發現很多你想像不到的科技，也會依靠著算力，一一被發明出來。
現在缺少的僅僅是想像力而已。
所以你說這是泡沫嗎？
=================
此篇誇號的部分來自萬維鋼精英日課裡面的部分擷取
AI专题3：语言模型的开悟时刻
這專題弄得蠻有意思的，可以去看看
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.34.32 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685253046.A.B37.html
推 Riesz : 至高進化看到一隻浣熊有創造力，他一直認為機器飛昇05/28 13:57
→ Riesz : 居然也能血肉飛昇。 我們看AI就像這樣。05/28 13:58
推 micky83802 : 核融合 量子電腦 星際旅行 可能沒多久就有了05/28 14:00
→ micky83802 : 這是打從根本翻轉科學研發的方式05/28 14:01
→ micky83802 : 跟元宇宙那垃圾完全不同05/28 14:01
噓 aaroncow : 元宇宙當初也是說fu糗05/28 14:01
這跟元宇宙本質上有很大的不同，元宇宙那些臭大佬一看就是沒玩過角色扮演遊戲的可憐
蟲
我知道元宇宙的當下就覺得是垃圾
但算力這種東西，會讓很多東西
量變產生質變
→ Riesz : 嗯 陸舟也說數學物理與信息學突破 下一步亮子電腦05/28 14:03
→ Riesz : 亮子電腦給您傳新的策略~~ (古天樂調)05/28 14:03
其實就是同一個概念
阿你知道差在哪里嗎？
量子電腦沒辦法普及
openAI可以
→ CGDGAD : 如果電腦中勒索病毒有沒有機會用幾分鐘暴力解碼？05/28 14:06
之後絕對可以
推 Riesz : 陸舟說量子電腦傳的訊息是瞬變的 所以要加量子密碼05/28 14:08
推 amethystboy : 說的很好 但短線有泡沫也是正常05/28 14:08
推 soren888 : 你上車沒？05/28 14:11
在車上呢
https://i.imgur.com/iWlZ5bl.jpg
https://i.imgur.com/6q6ugG6.jpg
→ Riesz : 科幻小說中的量子電腦用的是2^百萬位元 解放的是05/28 14:11
推 admon : 奇異點是AI自行改造AI的時間點05/28 14:12
→ Riesz : 算力 當然還要能瞬間計算電流且承擔的材料05/28 14:13
→ Riesz : 馬斯克的機器車廠 機器手臂能生產造機的機器手臂05/28 14:13
→ Riesz : 算不算機器製造機器呢??05/28 14:14
→ mooto : 量子電腦跟AI又不衝突 前者是提供算力 後者是使用 05/28 14:16
→ mooto : 重點是要提供多少算力之後會突破奇點05/28 14:17
※ 編輯: spencer8864 (1.163.34.32 臺灣), 05/28/2023 14:18:41→ yunf : 那是因為你還外行被這些言論唬得一愣一愣的05/28 14:33
→ wiie : 元宇宙的未來應該是建立AI成熟 且算力足夠強大才有05/28 14:39
→ wiie : 元宇宙反而比較像是下個時代的大型網遊 不是科技未 05/28 14:40
→ homeworkboy : 事後就知道 對錯 05/28 14:58
推 stosto : 網路泡沫到普及，自已好好想想 05/28 15:02
我想你想說的是網路很威猛，造就了現在的科技，但確實造就了一波泡沫
但不同的是
當時資訊如此的不透明，大家買股票看的是什麼？
是報紙
不想看報紙買高點的話，就只能看到後面什麼有.com就追進去買，當時資訊落差太大，普
通散戶亂追
現在資訊落差其實不大了
什麼公司生產什麼產品，有吃到誰的單，都蠻清楚的，不太可能造成什麼都再亂漲個10倍
20倍的情況
沾到點題材個股漲一波是有可能的，但這種公司很快就會下去
像是NVA這種確實是風口上的，大概就會穩步向上成長
→ jyan97 : 姑且不說量變產生質變的觀點正不正確，這麼暴力的05/28 15:49
→ jyan97 : 算力解法理論上遲早會有能源不足的問題吧，而且其 05/28 15:49
→ jyan97 : 實人腦不完全是靠無腦增加量練出來的，很多技能是05/28 15:49
→ jyan97 : 靠理解跟邏輯推理學到的05/28 15:49
你現在可以去問ChatGPT：棒球棒能被藏進人的耳朵裡嗎？ 它說不能，因為人的耳朵是非
常小的，棒球棒的大小和形狀超出了耳朵所能容納的範圍……很有條理。
我又問它：為什麼金箍棒能被藏進孫悟空的耳朵裡？ 它回答說因為那是虛構的故事，金
箍棒的形狀和大小可以隨意改變……
https://i.imgur.com/QQO2Hc2.jpg
你仔細想想的話，這兩個回答非常了不起。 很多人說語言模型都是基於經驗的，只能根
據詞彙之間的相關性輸出答案，根本沒有思考能力……但是從這兩個問答來看，ChatGPT
是有思考能力的。
誰會寫一篇文章討論棒球棒能否被藏進人的耳朵裡呢？ ChatGPT之所以能給出答案，肯
定不是因為它之前聽過這樣的議論，而是因為它能進行一定的推理。 它考慮到並且知道
棒球棒和耳朵的相對大小，它還知道金箍棒和孫悟空是虛構的。
它這些思維是怎麼來的呢？
你可能沒想到，這些能力，並不是研發人員設計的。
研發人員並沒有要求語言模型去了解每種物體的大小，也沒有設定讓它們知道哪些內容
是虛構的。 像這樣的規則是列舉不完的，那是一條死胡同。
ChatGPT背後的語言模型，GPT-4，是完全通過自學，摸到了這些思考能力。 以及別的能
力你列舉都列舉不出來的能力。 連開發者都說不清楚它到底會多少種思考能力。
語言模型之所以有這樣的神奇能力，主要是因為它們足夠大。
你還會說量沒辦法訓練邏輯和理解嗎？
※ 編輯: spencer8864 (114.137.25.138 臺灣), 05/28/2023 16:22:21
推 saygogo : 風口上豬都能飛,but NVD不是 豬 是風箏 05/28 17:05
推 smile36 : 之後就是各國的算力競備競賽。台積因為價格低、可靠05/28 17:21
→ smile36 : 性高，目前資訊看起來還是難以取代05/28 17:21
噓 lovebridget : 北七喔 過去100年哪年算力沒在增加? 2000年還是崩啦 05/28 18:49
每年都在增加，現在增加到了一個點上openAI就出現了。
量變帶動質變的
噓 sungtau : 資訊是更透明了，但人性卻是不會變的，這就是泡沫，05/28 18:57
→ sungtau : 只是泡沫啥時破沒人知道罷了，而股市賺最多錢的時05/28 18:57
沾到點題材個股漲一波是有可能的，但這種公司很快就會下去
→ sungtau : 候就是泡沫長大的時候。05/28 18:57
推 saygogo : 這篇其實有點到了，人類產值的增加05/28 19:08
噓 quartics : 你顯然不懂泡沫的意思05/28 19:12
現在連泡泡影都還沒有，講泡沫還太早
→ saygogo : 網路是2000年當下吵過頭，尖牙股都是奠基於網路才有05/28 19:12
→ saygogo : 今天，網路其實沒有泡沫 ，是實打實的生產力躍進05/28 19:14
沒錯！
而且我相信這波AI浪潮發展的絕對會讓網路望塵莫及
※ 編輯: spencer8864 (1.163.34.32 臺灣), 05/28/2023 19:38:46
推 nknu20 : 恐懼我貪 05/28 19:58
推 psynanako : 這一篇+推文 有打動到我 05/28 21:35