熱門Ptt文章

[爆卦]dropout層是什麼？優點缺點精華區懶人包

雖然這篇dropout層鄉民發文沒有被收入到精華區：在dropout層這個話題中，我們另外找到其它相關的精選爆讚文章

在 dropout層產品中有7篇Facebook貼文，粉絲數超過6,381的網紅孫弘岳-人力資源管理的世界，也在其Facebook貼文中提到， 關於AI面試的假神準 . 我們實驗室透過產學合作與鳯凰互動以及震旦雲合力開發的AI面試系統，最近在工商/經濟/數位時代/天下雜誌Cheers/經理人/能力雜誌等媒體陸續報導，當然就開始引起許多質疑的聲音，這幾乎是所有產品創新與實驗都會面臨的挑戰。其中有一點，就是我們的AI面試模型，是否有"過度擬合"...

　同時也有1部Youtube影片，追蹤數超過3萬的網紅Stargazerr Lyla，也在其Youtube影片中提到，✧上衣✧ 半高領修身針織衫-UWS28 裸粉F http://bit.ly/2rxBQRB 柔軟高領側開衩毛衣-UWS50 卡其F http://bit.ly/2ry6jyV 學院風領結上衣-UWS32 卡其杏F http://bit.ly/2rsXPcy 薄款針織小外套-UWS05 藕粉F htt...

「dropout層」的推薦目錄

dropout層 在 Banana Bro 蕉哥 Instagram 的精選貼文

2020-06-03 06:43:10

從前，有兩個小伙子在森林裡伐木，一個叫Busy，另一個叫Productive，他們各自都用一把普通的木鋸工作。Busy每天一大早就起床鋸木，可是每天的收獲遠遠比不上Productive。他很沮喪，他認為自己每天都努力工作，甚至比Productive還要努力，理應獲取更合理的回報。於是，不甘的他決定去...

  • 孫弘岳-人力資源管理的世界

    dropout層 在 孫弘岳-人力資源管理的世界 Facebook 的最佳解答

    2021-03-05 07:25:46
    有 92 人按讚

    關於AI面試的假神準
    .
    我們實驗室透過產學合作與鳯凰互動以及震旦雲合力開發的AI面試系統，最近在工商/經濟/數位時代/天下雜誌Cheers/經理人/能力雜誌等媒體陸續報導，當然就開始引起許多質疑的聲音，這幾乎是所有產品創新與實驗都會面臨的挑戰。其中有一點，就是我們的AI面試模型，是否有"過度擬合"的問題，而造成"假神準"。我的答案是，”不排除這個可能性”。
    .
    所謂過度擬合 (Overfitting)，簡單說就是在機器學習或統計相關的過程中，把原本不相關的兩件事在大量數據中，建立出假性相關的結果，當我們把這個訓練好的預測模型用到下一批不同數據中，就會失準。例如，我們想預測什麼樣的學生適合當HR，找了一批當HR的履歷來分析並訓練AI模型，結果這批HR大多都來自北部，就會得到住在北部的學生比較適合當HR的假相關。
    .
    要降低過度擬合的可能，在技術上有一些方式，例如進行更多不同樣本的交叉驗證、去掉不相關的特徵值(例如: 來自北中南東)、在模型訓練過程中進行批歸一化 (Batch Normalization)與正則化(Dropout)。但以上都是只是表面的技術層次，更重要的是模型背後有沒有理論基礎，也就是變項與變項之間的關係詮釋。
    .
    表情除了反應情緒，可否反應一個人在特定情境下的行為傾向或社交印象，背後有透鏡模型(Lens Model)、 信號理論(Signaling Theory)的支持，結合電腦視覺與深度學習，形成另一支性格運算(Personality Computing)的跨域理論。筆者之前也發文分享，現代社會心理學家，已發現表情其實不盡然反應情緒，而是行為傾向或社交技巧，這背後的理論叫行為生態論 (Behavioral ecology view of facial displays, BECV)。缺乏理論的數據分析或機器學習的結果，有可能會誤導真實性。但缺乏實證數據的理論，終究只是個假設。理論與實證數據缺一不可，我們才能有較高的信心來”參考”這些數據結果與理論。
    .
    過去研究人類表情的大宗師是心理學教授Paul Ekman，他結合電腦視覺技術，捕捉人類肉眼難以察覺的微表情 - 學術界定義是五分之一秒以下，突然呈現的面部肌肉變化。早期是用臉部68個移動點(不含額頭)，現在有些學者會抓到86點到120個點以上不定(含額頭)，而這些微表情大都是由人類下意識情緒所觸動，最常被用來測謊，因為微表情反應當事人”可能”在說謊的情緒，且不易被當事人控制或破解。但這終究是間接的關係，就跟心跳測謊儀一樣，它測出來的是緊張，而緊張不一定等於說謊。即便如此，運用電腦視覺的AI，推估一個人是否在說謊的正確”機率”，雖然不是絕對答案，但仍比人類肉眼判斷還高。這解釋縱然Paul Ekman的基本情緒論一直備受挑戰，在學界也仍無共識，但這類技術仍被廣泛應用的原因。
    .
    屆至今日，我們都相信眼見為憑，也相信面試除了透過結構式面談問出應徵者過去的行為外，也能在過程中，讓面試官根據回答之外的非口語信息”判斷”一個人的性格或溝通技巧，起碼可以篩選掉一些”看起來”或”感覺”怪怪的人。但你問面試官，他們也說不出個所以然。重點是，許多相關研究發現，這類面談答案以外的弦外之音，常常被人類面試官誤判。倘若有一個工具，它的性格/溝通技巧是經過當事人自己、主管、同事、下屬、甚至客戶，以科學檢驗過的量表或工具在適當的實驗環境下進行測評，運用AI發現與當事人在真實面試中的微表情出現某種相關性，且這個模型再去測試另一批不同的應徵者也能得到不錯的預測結果，或者同一個人經過一段時間再進行一次測試，也能得到相似的結果。我們也只能說，這只是一種一致性與且正確機率較高的測評參考工具，在深度學習黑盒子下，也沒有辦法解釋什麼樣的微表情會有什麼的性格或行為傾向，這個技術仍在發展中，不代表真實答案。
    .
    那什麼是真實答案? 或許連當事人自己都不一定知道。 但運用在人力甄選中，雇主可能更在意的是當事人在職場環境中展現出的行為以及利害關係人對當事人的評價，至於當事人內心世界在想什麼? 或真實的他/她是什麼樣的人？使用者大多不是太在意!
    .
    https://www.ithome.com.tw/news/143000

    .
    AI面試是一個仍在發展中的技術，除了微表情，接下來我們會結合聲律、音質、上半身肢體動作，研究與測試這個測評工具對於性格、印象管理(包括自我包裝/欺騙/隱瞞)的信效度，以及應徵者在不同AI面試介面下的不同行為反應。關於我們的相關研究，除了專利技術外，都公開發表在SCI的期刊中，歡迎大家指教，讓這個工具可以更客觀更準確地被大眾使用:
    .
    https://doi.org/10.1007/s11554-021-01071-5
    https://doi.org/10.1186/s13673-020-0208-3
    https://doi.org/10.1109/ACCESS.2019.2902863

  • DeepBelief.ai 深度學習

    dropout層 在 DeepBelief.ai 深度學習 Facebook 的最讚貼文

    2020-05-06 15:32:19
    有 89 人按讚

    由谷哥大腦與deepmind攜手推出新論文，透過基於進化算法來搜索出可以兼具將標準化以及活化函數功能的新的神經網路層，這個被找出來的新結構稱之為EvoNorm，論文中做了多種視覺任務的測試都呈現出更高的精確度以及模型泛用性。

    Evolving Normalization-Activation Layers
    https://arxiv.org/pdf/2004.02967.pdf

    為了確認這個EvoNorm是否該納入經常性的使用，因此我做了一下簡單的測試，我原本用了mnist數據集，總共做了(1)只有卷積、活化函數與全連接層(2)加入batch normalization (3)加入batch normalization與dropout(4)使用EvaNormB0

    以上皆是卷積層3層，卷積核皆為(3,3)，第一層strides為1其餘為2，活化函數為leaky_relu，在優化器為adam，學習速率1e-3，批次大小128，跑了2000個批次的結果。

    從圖上看來，EvoNorm前段比較普普，後段在四種架構中的確是損失最低評價最高。若是利用center loss圖來觀察這幾個模型的決策空間（每個顏色是指0~9數字在特徵空間的分佈，顏色交疊意味著分類錯誤），EvoNorm的中心點比較空洞，這表示分類案例重疊誤判的狀況是最輕微的。

  • 軟體開發學習資訊分享

    dropout層 在 軟體開發學習資訊分享 Facebook 的精選貼文

    2020-02-15 03:57:31
    有 39 人按讚

    本課程是由 deeplearning.ai 所製作，講師也包含了 deeplearning.ai 的創始人 Andrew Ng ( http://bit.ly/2O1JD61 )

    這個課程全球已經有 27 萬多人報名參加

    如果你想進軍AI，這個專修課程將幫助你達成。深度學習是技術中最受歡迎的技能之一。課程將幫助你精通深度學習。

    在五個課程中，你將了解深度學習的基礎、如何構建神經網路，以及如何帶領成功的機器學習專案。

    你將學習 :

    ✅卷積神經網路(CNN:Convolutional Neural Networks)
    ✅類神經網路(RNN:Recurrent Neural Network )
    ✅長短期記憶（LSTM: Long Short-Term Memory)
    ✅Adam優化演算法(Adam : Adaptive Moment Estimation)
    ✅丟棄法 (Dropout)、BatchNorm
    ✅Xavier / He初始化等。

    你將做保健 、自動駕駛、手語閱讀 、音樂生成和自然語言處理的案例研究。不僅掌握理論，而且還會看到它在產業中的應用。使用 Python 和 TensorFlow 練習所有本課程中教授的想法。

    你還將聽到許多深度學習的領先專家們與你分享他們個人的故事，並給你職涯的建議。

    AI正在轉變多個行業。完成這一專業後，你將會找到創造性的方式應用到你的工作中。

    ✅第 1 門課程 神經網路與深度學習

    ✅第 2 門課程 強化深層神經網路 : 超參數調校、規則化與優化

    ✅第 3 門課程 結構化機器學習專案

    ✅第 4 門課程 卷積神經網路

    ✅第 5 門課程 序列模型

    https://softnshare.com/deeplearning-andrewng/

你可能也想看看

搜尋相關網站