[分享文]用EXCEL VBA網路爬蟲擷取YAHOO股市資料

因應疫情，剛好可以好好學習網路爬蟲，
最簡單的還是用EXCEL裡的VBA來抓資料，
這個範例適用IE物件來抓取，
程式可以用本來改一改就好，細節不要出錯，
很快資料就全部下來了，如下。
用EXCEL錄製巨集爬取YAHOO股市資料，
會有亂碼的問題，用PYTHON來爬取，
對一般人來說門檻又太高，
如果如何在EXCEL VBA就可以輕鬆爬取網路資料，
就是本文所要分享的重點。
當然本文不是要推崇VBA有多棒，Python不好用，
我的想法是只要用對工具，工作可以很愜意，
可以協同應用工具，讓彼此都能發揮最大的強項，
是本文寫說明的，
另外順便分享在EXCEL除了用匯入資料從WEB功能外，
也可以用IE物件，
功能很像是Python的requests加上beautifulsoup4差不多功能，
不同的是，可以將下載的資料直接放在EXCEL，
也就是把EXCEL當成資料庫用，這樣可以減少很多資料庫匯入匯出的麻煩。

完整教學與影片連結：
https://terry55wu.blogspot.com/2021/05/excel-vbayahoo.html

吳老師 2021/5/22

EXCEL VBA大數據分析視覺化程式設計
完整文字與影音連結：https://terry55wu.blogspot.com/2021/01/excel-vba.html

本學期應邀回母校台師大開課課程主要是：
用EXCEL VBA做大數據分析視覺化程式設計
另一個母校，東吳大學也邀請我開課，但限於自己的時間無法排出適合的時間，
於是系主任便推薦我開設遠距課程於是，
便有了可以在台師大上課，並將上課錄影除了提供上課學生複習，
也可以將後製後的影片，提供東吳的遠距課程的想法，
這樣我只要認真地把一次課程作法，就可以讓兩邊的學生都學習的好辦法。
於是開學後，台師大受限電腦教室，選修人數只有50人，加上加選5人，
有55位學生，幾乎是秒殺，至於東吳遠距課程，沒有這樣的限制，
所以選課人數近百人，有95位選修。

一、課程大綱：
期中前，主要從EXCEL高階函數、巨集錄製到VBA程式設計，
資料來源為政府開放資料，配合樞紐分析表。
期中後，網路爬蟲+樞紐分析到視覺化圖報表，用EXCEL內建功能與錄製巨集寫爬蟲，
無法抓取資料則用IE物件，將IE瀏覽器嵌入EXCEL VBA程式中，只要能連結的網頁，單可以下載裡面的資料。

課程進行中提供雲端講義，裡面有說明、畫面與老師自己寫的程式碼，並隨課全程錄影，
後製後上傳YOUTUBE，建立播放清單，直接件給學生複習與學習。
建立一個GOOGLE論壇，只有學生可以加入，
課後會將上課的YOUTUBE影片建立播放清單，並貼到論壇，
好處就是會自動轉信給學生，這樣我就不用一個一個的郵寄了，
用了超過十年覺得沒什麼問題，只是雖是論壇，
但討論的介面做的很不好，最好用的還是分享上課影片清單。
二、修課人數/學院分布
三、期中專題作業
四、期末專題作業
五、本學期授課心得：
1.兩學分真的有點趕，因此輔以影音錄製與雲端講義，對認真學習學生幫助很大。
2.期中專題有範圍，但許多學生都能加入自己的需求和想法，加上EXCEL容易上手，雖說需要撰寫VBA程式，但因為懂得錄製巨集與修改的方式，都能完成理想專題。
3.期末專題為難度很高的網路爬蟲+製作圖表，但結果超過預期的好，可見學生接受度很好，以學生回饋意見可知，上課錄影可重複學習備查，與雲端講義助益很大。
4.遠距學習(東吳)結果因為有影音與雲端輔助，成果不遜於實體上課。

非資訊背景教程式設計
非資訊卻講程式設計二十一年(89年巨匠教VB)
比較沒包袱，能從非資訊角度看學習與應用
重視實作，很多人看的懂書上寫的但寫不出程式
程式寫作要會寫，還要熟練，更需要完全正確(99分程式還是無法執行)
教學的核心都在如何幫助學生學會寫程式。
從EXCEL函數開始，再學習錄製巨集，再慢慢進入VBA程式設計的世界

如何幫學生寫出又快會好又正確程式
1.所有程式都是自己預先多次撰寫，用自己的寫作風格撰寫，不要求學生有標準答案，可以用自己的方式與邏輯寫程式。
2.提供雲端即時講義，取名雲端白板，有解答程式畫面結果與文字敘述。
3.隨課錄影，並課後上傳YOUTUBE播放清單用用GOOGLE論壇分享。
4.期中報告以開放資料為資料來源，用EXCEL樞紐分析圖表、函數、巨集與VBA完成專題。
5.期末報告以網路爬蟲取得資料(GET與POST)，用EXCEL製作圖表與VBA完成專題。

Pyhton V.S. VBA
自己也教Pyhton發現還是比VBA來的困難
1.安裝環境
2.有EXCEL可以存資料，甚至當資料庫
3.有錄製巨集可以產生不會寫的程式
4.樞紐分析 vs Pandas
5.圖表 vs Matplotlib
入門的學生與非資訊相關科系，建議可以先從學習VBA設計下手

第14次上課教學影片分享：
(期末專題作業說明&全省氣溫改為跨工作表與物件的使用&跨工作表說明與用IE物件)

教學論壇：
https://groups.google.com/forum/#!forum/excel2vba2020

吳老師 2021/1/20 分享

開課訊息：東吳推廣部 從EXCEL VBA到Python開發
上課日期 2020-12-2 時數 32節
上課內容：
因應大數據分析、物聯網與AI智慧辦公室的需求，能更容易的學會網路爬蟲、機器學習、物聯網、影像辨識、自動圖像報表等需求，其中以EXCEL VBA與Python程式開發最為熱門，因此將VBA的自動化延伸到PYTHON設計，讓學員能夠比較兩個工具的長處，並能相互協同應用。
教學內容
單元01_建置Python開發環境與程式測試
單元02_基本語法與結構控制件
單元03_迴圈資料結構與自訂函數
單元04_串列、字典與檔案與資料庫處理
單元05-1_開放資料處理CSV和JSON資料處理(停車與PM2.5)
單元05-2_開放資料處理練習題_新北市開放資料JSON
單元05-3_GOOGLE雲端當CSV來源與CSV處理
單元05-4_網頁資料擷取基礎與外匯
單元05-5_網頁資料擷取台彩與股市資料
單元05-6_擷取網頁上櫃股票行情
單元06_使用Pandas與處理_Excel_試算表
單元07_VBA與Phython連結MYSQL資料庫
單元08_視覺化報表使用圖表繪製Matplotlib
備註：本課程上課即時錄製教學，並於課後提供學員線上數位學習。
連結：
https://www.ext.scu.edu.tw/courses_search.php?key=%E5%90%B3%E6%B8%85%E8%BC%9D

吳老師 109/5/22
函數東吳進修推廣部, EXCEL, EXCEL VBA 函數,程式設計,PYTHON,大數據分析,網路爬蟲,

2020文獻數位化編輯與應用第8、9次上課

01_環境設定與證照102題
02_吉祥物去背與合成
03_練習沖洗照片合成練習

01_102A頌春文字黑白圖層
02_頌春黑白圖層連結與複製
03_頌春改為蘇東坡字變化
04_產生新年快樂菱形四個背景
05_新年快樂文字與作業說明

完整影音
https://www.youtube.com/playlist?list=PLYDN7SApJ3PjgU5LaqtA1VIhQB0r7iSAN

課程內容：
如何用新方法處理中國文獻
雲端應用、影音編輯與APP設計
文獻數位化自動化(EXCEL VBA)
實用電腦類證照考題。
習得企業所需技能為方向。
增進簡報軟體(Powerpoint)的進階應用。
文書處理(Word 2010)能力實作。
試算表(Excel 2010)與資料庫能力的養成。
影像編輯應用(Photoshop)基本應用。
辦公室應用軟體融入文學設計創意。
走出人文學院所學不實用的框架


吳老師 110/5/10

函數,元智大學,程式設計,線上教學excel vba教學電子書,excel vba範例,vba語法,vba教學網站,vba教學講義,vba範例教學,excel vba教學視頻

2020文獻數位化編輯與應用第8、9次上課

01_環境設定與證照102題
02_吉祥物去背與合成
03_練習沖洗照片合成練習

01_102A頌春文字黑白圖層
02_頌春黑白圖層連結與複製
03_頌春改為蘇東坡字變化
04_產生新年快樂菱形四個背景
05_新年快樂文字與作業說明

完整影音
https://www.youtube.com/playlist?list=PLYDN7SApJ3PjgU5LaqtA1VIhQB0r7iSAN

課程內容：
如何用新方法處理中國文獻
雲端應用、影音編輯與APP設計
文獻數位化自動化(EXCEL VBA)
實用電腦類證照考題。
習得企業所需技能為方向。
增進簡報軟體(Powerpoint)的進階應用。
文書處理(Word 2010)能力實作。
試算表(Excel 2010)與資料庫能力的養成。
影像編輯應用(Photoshop)基本應用。
辦公室應用軟體融入文學設計創意。
走出人文學院所學不實用的框架


吳老師 110/5/10

函數,元智大學,程式設計,線上教學excel vba教學電子書,excel vba範例,vba語法,vba教學網站,vba教學講義,vba範例教學,excel vba教學視頻

2020文獻數位化編輯與應用第8、9次上課

01_環境設定與證照102題
02_吉祥物去背與合成
03_練習沖洗照片合成練習

01_102A頌春文字黑白圖層
02_頌春黑白圖層連結與複製
03_頌春改為蘇東坡字變化
04_產生新年快樂菱形四個背景
05_新年快樂文字與作業說明

完整影音
https://www.youtube.com/playlist?list=PLYDN7SApJ3PjgU5LaqtA1VIhQB0r7iSAN

課程內容：
如何用新方法處理中國文獻
雲端應用、影音編輯與APP設計
文獻數位化自動化(EXCEL VBA)
實用電腦類證照考題。
習得企業所需技能為方向。
增進簡報軟體(Powerpoint)的進階應用。
文書處理(Word 2010)能力實作。
試算表(Excel 2010)與資料庫能力的養成。
影像編輯應用(Photoshop)基本應用。
辦公室應用軟體融入文學設計創意。
走出人文學院所學不實用的框架


吳老師 110/5/10

函數,元智大學,程式設計,線上教學excel vba教學電子書,excel vba範例,vba語法,vba教學網站,vba教學講義,vba範例教學,excel vba教學視頻