矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/

摧毀溝通的第一大殺手就是好勝心太強。

一味地拒絕，會失去朋友；一味地順從，會失去自我。

取自《放棄的魚，就是你選擇熊掌的代價》

……………………………………………………………..

各位朋友，早安：

我把昨天直播談到的部分重點，放在這篇摘文裡面。這幾個重點，我認為對經營關係有相當的關鍵性。
https://www.facebook.com/Psychologist.Hung/videos/711027846353505/

當一個人特別重視自尊，不管溝通什麼事，常會變成意氣之爭，最後變成破壞關係。在準備要好好溝通之前，可以把這段短文多看一遍，可以幫助我們抓住溝通的重點。

對人說「不」，也是一個我常被問到的問題，因為這牽涉到界線。尤其在家庭裡，不想做的事其實很多，但少了溝通，也沒清楚說「不」，常變成用發脾氣的方式，或者迂迴施展情緒勒索，這反而讓雙方的壓力更大。

沉沒成本，則經歷過的人都會懂。也就是我已經對關係投入這麼多了，明明這個人不適合我，但要我就此離開，我不甘心不放手。

如果再把機會成本的概念加進來，就會知道，勉強自己在不適合的關係裡，也許暫時不用面對失落的痛苦，其實是放棄了自己一個人的清靜，還有其他幸福的可能性。生活就是不停的取捨，偏偏有人就是什麼都要，把自己困在僵局，其實一直在失去，只是遮住眼說自己看不到。

這些知識，不一定能在討論家庭或關係的書裡面看到，可是好理解、可運用。祝願您，能透過知識整理自己，能覺察並梳理自己的慣性！

……………………………………………………………..

【文/ 路騁】

｜關鍵對話｜
壓根說不到點上，怎麼溝通？

▍關鍵對話是什麼？

在平時的工作和生活中，你一定會遇到這些對話：一，對話的兩個人意見不合，比如你想說服老闆調薪水，老闆不願意；二，對話時帶有強烈的情緒，很容易失控，比如情侶吵架，孩子不聽話惹你生氣； 三，談話造成的影響、風險特別大， 比如重要的面試、商務談判。

有人給這類對話起了一個名字， 叫作「關鍵對話」。

▍基因決定反應

面對關鍵對話，人們的第一反應不外乎兩種：要嘛拔腿就跑，要嘛衝動行事。這是數萬年來人類進化所形成的基因決定的。原始人打獵的時候，聽見草叢裡有一陣響動，下意識的反應肯定是拔腿就跑，或者是抄起工具準備拚命。不管選擇哪種方式，他們全身的血液會快速流向四肢，好讓自己跑得夠快、打得夠猛，而此時大腦就會瞬時供血不足，無法冷靜思考。

再看看你自己吵架或生氣時，一旦情緒占領大腦，你就會瞬間停止思考。說的話、幹的事，全都和平常不一樣。從另一個角度來說，如果你強迫自己關鍵時刻還要冷靜思考，那你付出的代價很可能是葬身虎口，一命嗚呼。因此，遇事不慌的基因已經在漫長的人類進化中被逐漸淘汰了。

然而，無論是逃跑還是打架，都沒法真正解決問題。我們需要的是在面對關鍵對話的時候，保持理智，積極妥善地解決問題。所以，具體應該怎麼做呢？我們把關鍵對話技巧總結成最重要的3 個方面。

第一，從「心」開始，明確目標。
也就是審視自己內心真正的目標。你是否有過這樣的經歷：你跟別人因為一件事吵起來，吵到最後，都忘了是因為什麼了，滿腦子就想著絕不能，誰服軟誰是「孫子」。其實，摧毀溝通的第一大殺手就是好勝心太強。比如，同樣是「削減成本」這個問題，你說要簡化包裝，你的同事說要減少鋪貨通路，雖然你們倆的觀點都有道理，沒有誰對誰錯，但是你們都想證明自己的方案更好，這時候溝通的目標就從「如何削減成本」變成了「如何戰勝對方」。所以，在關鍵對話之前，你得明確自己真正的目標，無論出現多少可能轉移注意力的情況，都不要關注，只有盯住真正的目標才是重要的。

第二，營造氛圍，避免衝突。
我們可以把溝通需要的能力看作大腦的兩台處理器：一是大腦A，負責談話的內容；二是大腦B，負責談話的氛圍。比如無論你怎麼說，對方就是不買單，這往往是因為你只關注了A， 而沒有關注B。那怎麼調整氛圍呢？—道歉、解釋誤會、尋找共同目標。比如，一對夫妻因為怎麼過週末這件事吵起來了，丈夫想去跟朋友打籃球，妻子想讓他陪著看電影，說不到一塊，於是妻子開始哭訴：「你就是不愛我！」這時候，如果丈夫回這麼一句：「這跟愛不愛妳有什麼關係？能不這麼鬧嗎？」估計後果不堪設想。萬一沒忍住真的這麼說了，丈夫需要保持冷靜，先道歉：「親愛的，我剛剛沒顧及妳的感受，是我不好。」然後再解釋誤會：「我不是不在乎妳的感受，我非常愛妳。」接著尋找共同目標：「我也想看這部電影，咱們找個工作日的晚上一起去看，順便帶妳吃妳一直想吃的火鍋？」看，這不就解決了嗎？

第三，主動耐心，化解沉默。
有一方陷入沉默，逃避對話，其實跟兩個人激烈對抗是一樣的，都屬於溝通當中不好的情緒。要真是遇上不愛說話的溝通對象，就得想想辦法了。一般來說，想要打開一個人的心防，就得調動自己的好奇心和耐心。比如，你朋友不開心了，你可以問她：「怎麼了？」如果她說「沒事」，那麼考驗你的時候到了。尤其是各位男士需要特別注意，「沒事」這句話千萬不能輕信， 每次聽到，都要擺正態度，拿出十足的耐心，多追問兩句，才能把一場「危機」化解於萌芽。

◎關鍵對話
關鍵對話可以總結為3 句話：意見不統一，氣氛特緊張，結果風險大。

◎一句話理解關鍵對話：
意見不統一，氣氛特緊張，結果風險大。

…………

｜拒絕｜有些事，該說不，就要說不
痛苦，是可以拒絕的

有一個人感覺特別痛苦，他就去問禪師：「禪師，我怎麼才能解脫呢？」禪師笑了笑，給了他三天時間，讓他自己「悟」。第一天，禪師問他：「你悟到什麼了？」他搖了搖頭，於是禪師舉起戒尺，照著他的手心，狠狠打了一下。第二天，禪師又問了同樣的問題，他還是不知道，結果又挨了一次打。第三天，他還是什麼也沒悟出來，但是當禪師舉起戒尺的時候，他趕忙伸手攔住。禪師笑著說：「你終於悟了，痛苦，是可以拒絕的。」

▍「理所應當」的幫助

我們在生活中承受的很多痛苦，從本質上來說，是因為我們不懂得拒絕。有時候，明明是幫助別人，卻被當成理所應當。比如「你PPT 做得那麼好，要不你幫我改吧，反正你一下就搞定了」、「那個方案，我實在寫不出來，要不你幫我寫吧，反正你都寫了那麼多了，不差這一個」。還有，常有人跟我說：「老路，你幫我看看，你這麼專業，隨便出個主意就幫我們大忙了， 反正你也不費勁。」

剛開始我不懂拒絕，所以苦不堪言，每天花大量時間來應對這些莫須有的請求。有很多人自己都沒想清楚，就習慣性地找別人幫忙。後來有一天我想明白了，我終究不能讓所有人滿意。所以我就很自私地給自己定下一條規矩，以下這類人的請求，我一定盡全力滿足：一，真心幫助過我；二，真正關心過我；三， 真的在乎我的時間。除此之外，不管是誰，一律說「不」。

話說回來，大家也不能都像我這麼任性，畢竟職場是一個講求溝通協作的地方，一刀切地說「不」，會給你增添很多不必要的麻煩。因此，我們還是總結出3 種溝通方法，可以讓你在拒絕別人的同時不傷情面。

第一，推卻得留有餘地。人都有感性的一面，不管是多麼通情達理的人，在被別人拒絕的時候，心裡還是會很不爽。所以高明的拒絕就是，雖然沒辦法幫你，但是意思到了，或者有折衷方案。比如同事拜託你幫他改PPT，你可以說，確實擠不出時間幫忙改了，但是可以跟他一起過一遍，提一些修改意見。這相當於不是直接擋回去一件事，而是先接過來，再還回去。

第二，回絕得有理有據。你總得找點託辭才能拒絕別人，實在不行，也得編個像樣的理由，每次都是「臣妾做不到」也不行。什麼是像樣的理由呢？比如，別人勸你酒，你說「我不會喝」，人家會放過你才怪。那如果你說：「不好意思兄弟，最近在喝中藥，不能碰酒。」別人也就有台階下了。當然，一方面堅持原則，另一方面還得保持靈活，不管理由多充分，拒絕別人還是要委婉一點。羅斯福在就任美國總統之前，曾經在海軍擔任要職。有一次，他的好朋友向他打聽海軍在小島上建立潛艇基地的計畫。羅斯福神秘地向四周看了看，壓低聲音問道：「你能保密嗎？」朋友說：「當然能！」羅斯福微笑說：「那麼，我也能。」

第三，能不能之後再議。曾國藩有句名言：「事緩則圓。」很多時候，「緩兵之計」都是解決棘手問題的上上之策。比如別人找你借錢，你可以說：「等老婆給我發零用錢了，我就借給你。」再比如，面試官讓你回去等通知，十有八九就是沒有通知。關於用「緩兵之計」來應對，我是有切身體會的。有些人在麻煩別人之前，自己完全不過大腦，遇到這種情況，你完全沒必要第一時間去幫忙，因為很有可能他在下一秒就反悔了。

◎拒絕
一味地順從，會失去自我。一味地拒絕，會失去朋友。就人生而言，一方面應該懂得有容乃大，另一方面也應該明曉不能是來者不拒。—汪國真《拒絕》

◎一句話理解拒絕：
一味地拒絕，會失去朋友；一味地順從，會失去自我。

…………

｜沉沒成本｜
因為「來都來了」，所以「將錯就錯」

▍要繼續等公車嗎？

假設你月收入為5,000 元，扣除「五險一金」，能拿到4,000 多元，去掉2,000 元房租，剩下的2,000 多元就是你一個月全部的零用錢，吃飯、買衣服、買化妝品、玩遊戲⋯⋯都從這裡支出。此刻你要去某個地方辦事，這件事重要但不緊急。坐公車需要2 元，叫車需要62 元，除此之外沒有其它交通工具可供選擇，步行也不可能，那麼你會選擇叫車嗎？

多數人會選擇等公車。但如果10 分鐘過去，公車還沒來，你會叫車嗎？ 20 分鐘、40 分鐘、1 小時後呢？那些一開始就選擇叫車的人，雖然花了62 元，但他們一分鐘也沒浪費，而你在等了一個小時後，也沒省下叫車費。這時你會不甘心嗎？

有沒有發現，等待時間越久，越不想放棄。經過一個小時的等待，你內心一定被折磨得難受—為什麼剛開始沒直接叫車呢？現在都等這麼久了，再叫車，豈不是「賠了夫人又折兵」！

▍魔咒「來都來了」

對大部分人來說，有一個四字魔咒永遠繞不開，那就是「來都來了」。只要你「來都來了」，你就會買不算便宜的門票，衝破人山人海，逛遍沒特色的景點；只要你「來都來了」，你就會強迫自己吃掉盤子裡難以下嚥的飯菜；只要你「來都來了」，你就會說服自己堅持看完令你昏昏欲睡的電影。

經濟學告訴我們，做決策時，不要考慮沉沒的成本。無論如何，你已經來了，是否「將錯就錯」，完全取決於你是想享受或想受罪。無論如何，等車的一個小時已經沉沒，是否繼續等， 只取決於在這個時間點，你認為公車還要多久才能來。

沉沒成本這個概念本身並不複雜，我們可以參照以下3 條原則對此加以運用。

第一，敢於「半途而廢」。假設你投入100 萬元創業，一年後不見任何起色，而你內心很確定，進入這個市場的窗口期已過，此時的你如何選擇呢？如果就此放棄，那麼已經投入的100 萬元和一年時間都虛擲了；如果繼續堅持，則意味著還要再投入更多資金、時間和精力，而且十有八九換不回好的結果。你內心可能有個聲音不斷迴響：「不要半途而廢。」這時，與其說你堅韌不拔，不如說是沉沒成本在逼著你不能退。其實，在確定是錯誤的方向上，懂得「放棄」比「堅持」更可貴。

第二，讓人「欲罷不能」。美國著名連鎖超市Costco，在電商的席捲衝擊之下，居然逆勢上揚，保持著驚人的增長速度。究其原因，最核心的一點就是Costco 的會員制。只有交55 美元成為會員，你才能進入Costco 門市，並可享受海量的優質低價商品。這55 美元就相當於商家給你製造的一個沉沒成本，讓你控制不住自己，就算吃不完、用不完，也總想再多買一點。消費者的心理是：只有多買，才能把拿不回來的會員費攤薄一點。這種想法一旦作祟，商家就可以坐等數錢了。

第三，創造「覆水難收」。有句諺語是：「如果你想翻過一面牆，就先把帽子扔過去。」給自己設立一個沉沒成本的假象，可能會得到更好的結果。比如，婚禮就是結婚的人扔到牆那邊的一頂大帽子。大家都知道婚禮有多複雜，經過天昏地暗的婚禮籌備後，好多親密無間的愛人甚至都不想結婚了。但是，從心理學來說，勞民傷財的婚禮正是給婚姻投入的沉沒成本。人們在潛意識裡會想：這麼複雜的婚禮，我這輩子都不想再經歷第二次了，辦都辦了，好好珍惜吧。所以，別再學新潮玩「裸婚」或者旅行結婚了，婚禮、鑽戒、大教堂，一個都不能少，這份投入，值得你擁有。

◎沉沒成本
人並不總是理性的，在做決策時總會被已經發生的成本影響。
經濟學上將這種已經發生且無法收回的投入稱為沉沒成本。

◎一句話理解沉沒成本
因為「來都來了」，所以「將錯就錯」。

.

以上文字取自
放棄的魚，就是你選擇熊掌的代價：用得上的商學課，全球超過81萬人訂閱，100則超實用商戰策略：用得上的商学课
聯經→https://linkingunitas.com/L1493831
博客來→ https://linkingunitas.com/B1493831
誠品→ https://linkingunitas.com/E1493831
金石堂→ https://linkingunitas.com/K1493831
　
聯經出版

.

已額滿_7/14 台北公益免費講座_我們與和解的距離
https://www.facebook.com/events/299368801245302/

已額滿_7/16-17免費台北市教師研習_非暴力溝通_如何讀懂愛的語言
https://www.facebook.com/events/519814295382140/

7/25高雄公益免費_善牧第五屆爸比媽咪節-親子有話好好說(高雄場)
https://www.facebook.com/events/550194072308694/

已額滿11/7 三重免費公益講座_樂讀親子共學系列講座_以善意應對青少年情緒人際問題
https://www.facebook.com/events/189917322447609/

相信自己是夠好的媽媽：是犧牲，還是責任？是妥協，還是平衡？放下對母愛的執著，恢復你的生命彈性，重新找回愛自己的方式
博客來：https://bit.ly/2vhVD9s
讀書花園：https://bit.ly/2GEA9dH
誠品：https://bit.ly/2W4E3Sq
金石堂：https://bit.ly/2vhQ6jh

⭕一次擁有24位老師＋50套課程＋1010堂課
⭕建立賺錢商業模式
⭕鍛鍊職涯必備技能
⭕打造個人富足人生
⭕發現孩子天賦特質
⭕拿起手機就能學習
　
實踐家線上大學五大學院🏫
👉 台灣地區：
報名連結：https://bit.ly/3d5FEjz

馬來西亞地區：
https://bit.ly/Doers-E-Learning

新加坡地區：
報名連結：https://bit.ly/2K2JTix

香港地區：
報名連結：https://www.eventbrite.hk/e/app-tickets-101396465558
　
💰【商學院】課程
創意行銷、成功實踐家、競爭力、決策力、打造營銷的二十一把金鑰匙、卓越商業的十把鑰匙、定位·定天下、營銷戰術訓練營、戰略思維訓練
　
📊【創業學院】課程
商業系統、基於DISC的管理創新、背景普遍定律、創新商業模式十大模式解析、商業模式設計手冊、我們的模式『商業模式設計與創新』、創業型團隊管理學、股權核動力
　
👨‍💼【職場學院】課程
高效學習好工具『用好思維導圖』、金牌主持速成寶典、魅力口才、資本眾籌的力量、談判高手這樣訓練、如何做好5分鐘的路演PPT、銷售寶典『頂尖銷售十訓』
　
💪【成長學院】課程
高效時間管理法、時間管理系統、真正的財富、賺錢系統『營銷致富的五十二種方法』
　
👨‍👩‍👧‍👦【父母學院】課程
培養孩子成長的十大關鍵特質、卓越的種子、學習能力提升系統、自信表達教程、青少年教練系統、POS成功心理學、家庭和睦溝通系統、父母有方、三天讓學罷變學霸的祕密法寶、教子不再忙盲茫『卓越子女三部曲』、在線學習的孩子如何一鍵重啓、走進孩子世界『揭秘親子溝通』、你的格局決定孩子的未來、好家長，慧陪伴、好「家境」成就好孩子
　
還有📆【每日更新】
林偉賢老師主講《Money&You》300海報精讀
郭騰尹老師主講《幸福天空》幸福人生哲學
　
一次擁有實踐家最全面的線上影音課程
24位老師＋50套課程＋1010堂課
經營、行銷、職能、個人、親子，各方位全面提升
＃實踐家與您共同抗疫
疫情時期超級優惠價$1980元（原價14980元）
用最少的花費，讓自己更值錢🔥
👉 台灣地區：
報名連結：https://bit.ly/3d5FEjz

馬來西亞地區：
https://bit.ly/Doers-E-Learning

新加坡地區：
報名連結：https://bit.ly/2K2JTix

香港地區：
報名連結：https://www.eventbrite.hk/e/app-tickets-101396465558

Kids playground歡迎免費訂閱~
https://www.youtube.com/user/kazumaw

大家好 這是一個專門為Kazumaw家庭紀錄生活的頻道~
全部都是紀錄kazumaw家庭生活中的影片~

頻道中有許多遊樂場玩樂的影片 玩具開箱 吃餅乾點心 還有一些學習的小遊戲~
從玩樂中學習成長 ~
希望帶給你開心的每一天

kids playground ~ 孩子們的遊樂場
歡迎訂閱我們的頻道 有新的影片會通知您喔~ ~~
https://www.youtube.com/user/kazumaw


狩獵射擊槍~OTORO揪大家一起來槍戰吧 超級好玩的
https://youtu.be/lBVxv3_uD24

卡通頻道猴塞雷！瘋狂運動會 - Otoro揪大家一起來玩吧
https://youtu.be/P-0c2pFAVCY
https://youtu.be/MuK5ihpaKn4

台灣玩具反斗城 台北新生旗艦店 ~ 買玩具囉~~~
https://youtu.be/Xlp4fl-0Pqg

屎到碗裡來 + 小小兵怪味豆 ~ 超級噁心好玩的~~~
https://youtu.be/UosIYIpjIeY

超級緊張的爆炸氣球 快點來玩吧~~~Booming balloon ~ बूमिंग बुलून ~ ブーイングバルーン
https://youtu.be/kbWwQLwfyTc

畫畫遊戲 ~ 還有小禮物時間喔~ 超酷的 ドローイングゲーム खेल ड्राइंग
https://youtu.be/85v0ozBDCd0

比賽小遊戲 敲打企鵝 還有小禮物喔 penguin war ペンギン戦争
https://youtu.be/YxNhHFGJFIg

宜蘭頭城】頭城農場兩天一夜豐富之旅-一泊三食+點心無限~體驗DIY PART1
https://youtu.be/N8eKU6cTw3Y




寄東西給賓爸爸&OTORO
24258 新北市新莊區福營路173號11樓(普及科技)

FB社團 : 孩子們的遊樂場
https://www.facebook.com/groups/unclebingo/

工商合作聯繫 : 楊小姐 yuapei@gmail.com