矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/

前幾天有媽媽跟我說 : ㄟㄟ 學期成績出來了耶 !
阿 真的好殘酷 .... 都放寒假了，還要面對成績 ( 昏 )
但我覺得現在學校比較溫柔
只會顯示出 前五名 ，而且不讓你知道確切的 1-5 排名
不像以前，從第一名列到最後一名，後段的孩子壓力山大 😂

很有趣的是
仔細觀察一下班上前五名的孩子
都是閱讀量大的同學 !
( 班上有閱讀紀錄 ，會知道誰看了很多課外書 哈 )
之前還不覺得
現在認真有感受到閱讀素養的重要
書本不只是了解新知的工具
我覺得阿，看書過程養出來的定性，是小朋友很需要的能力

怎麼個定法 !?

#可以坐下來10幾分鐘甚至20幾分鐘
定下來一段時間，專注在書本上
這個定性運用在學習上
不管學什麼都受用

#可以一個字一個字好好閱讀理解
閱讀理解力我們大人來看會覺得很荒謬
怎麼可能會看不懂文字呢 ?
ㄟㄟ 我跟你說
還真的很多孩子看不懂 ....
文意的理解，要靠從小多閱讀，多聽故事才能累積起來
從來沒好好閱讀過，沒有大量接觸文字故事，親子共讀
突然間上了小學要看課本，要看題目
還真的腦子會打結 !

更別說有了閱讀的底子，才有寫作造句的本錢
每本看過的故事，都是養份

ㄟ 是說
原本只是想感嘆一下閱讀的重要
就莫名其妙打一堆 哈哈哈哈哈
順便來宣布大事
套書團+雜誌 ， 緊急閃團

阿這團的重點是
贈品送的很誇張，送的書一堆 ( 真的是一堆 這不是誇飾耶，是寫實 )
因為實體書展取消了
#我硬是把原本要在書展上送的贈品通通凹過來
本來是要人到書展現場才能有的贈品
團友動動手指就能跟團，贈品話不多說直接投懷送抱
贈品算了一下，價值2700元以上
神扯了💕

然後這團裡有一套絕世好書，一套十入，實在很想讓團友知道他
適合小小孩親子共讀講故事，會看注音也能自行閱讀
Evan每天搶著要讀，本來是一天閱讀20分鐘，他讀到問我
: 時間到了，可是我想讀完可以嗎 ?

⭕️下單前一定要看實用心得 >> https://reurl.cc/5lRAqM

★下單底加 : https://reurl.cc/OXpK6g

★團購時間: 即日起~2/9( 二 )

2020.07.01
#小二
#造句

還是最喜歡教學啊！
昨天小孩造了個平凡無奇的句子，
我感動到頭皮發麻。

這位孩子學習動機極低，
平常不太發表，
講話很小聲，
常在放空或不斷拔睫毛。

複習造句「誰以為…沒想到….」，
搭配情緒卡引導討論，
念完課本3個句子後，
問孩子主角有什麼感覺？
歸納常會是「驚訝」、「震驚」、「吃驚」。
搭配溫老師的情緒卡。
我很誇張地演，
並加強語氣動作。

同學輪流造完句後，
以往他直接聳肩說不知道，
但這次他獨立完整說出：「爸爸以為我已經在家，沒想到我還在安親班。」
我同理他的情緒，
問他有這樣的經驗嗎？（回溯）
他立刻說上次爸爸忘了他，
安親班打電話給爸等等，
說了好多好多話。
我大大稱讚他，
其他同學也主動說他很棒。
他害羞地笑了一下，
露出淺淺的酒窩。

而當同學說這句哪裡要修改，
他罕見地大聲捍衛自己的造句，
像老鷹爸爸在保護小孩，
超感動😹

加上情緒引導，
孩子比較有靈感造出有戲劇感的句子，
不然一開始都無聊平淡。
也因為多點好奇，
多問了一句怎麼了?
更理解孩子的狀態，
不會輕易被孩子踩到雷或錯誤歸因。
原來他看起來很想睡不是因為我教得不好，
而是因為昨天沒睡好。
師生關係變得更和諧，
孩子情緒放鬆也更容易學習。

奇妙呀！

》購買網址、折扣碼請點開這邊
👉🏻追蹤居妮 https://www.instagram.com/ning3035/
訂閱頻道是支持、也能不錯過影片💋

🌹#公益 這次聯名販售所得
我個人的所得將捐出一半給公益團體♪
第一次聯名可能不是最完美的，但我很開心有這個機會！
想讓需要幫助的人也能獲得這一份開心:)


░ 影片資訊 ░
居妮168cn/50kg/扁身/肩寬38cm/臀圍35寸
朋友155cm/50kg/圓身/肩寬40cm/臀圍36寸

#鄰居系 PAZZO官網購買 https://bit.ly/2yM2bTh
限時72hr甜甜優惠價✨🥺
香港/澳門/新加坡/馬來西亞等海外地區有寄送哦

🍊居妮專屬折扣碼🍊
結帳時請輸入「GINNY150」
訂單滿1200可折150，需含任一件5/11的新品(每個帳號限使用一次)
使用期限5/11 10:00am ~ 5/18 10:00am
/

01.MIT #NEIGHBOR 配色印花T(白/紫/藍)
偏寬鬆中性、單一尺寸、超親膚的美國棉
不想要普通字母T，所以用亮眼但不浮誇的配色來裝飾
這三色是討論很多次的最終配色
我自己私心愛的順序是白、藍、紫
特別推薦藍色！因為亮藍X粉黃少見之外，我覺得好高級啊!!!


02.MIT NEIGHBOR居民長袖上衣(S/M 白/藍紫/奶茶)
（影片中示範S號）
一樣是美國棉、但布料是竹節紋路
我私心很喜歡輕盈透透路線+短板寬鬆
這件拿不論配高腰褲或高腰裙讓比例更好！整個人拉長5公分XDDD


03.MIT 舒適五分短褲(S/M號 黑/藍/綠)
（影片中我們都示範M號）
扎實度很好、不會像穿十年的皺睡褲那樣XD
這件是想和透透長袖(02.)配在一起
本來要兩件一起賣當set，但又怕大家不喜歡這樣搭
所以還是分開了～給大家自由配
私心喜歡它們一起穿，感覺很韓系休閒風格！


04.水手領格紋洋裝(S/M號 單色)
（影片中示範S號）
這塊布超級可愛！！好像冰沙一樣
大水手領很有存在感
我168cm當洋裝ＯK但是要安全褲
可以當洋裝、當外罩，或搭裙子紮起來都好看
而且有口袋唷(無時無刻握著手機很需要XD)


05.方釦碎花上衣(S/M/L 藍底/杏底)
（影片中示範S號）
春夏怎能沒有碎花！本想做成洋裝，但因為已經有三款襯衫了
所以改做成好搭的上衣
我喜歡大領子，因為可以讓鎖骨露出來
但大領子通常會有個問題：內衣肩帶會跑出來，要特地換平口
所以領子多做了"兩片"變成小方領來遮內衣XD好好用喔
銀色方釦還有多預留一顆給你唷(會縫在衣服內裡)
而且有內裡不怕透，不用再內搭背心！


06.高腰落地西裝長褲(S/M/L 粉紫/綠/深藍)
（影片中兩人都示範S號）
百元神褲來了😍✨✨✨✨(自已說哈哈哈哈)
高個一定會愛的長褲，長度足夠(雖然還無法在地上刷XDD)
小個子穿會變成時髦落地褲
我真心熱愛高腰，可是很多高腰褲褲檔做太ㄌㄤ、太過復古
這件拿捏的很剛好，腰間做得好像"小腰封"，把腰頭肉都收起來了！讚！
硬要說缺點的話，我覺得是吃飽後勾釦的部分有點翻XD(不是爆開啦，是稍稍翻開)

07.壓褶造型長袖上衣(單色)
透透、寬鬆、燈籠袖，集合我愛的元素在這件
若隱若現涼爽又好看！（建議可穿Bra T）
隨意搭素素短裙或牛仔褲就很有型
價格超可愛百元即可入手，我看到價格時感到不可思議QAQ?!


08.透肌感蝴蝶結長袖上衣(S/M 蜜桃橘/霧藍/靛藍就是深藍)
（影片中示範S號）
OMG！又集結我愛的元素，透透、啾啾(蝴蝶結)
這件有種"德魯納酒店"風格
蜜桃橘很清爽、靛藍(深藍)很小奢華、霧藍高級仙氣
是本次最最浮誇的單品！通常紗質上衣會整件很刺癢(就是又愛又恨啊)
但這件最刺的地方做了包邊(肩膀)，好親膚！我好滿意
精緻但價格也是百元，好開勳
我自己最愛靛藍色！怕太浮誇就配牛仔褲中和一下浮誇


09.浪漫少女荷葉領洋裝(S/M 白/靛藍)
（影片中示範S號）
浪漫小女人的Fu，但又少不了我愛的荷葉元素(歡呼)
短洋裝但一樣有實用口袋
配上同款布料的腰帶可以穿出好比例
是一件簡單但不失少女心得短洋裝，私心建議170cm以下的女生唷！


10.兩件式造型綁帶上衣(S/M/L 黑白/粉綠)
（影片中示範S號）
超划算兩件set組！適合懶得思考搭配的人直接這樣一套
每次逛街都最喜歡有附外搭背心的款式了
但通常外搭都會很隨便處理，但這件背心很認真的做了後拉鍊+綁帶+可調式肩帶
兩件都可以分開穿，會覺得很划算、隨便搭都有型


11.必備百搭排釦短裙(S/M/L 黑/白/卡其)
（影片中示範M號，舒適稍稍還有鬆度）
很想要有一件高矮個都可以穿、不怕走光的短窄裙(有安全褲內裡)
這件超級百搭！妳衣櫃裡的衣服都可以配它
排釦只是造型而已不怕掉了曝光XD
材質是斜紋布料，洗完我覺得會小皺但不至於誇張唷


12.蝴蝶結綁帶澎袖襯衫(S/M 白/杏/紫)
（影片中示範S號）
本次最易皺的來了！洗完肯定要好好燙它(我用蒸氣掛燙機)
那為什麼還要選這個材質呢？
因為我們打樣打了三次，發現這塊布讓袖子看起來最美、袖子澎度剛好ˊ＿＿ˋ...
取捨之後，還是選了這塊！私心覺得杏帶點粉、看起來仙仙的超溫柔
但我個人還是愛紫色啦:p

13.寬鬆落肩西裝外套 附腰帶(單一尺寸/灰藍/暗紫)
尖叫聲～～～～尖叫聲😍
本次最強冠軍我頒發給這件西裝外套💋腰帶送好送滿
我們調整版型很多次、選布料也很多次，超糾結
連腰帶都搞了很多次 hello！西外怎這麼麻煩
好險最終成果它真的好美好美QAQ料子又好！
挺但不硬、小墊肩、寬鬆、親膚、洗過還是美、顏色特別、附腰帶超值wwwww
我平常不包色的，這兩色我包了(畢竟是人生首次聯名嘛讓我包一下Q////Q)


14. PS201雙色造型割破牛仔長褲(S/M/L 單一色)
（影片中我們兩人都示範S號）
請趁特惠價買它！一千元有找，實在很可以🌝✨
如果西裝外套是冠軍，那這件是我的第二名
雙色修容(?)、高腰、褲長超夠、刷破、偏寬但不會誇張
高矮個都可以穿！！！！（抱歉我驚嘆號太多XD因為太喜歡了）


15.小姐姐抽鬚牛仔洋裝(S/M/L 單一色)
（影片我們兩人都示範S號）
我想做一件夠長、有特色的吊帶洋裝
可以搭配很多好看的合身短袖(紅條紋也買得到唷！)
洋裝是可調式肩帶、口袋實用、抽鬚和開衩特色、春夏軟牛仔
胸前還有小小抓皺、背後超順拉鍊
長度份量夠、做工複雜、價格也是在這次聯名品中偏高的，但我覺得它值得！


16.俐落破壞感短版牛仔外套(S/M/L 單一色)
（影片示範M號）
S和M只差了一點點點，為了超舒適感可以穿比平常大一號也沒關係
我把小蓬袖腦筋動到牛仔外套上...XD是有多愛蓬袖
這件我覺得是適合春夏秋的牛仔外套
很適合現在室內或晚上涼涼穿著！
布料有挺度但不會太厚，不想穿的時候拎著也無負擔

17.SO FAR SO GOOD棉質棉質襪 (單一尺寸 黑/白/紫)
我不是什麼英文達人啦，是以前看到這句話勵志小語後默默記到現在
用SO FAR SO GOOD造句👉🏻人生好難，但至少目前為止還算順利！
然後，某次逛街想買雙大字母的可愛襪子、不想太厚
咦！怎這麼難買啊🤣...所以這次聯名也想到了襪子
我平常太愛穿球鞋布鞋了、一定要長襪啊！隨便穿都適合


18.手揉皺皺感髮箍(粉/米白)
我個人超愛超愛"寬版"髮箍，寬版真的無敵難找欸
不是太寬就是太俗XDDD這款我大愛！


19.網紗拼接感髮箍(單一色)
比18.再更有個性一點、雙色紗質
中間有個蝴蝶結的造型比較特別
不過如果硬要選，我會選18.那款


20.清透浪漫格紋大腸圈(黃/綠/灰)
我幾百年不愛大腸圈了，這個透紗材質的太合我胃口！
天天綁頭髮的我怎能不入手！不綁的時候掛手上當造型也好看欸


21.NO.248 閃耀星星珍珠夾式耳環
耳夾人必須入手！！
這款效果好、輕盈、珍珠和星星元素都有，真的好美

22.NO.249 溫暖小雛菊夾式耳環
可愛但不會太迷你的貼耳式耳夾
以前看到這種花朵型的都好小，這個很有效果！有夠春夏感

23.NO.251 簍空愛心夾式耳環
是我近期、日常最愛的一副！因為穿什麼都可以配它
比星星款再低調一點，日常沒問題
若隱若顯的在頭髮晃來晃去，喜歡！！！！

以上就是這次的聯名單品
希望大家喜歡唷，想看更多穿搭照可以到我的IG(招手🙋🏻‍♀️💜💜💜)


｜其他PAZZO服飾｜
＊果綠色綁帶背心上衣
這件和綠西裝褲超超超搭！激推這樣搭配哦，而且薄料但不透、柔軟親膚

＊紅條紋短袖
貼身、親膚的春夏款針織上衣，不是毛線針織不用擔心(那也太熱XD)
很適合搭在任何吊帶單品裡面！
或是搭聯名款的短窄裙，超適合！



░ FAQ ░
相機｜Panasonic Gh5
剪輯｜Adobe Premiere Pro CC

░ 更多Ginny░
▪︎ 聯絡我!E-mail | ning3035@gmail.com
▪︎ IG| https://www.instagram.com/ning3035/
▪︎ FB | https://www.facebook.com/ginnyhoo
▪︎ Blog | http://ning3035.pixnet.net/blog
▪︎ MUSIC |
片頭曲kdna - Merry
Music by frumhere, kevatta - warm feeling - https://thmatc.co/?l=6E211D0D
Music by Mark Generous - Orange And Pomegranate - https://thmatc.co/?l=16FCD43B