矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/

【2021 非炒不可 打工換宿小幫手徵才】
想要曬成健康有魅力的小麥色嗎💪🏽
喜歡清澈湛藍的海洋
常常幻想著和海龜尼莫一起共游嗎🐬🐟🐠
🔥加入非炒不可大家庭🔥
一起征服綠島大大小小的秘境
成為朋友圈裡的冒險王🤸🏼♂
與又酷又漂亮的正職還有來自各地的朋友成為夥伴🙌🏻
👉🏻還在等什麼？趕快讓我們認識你！！！

-------- 有興趣的朋友請詳閱以下內容 --------
【單位】：綠島 非炒不可海鮮食堂
【地點】：台東縣綠島鄉
【換宿】：14天以上(可跨月，30天以上優先錄取)
【月份】：2021年 二月~十一月
【缺額】：
二月1人 七月8人
三月4人 八月8人
四月6人 九月8人
五月8人 十月8人
六月8人 十一月4人

註：缺額為目前尚缺人數
------------------------------------------------
🔔各月份錄取名單最晚公佈時間均為前一月份的5號。
4月最晚公佈時間為3/5、5月最晚公佈時間為4/5，以此類推...

【工作內容】：
主要工作：餐廳接待、收送餐點、餐具清潔、環境打掃、協助廚房事宜

【上班時間】：
每日4-5小時(含用餐時間)
排班制(一天工作1個時段)
(早班 09:30~14:30 / 晚班 17:00~21:00)

【待遇】：
1、營業期間，每日供應中餐及晚餐+不定時外食
(若無供餐則提供每餐150元餐費補助)
2、溫馨冷氣房 - 男女分宿，有wifi、吹風機
3、提供島上交通工具：速克達 機車
4、換宿期間旅遊平安保險(抵達店內~離開前一天)
5、14天以上：提供台東綠島船票（來+回）、免費體驗浮潛、溫泉泡湯各1次(船票費用為換宿結束前支付)
6、20日以上：除上述基礎，額外補助2000-5000工作獎勵金
(依據實際工作天數及工作表現)
(獎勵金可折抵成免費體驗深潛1次)
7、無限暢飲瓶裝水及氣泡飲料
8、公共區域提供wifi、熱水壺、洗衣機、衣架、冷氣
9、不定期舉辦烤肉趴踢及宵夜沉淪之夜！
10、籃球、羽球、桌球、飛盤、拳擊套⋯等的健康器具
阿瓦隆、UNO、麻將、大富翁、疊疊樂、撲克牌⋯等的封島或大風大雨的娛樂

工作之餘的時間一定要「盡情享樂」！好好體驗小島生活！祕境探險！生營火睡沙灘！超清澈海底世界，非炒不可等你來體驗！！！

-------------------------------
【徵才條件】：
「我們的工作並沒有很輕鬆，反而是超辛苦，工作需要積極、認真、用心、活潑
對打工換宿認知不同，無法刻苦耐勞，請勿投遞履歷」

1、 年滿18歲、活潑外向喜歡聊天分享
2、 具備工作熱忱
3、 可換宿14日以上者(30日以上尤佳)，無經驗亦可(可跨月)
4、 我們希望小幫手不要結伴應徵，因名額有限，無法保證能夠一起錄取。跳脫自己的舒適圈，比較能體驗到當地的生活

【應徵方式】：
〈主旨〉：我是xxx，應徵x月x號-x月x號的打工換宿
〈檔案形式〉：PPT、PDF，影片更加分！
〈寄到〉：crazyfried126@gmail.com

「履歷沒有特定格式，只要包含以下要點，可以用個人風格更有趣地呈現，快來吸引我們的目光！」
1、 姓名
2、 性別
3、 出生年月日
4、 現住地
5、 手機、LINE ID、IG或FB連結
6、 經歷、背景
7、 興趣、專長(能夠倒立走路、笑話大師、長的像彭于晏等等特殊專長也可以特別備註)
8、 最上相、最清晰、最「與事實相符」的生活照5張
9、 簡單自我介紹
10、為什麼想來非炒不可打工換宿❤️
11、有無機車駕照

▲若附上作品（繪畫、影片...等等），會更脫穎而出喔！
PS. 如有疑問歡迎私訊Facebook粉絲專頁：綠島 非炒不可海鮮食堂(先按讚！)，將有超美麗小天使為您解答

【2021 非炒不可 打工換宿小幫手徵才】
想要曬成健康有魅力的小麥色嗎💪🏽
喜歡清澈湛藍的海洋
常常幻想著和海龜尼莫一起共游嗎🐬🐟🐠
🔥加入非炒不可大家庭🔥
一起征服綠島大大小小的秘境
成為朋友圈裡的冒險王🤸🏼♂
與又酷又漂亮的正職還有來自各地的朋友成為夥伴🙌🏻
👉🏻還在等什麼？趕快讓我們認識你！！！

-------- 有興趣的朋友請詳閱以下內容 --------
【單位】：綠島 非炒不可海鮮食堂
【地點】：台東縣綠島鄉
【換宿】：14天以上(可跨月，30天以上優先錄取)
【月份】：2021年 二月~十一月
【缺額】：
二月4人 七月8人
三月4人 八月8人
四月6人 九月8人
五月8人 十月8人
六月8人 十一月4人

註：缺額為目前尚缺人數
------------------------------------------------
🔔各月份錄取名單最晚公佈時間均為前一月份的5號。
4月最晚公佈時間為3/5、5月最晚公佈時間為4/5，以此類推...

【工作內容】：
主要工作：餐廳接待、收送餐點、餐具清潔、環境打掃、協助廚房事宜

【上班時間】：
每日4-5小時(含用餐時間)
排班制(一天工作1個時段)
(早班 09:30~14:30 / 晚班 17:00~21:00)

【待遇】：
1、營業期間，每日供應中餐及晚餐+不定時外食
(若無供餐則提供每餐150元餐費補助)
2、溫馨冷氣房 - 男女分宿，有wifi、吹風機
3、提供島上交通工具：速克達 機車
4、換宿期間旅遊平安保險(抵達店內~離開前一天)
5、14天以上：提供台東綠島船票（來+回）、免費體驗浮潛、溫泉泡湯各1次(船票費用為換宿結束前支付)
6、20日以上：除上述基礎，額外補助2000-5000工作獎勵金
(依據實際工作天數及工作表現)
(獎勵金可折抵成免費體驗深潛1次)
7、無限暢飲瓶裝水及氣泡飲料
8、公共區域提供wifi、熱水壺、洗衣機、衣架、冷氣
9、不定期舉辦烤肉趴踢及宵夜沉淪之夜！
10、籃球、羽球、桌球、飛盤、拳擊套⋯等的健康器具
阿瓦隆、UNO、麻將、大富翁、疊疊樂、撲克牌⋯等的封島或大風大雨的娛樂

工作之餘的時間一定要「盡情享樂」！好好體驗小島生活！祕境探險！生營火睡沙灘！超清澈海底世界，非炒不可等你來體驗！！！

-------------------------------
【徵才條件】：
「我們的工作並沒有很輕鬆，反而是超辛苦，工作需要積極、認真、用心、活潑
對打工換宿認知不同，無法刻苦耐勞，請勿投遞履歷」

1、 年滿18歲、活潑外向喜歡聊天分享
2、 具備工作熱忱
3、 可換宿14日以上者(30日以上尤佳)，無經驗亦可(可跨月)
4、 我們希望小幫手不要結伴應徵，因名額有限，無法保證能夠一起錄取。跳脫自己的舒適圈，比較能體驗到當地的生活

【應徵方式】：
〈主旨〉：我是xxx，應徵x月x號-x月x號的打工換宿
〈檔案形式〉：PPT、PDF，影片更加分！
〈寄到〉：crazyfried126@gmail.com

「履歷沒有特定格式，只要包含以下要點，可以用個人風格更有趣地呈現，快來吸引我們的目光！」
1、 姓名
2、 性別
3、 出生年月日
4、 現住地
5、 手機、LINE ID、IG或FB連結
6、 經歷、背景
7、 興趣、專長(能夠倒立走路、笑話大師、長的像彭于晏等等特殊專長也可以特別備註)
8、 最上相、最清晰、最「與事實相符」的生活照5張
9、 簡單自我介紹
10、為什麼想來非炒不可打工換宿❤️
11、有無機車駕照

▲若附上作品（繪畫、影片...等等），會更脫穎而出喔！
PS. 如有疑問歡迎私訊Facebook粉絲專頁：綠島 非炒不可海鮮食堂(先按讚！)，將有超美麗小天使為您解答