矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/

【哎喲你呀】MV首播

歡 迎 大 家 照 樣 造 句 、 分享

例句：哎喲你呀，你買票了嗎？

[影像]
導演：鄭各均、林奕碩
剪輯：林奕碩
英文翻譯：陳思愚
普通話翻譯：林奕碩

[音樂]
詞曲：林奕碩
編曲：百合花（林奕碩、林威佐、邱莉舒）、鄭各均
製作／混音／後期：鄭各均
錄音：鄭皓文
主唱／古典吉他／高音直笛：林奕碩
木Bass：林威佐
主唱／沙鈴：邱莉舒

🔔 追蹤百合花instagram ：liliumtaiwan
🔔 訂閱百合花youtube : 百合花liliumtaiwan

#首發專場限定編制｜#雙人票限量發售中
▎百合花【燒金蕉】首張專輯發片專場
▎日期：二Ｏ一九年九月二十日（星期五）
▎時間：晚間七時入場，八時演出
▎地點：The Wall Live House（台北市羅斯福路四段 200 號 B1）
▎票價：預售 400／現場 500／ 雙人 700
https://reurl.cc/6AQad
(LILIUM are performing at ‘THE WALL’ in Taipei on 20th of September, along with their new album release!)

要來送新光三越攝影展的門票囉～


#只有今天
#限時12小時
#超級簡單



請到連結的頁面（不是我這邊喔），使用“吳建衡”以及“攝影”來造句，只要您有修完台灣國民小學的中文課程，我想基本上都不會有太大問題，之後就等新光三越的粉絲團小編，敲您送票囉。


造樣造句：


吳建衡的攝影技術，還可以接受。
吳建衡的攝影手法馬馬虎虎。

（如果你真的這樣留，我會請新光三越小編封鎖你）


只到今天晚上23:59唷～


👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫👨‍🏫

導覽簽書會


目前有兩個確定的導覽＆新書分享場次：


分別是


● 活動時間：4/06(六) 14:00
● 活動地點：新光三越 台北信義新天地A9 9F


● 活動時間：5/18(六) 14:00
● 活動地點：新光三越 台中中港店 10F


（新書4月2號全國通路上市，攝影展現場也買得到唷）

【他們的世界｜吳建衡攝影展】台北場12hr快閃贈票🎁
📢 #吳建衡 的粉絲看過來!! 限時12hr搶票來囉~~!!
3/22(五)12:00至23:59止，完成以下指定任務，即可獲得【2019 SKM PHOTO新光三越國際攝影聯展】台北場期間限定[B區]免費入場資格！一起走入吳建衡 Ed Wu Photography 鏡頭下的世界、分享他的影像故事吧😍

🤳 參加辦法：
Step 1：請用【吳建衡】【攝影】兩組關鍵字創意造句
Step 2：等待小編確認通關密碼後，就會將兌獎方式告訴你喲！

#新光三越文教基金會25週年活動限定
😎 下期快閃贈票活動預告：3/29(五)
🎥 宣傳影片：http://yt1.piee.pw/FW22X
-
2019 SKM PHOTO 新光三越國際攝影聯展
📅 4/3-4/22台北🔜5/16-6/3台中🔜6/6-6/24高雄
🔎 更多詳情：https://pse.is/DYFJ8
-
#SKMPHOTO #37位攝影師300幅影像故事
#台灣人文紀實攝影師 #吳建衡 #電音三太子走訪各國

這是在講述一個等朋友等到走火入魔的BANG態故事...全部BANG起來！
👉馬上訂閱聖結石囉！►► https://goo.gl/c5v7cQ
👉更多《聖結石Saint 音樂作品》! ►► https://goo.gl/FjgZ0P

雞腿「BANG」當、「BANG」形金剛，什麼都要BANG，也什麼都可以BANG！
聖結石用自己的招牌語“BANG”及廣大網友們的爆笑造句，
創作了這首和朋友相約看電影卻被爽約的趣味故事，幽自己一默。
「朋友BANG不見」更邀請音樂全才生“許書豪”編寫和聲，
向來愛玩Free Style的許書豪，更為這首歌獻聲和音。讓歌曲玩味更加豐富！
「2017十大網路流行語」BANG，2018新年也陪大家求新求「BANG」
-
👉「人生大爆炸」試聽購買 這BANG請 🔜 https://webtvasiataiwan.lnk.to/pHP7Y
👉2018 聖結石 X LINE「官方有聲貼圖」： https://goo.gl/fPjKhx
-
「人生大爆炸」LIFE'S A BANG！簽唱會
3/04 台北｜西門聯合醫院
3/17 台中｜新時代廣場
3/18 高雄｜草衙道
簽唱會詳細資訊請洽 ＠上行娛樂 ＠Webtvasia Taiwan


《朋友BANG不見 Where Have You BANG》

音樂製作工作人員名單：

作詞/曲：曾勝傑Saint 羅凱Lo kai
製作人：廖晉儀 LIAOBOY
編曲：何官錠 AL Ho
和聲編寫/和聲：許書豪 Haor
執行製作：詹潔如 Z.RuLE
錄音師：賴彥中 Lai
錄音室：WebTVAsia Taiwan Studio
混音師：陳陸泰 A-Tai
助理混音師：鄭正鴻 Parker Tee
混音室：原艾音樂錄音室 Mugwort Studio

影像製作工作人員名單：

MV出品：WebTVAsia X 上行娛樂
導演：曾勝傑
編劇：曾勝傑
演出：曾勝傑
演員：王淳永 方少剛 杜易宸 黃志穎 蘇竣平
執行導演：安仔
製片： 聖嫂DODO
執行助理： 謝昇伯
攝影師： JuniorLo
攝影組：絕對映像工作室 大宇傳播
燈光師：宋秉諭
燈光助理：唐竣偉 林大洋 顧立琳
影像後製： 翁林楷
影像後製協力：安仔
造型：大肥
彩妝/髮型：Candy Hair Studio
藝人經紀：WebTVAsia Taiwan / 上行娛樂


/// 非商業合作影片 This video is not sponsored ///

----------------------------------------------------------------------------------------------------------

聖結石Saint【安儷】►► https://youtu.be/r4NGGqmX_W4
聖結石Saint【真的不想嘴】►► https://youtu.be/fWuq67-VSTM
聖結石Saint【根本就不會再見面】►► https://youtu.be/LAPXqtxxstE
聖結石Saint【一定會追到你】►► https://youtu.be/V2mZYvAiLsw
聖結石Saint【說不出口的想念】►► https://youtu.be/0dxtL9c_Yxs
聖結石Saint【只能懷念】►► https://youtu.be/AN3nAmTSeEk

【人生大爆炸！】線上聽 🔜
KKBOX | https://goo.gl/8uUQD8
friDay音樂 | https://goo.gl/8JNhmK
MyMusic | https://goo.gl/SuPE1Q
QQ音樂 | https://goo.gl/VADv4B
酷我音樂 | https://goo.gl/r4BZVQ

【人生大爆炸！】專輯訂購 🔜
博客來 | https://goo.gl/fXShWv
五大唱片 | https://goo.gl/xXVYVh
佳佳唱片 | https://goo.gl/ULPmMT
光南大批發 | https://goo.gl/gtsM3R
誠品網路書店 | https://goo.gl/e3dtSL
玫瑰大眾購物網 | https://goo.gl/NH3otz

----------------------------------------------------------------------------------------------------------

👉Prev 上一部
聖結石Saint【只能懷念】Official MV ►► https://youtu.be/AN3nAmTSeEk

----------------------------------------------------------------------------------------------------------

我是聖結石，我是一個平凡的人，但我在創造一段不平凡的人生。

I'm Saint, an ordinary guy creating extraordinary things.

----------------------------------------------------------------------------------------------------------

👉 More Saint
Facebook ►► http://goo.gl/4UQLS0
Instagram ►► https://goo.gl/DNymkD

👉 More Saint's Wife ❤️ 聖嫂DODO ❤️
Youtube ►► https://goo.gl/VdtPz5
Facebook ►► https://goo.gl/BZbsDR

👉 More Playlist
點選播放清單可以看到更多同類型影片
《今天TEST》►► https://goo.gl/TShvSf
《今天VLOG》►► https://goo.gl/Cb1DD9
《今天TALK》►► https://goo.gl/KcWJBi
《今天GAME》►► https://goo.gl/myzsQd
《今天PRANK》►► https://goo.gl/vaI3VB

----------------------------------------------------------------------------------------------------------

想與我合作請寄信件至：Monica
[email protected] 0929356282

----------------------------------------------------------------------------------------------------------

👉太多人問了，我直接打在這邊！

Q:BGM是?
A:全部都是YOUTUBE創作者工具箱的音樂，因為我沒有保留原
本的名稱，因此全部都不知道名稱，要找的朋友請點右上角你
的頭像點創作者工作室，然後左邊下邊有個創作者工具箱。

Q:使用甚麼器材拍攝?
A:80D+iPhone7+GOPRO5+RX100M5

Q:剪接軟體是?
A:sony vegas 13 pro+Pr+Ae

----------------------------------------------------------------------------------------------------------

👉FAQ

What's background music for Video ?
All from CREATOR STUDIO.

What camera do you use?
80D+iPhone7+GOPRO5+RX100M5

What software do you use to edit video?
sony vegas 13 pro+Pr+Ae

----------------------------------------------------------------------------------------------------------

👉Music information retrieval



----------------------------------------------------------------------------------------------------------