研究人員以AI產生人臉萬能金鑰，能夠仿冒三大人臉辨識系統的一半人像

文/陳曉莉 | 2021-08-12發表

來自以色列特拉維夫大學電子工程學院與電腦科學學院的3名研究人員，於近日出版了一研究報告《Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution》，透過AI技術產生9張人臉，並將這些人臉當作萬能金鑰，而能攻陷FaceNet、SphereFace與Dlib三大人臉辨識系統，且成功機率介於44%~64%之間。

研究人員指出，生物辨識的比對能力並不精確，而且生物特徵資料的分布亦不均勻，意味著可能只要少數的樣本，就能覆蓋多數人群，例如單一的人臉就能覆蓋LFW人臉資料庫中的20%。

這使得研究人員決定利用StyleGAN生成對抗網路來產生人臉，並效法字典攻擊，以AI產生的人臉充當金鑰，以對不同的人臉辨識系統展開暴力破解，他們不斷重覆產生人臉的過程，以儘可能地提高人臉金鑰的覆蓋率，總計製造了9張人臉萬能金鑰。

在以這9張人臉萬能金鑰針對FaceNet 、SphereFace與Dlib三大人臉辨識系統進行實驗時，發現其覆蓋率分別達到43.82%、44.15%，以及63.92%。另也發現，相較於年輕人，60歲以上的白人五官差異更小了，使得單一人臉的覆蓋率更高。

研究人員表示，此一結果意味著基於人臉的身分認證系統非常的脆弱，而且他們完全未取得任何目標對象的生物資訊，儘管許多人臉辨識系統都部署了反欺騙技術，但將此一方法結合諸如DeepFake等既有的技術，也許就能繞過該防禦機制，反過來說，人臉辨識系統也可透過人臉萬能金鑰來進一步強化該系統的安全性。

附圖：以色列特拉維夫大學研究人員透過AI技術產生9張人臉，能以5成機率騙過FaceNet、SphereFace與Dlib三大人臉辨識系統

資料來源：https://www.ithome.com.tw/news/146159?fbclid=IwAR3rKKj9FtVEz2yHM88LCvwCfVZAyQyovsc8mLVaJKVxKx9EzdLEUQ9cx0s

【讓你「變臉迪士尼」的App，查不到背後團隊資料...神秘創辦人是誰？】

你的臉書或IG也被這款「變臉App」洗版了嗎？它讓你一秒化身迪士尼卡通人物，還能模擬自己在文藝復興時期的長相！用戶只要上傳人像照片到「Voilà AI Artist」，點擊轉換後，App就生成原圖搭配三種風格的卡通人物頭像，下載圖片能馬上分享到社群！簡單好上手的優勢，讓這款App像病毒般快速擴散。

「Voilà AI Artist」才推出約3個月，就打敗TikTok、Instagram等強敵，在多國免費下載排行榜中都奪得第一名！它的幕後推手公司，今年1月才於倫敦登記註冊，成立不到2個月就推出這款App。然而，關於這間公司更詳細的資料卻幾乎找不到，極為神秘...⬇️⬇️⬇️

矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/

上一次剪映基本教學大受好評，因此來兌現我的承諾，製作了續集，這一部主要把上一集因為時間關係沒講到的功能把它補齊，如果反應一樣很好的話，我再來製作下一集，畢竟它還有很多不錯的功能，像是變聲、語音生成等等，沒想到剪映居然功能多到我兩集講不完XDD

剪映下載網址：https://lv.ulikecam.com/
第一集：初入門，剪映基本功能運用I：https://youtu.be/Ke43EELMDlM
第二集：搭配剪映AI加快上字幕的方法：https://youtu.be/UWyYYE_y9Hk
第三集：剪映基本功能運用II：https://youtu.be/NdDg7i_24kY
第四集：第三集反應好的話再持續規畫製作！

🔸CC字幕的開啟方式：https://youtu.be/k65E3bjUPbs
🔸關於留言你該知道的事：https://youtu.be/TVZWf6Xopuo
🔸歡迎加入羽的Telegram頻道以免漏掉上片通知：https://youtu.be/ocK4if42N8I

🆒加入分享家-羽的頻道會員：https://reurl.cc/dGKy7V
🆒分享家-羽頻道會員福利說明影片：https://youtu.be/A5VIBDbzPm8

👉前往分享家-羽的副頻道【日常廢片】https://tinyurl.com/yulenvlog
👉前往分享家-羽的粉專 https://www.facebook.com/HappySharerYu/
======================================================
其他分享家-羽的影片系列：
💡知識技巧與軟體分享系列
分享3C或生活中實用的知識、技巧與經驗，也會有一些好用的軟體推薦分享等等。
https://tinyurl.com/sg3w25o

🔎開箱評測、使用心得、產品介紹、選購指南系列
分享各種商品的開箱、評測、介紹、使用心得與選購指南等影片。
https://tinyurl.com/tqjpv75

🚗旅遊與食記系列
分享旅遊或食記相關Vlog以及旅遊相關的知識、技巧或資訊等等。
https://tinyurl.com/rtpc4a3

📢就是要分享系列
分享我覺得有價值但又不知道如何歸類的影片。
https://tinyurl.com/rp3h47r

🏨羽的住宿經驗系列
分享各種自己住過的飯店、旅社、民宿等等。
https://tinyurl.com/uto3ngh

📜全部播放清單列表
其他沒有列出來的清單都在這邊！
https://tinyurl.com/s8rmtk8
======================================================
✉合作邀約請洽粉專或來信 singiamagic@gmail.com

時間軸：
00:00 前言
01:17 增加剪輯效率與準確度的小技巧
02:52 磨皮與瘦臉的使用
04:49 羽化與圓角的使用
06:35 智慧人像去背
07:42 內建音效庫的使用
08:40 貼紙素材庫的使用
09:49 特效素材庫的使用
12:04 調整色彩與亮度等使用
13:00 如何做局部馬賽克
15:18 移除片段中特效的方式
15:34 我對剪映免費的想法

#剪映 #免費 #剪輯軟體