Joe：「美國科技巨頭就算分拆掉，實質影響力還是很驚人，美國政府需要很多科技產業的配合，經濟成長會有有效率，也許美國國會對科技巨頭壟斷的看法不同，但美國國會一致抗中的態度沒有任何改變。」

美國眾議院繼2020年以多達449頁調查報告，直指Amazon、Google、Apple與Facebook涉及造成市場壟斷後，近日計畫起草新法，希望透過多項措施限制大型科技業者影響市場公平競爭，其中包含不得同時擁有大型服務平台經營與控制權，而這個限制未來可能會將改變Apple在App Store營運模式，或是影響Amazon自有品牌與服務發展，眾議院所指大型科技業者，明定為市值超過6000億美元規模，每月擁有活躍用戶人數超過50萬人以上，並且具有固定交易對象的業者，因此市場認為新法實際上就是針對Amazon、Google、Apple與Facebook所設。

即便美國連鎖大型超市業者Walmart目前已經是在全球擁有超過200萬名員工規模，更是全球最大零售通路，並且由Walmart家族持有超過48%股權，同時也擁有自己的線上通路平台與自有品牌商品，但卻未被指控壟斷，主要是因為Walmart市值並未超過眾議院認定的6000億美元以上的條件，不過，眾議院所起草的新法並未鎖定對象包含市值已經在今年4月接近2兆美元，並且擁有龐大Windows作業系統市場規模的微軟，有可能是認為微軟採取與OEM業者共同推動PC市場，同時並未像Apple藉由App Store等方式掌控市場生態，而是讓更多軟硬體業者能藉由Windows作業系統平台擴大發展。

美國眾議院提出法案內容仍須表決通過，後續還必須獲得參議院批准，才能透過美國總統Biden簽署公告成為正式法案。同時，美國共和黨及民主黨雖然都對限制大型科技業者，避免形成市場壟斷情況的看法一致，但是對於實際作法卻持有不同意見，因此讓此次提出法案內容仍有不少變動可能，不少民間團體也對眾議院提出法案表示反對，認為過度限制大型科技業者發展，不僅將使消費者習慣使用服務可能面臨改變，甚至可能造成大型科技業者在全球市場發展競爭受影響。例如Google有可能無法再提供更便利的搜尋功能，以及使用者日常習慣的地圖查詢等服務，而Amazon也可能無法提供更方便的Prime服務及自有品牌商品，甚至Apple也可能必須調整App Store營運模式。

美國參議院通過一項2,500億美元的法案，增加技術研發方面的政府支出，以加強美國對抗中國在內對手的競爭力，這是美國國會山莊在兩極化氛圍下罕見出現的兩黨團結景象，這項法案以68比32的票數獲得通過。參議院多數黨領袖Chuck Schumer表示，這將協助作為全球科學研究和創新領導者的美國停止衰落，他表示：「這會是本院很久以來的最重要立法之一，是對美國有能力抓住21世紀機遇的信心聲明。」

部分共和黨人不以為然，認為此案成本過高，對經濟的干擾過多，效仿中國自由上而下投資於受青睞產業和企業，代表威斯康辛州的參議員Ron Johnson說：「此案會增加政府對私部門的影響力，在此同時，債務暴增會削弱美國並降低我們的競爭力。」

該案旨在徹底改變美國政府對科學的支持，藉著透過國家科學基金會（NSF）等作法，擴大政府在技術研究的角色。根據國會預算辦公室（CBO）的新近分析，此案將批准大約1,900億美元的支出，以利美國先進技術在全球競爭，儘管這些資金並非全是新支出，此案也將促成許多其他技術相關的舉措。其中一項授權約520億美元用於鼓勵在美國進行更多半導體生產，另一項規定是禁止在所有政府手機下載中國擁有的社群媒體TikTok。先前禁止軍用和國土安全部設備下載，如先前提議，這項法案的核心之一是在五年內為NSF的新設的技術創新理事會提供1,000億美元，以資助人工智慧和機器學習、機器人、高性能運算和其他先進技術的研究。另額外撥款100億美元給商務部將，創設區域技術中心，用於關鍵技術的研究、開發和製造。

https://www.bnext.com.tw/article/63351/amazon-apple-facebook-and-google-targeted-in-bipartisan-antitrust-reform-bills
https://udn.com/news/story/6813/5519429

#Cloud周報第103期
Azure、Dynamics 365等微軟服務日前發生的中斷事件，找到根本原因了。Azure DNS伺服器收到激增的查詢量，造成一個特定事件序列暴露了DNS的程式碼缺陷，使得DNS可用性下降，連帶影響微軟用戶使用多項雲端服務。

更多新聞
▶微軟開始在Azure資料中心測試伺服器沉浸式冷卻技術，每臺伺服器可省5%到15%耗電量
▶2020年全球資料中心軟硬體市場規模達1,650億美元，其中公有雲基礎設施市場成長逾2成
▶VMware推出跨多雲授權新訂閱服務，提供可用於所有VCF環境的單一種點數
---------------------------------------------
◤ 最具指標年度盛事．CYBERSEC 2021 臺灣資安大會 ◢
2,300+ 家企業指定造訪、臺灣唯一超規格資安展會
掌握趨勢、諮詢專家，尋求資安解方的第一首選！
馬上報名 https://r.itho.me/register
邀請好友抽 AirPods Pro https://r.itho.me/share
★ 全方位主題論壇 200+ 場專業演說
★ 破 200+ 品牌參展 歷年最大資安展覽
★ 佳評如潮 CyberLAB 實機攻防演練
★ 獨門 CYBERSEC Playground 資安體驗區
★ 臺灣資安館 看見 MIT 自主研發實力
★ CyberTalent Connect 資安新鮮人才專區
★ 票選最受歡迎 Tech Demo Award 拿大獎
… and more!
鎖定大會動態 https://r.itho.me/CYBERSEC_2021
免費參加 https://r.itho.me/signup
________________________________
CYBERSEC 2021 臺灣資安大會
時間：5 月 4 - 6 日
地點：臺北南港展覽二館
#TRUST_redefined #信任重構
#CYBERSEC2021 #2021臺灣資安大會
#CYBERSECEXPO #臺灣資安大展 #資安 #iThomeSecurity

矮化女性和少數種族，OpenAI GPT 模型為何變成 AI 歧視重災區？

作者 品玩 | 發布日期 2021 年 02 月 13 日 0:00 |

機器學習技術近幾年突飛猛進，許多強大 AI 因此誕生。以知名研究機構 OpenAI 開發的語言生成模型 GPT 為例，現在可寫文章、幫人做報表、自動查詢資訊，給用戶很大幫助和便利。

然而，多篇近期論文指出，包括 GPT 等 AI 模型，生成結果包含基於性別和種族的偏見。而這些 AI 模型應用在商業領域，勢必強化歧視偏見對象現象。

卡內基美隆大學 Ryan Steed 和喬治華盛頓大學 Aylin Caliskan 近日發表論文《無監督的方式訓練的影像表示法包含類似人類的偏見》（Image Represnetations Learned With Unsupervised Pre-Training Contain Human-like Biases）。

研究者對 OpenAI 在 GPT-2 基礎上開發的 iGPT 和 Google 的 SimCLR，兩個去年發表的影像生成模型進行系統性測試，發現種族、膚色和性別等指標幾乎原樣複製人類測試物件的偏見和刻板印象。

其中一項測試，研究者用機器生成男女頭像照片為底板，用 iGPT 補完（生成）上半身影像。誇張的事發生了：所有女性生成結果，超過一半影像穿著比基尼或低胸上衣。

男性結果影像，約 42.5% 影像穿和職業有關的上衣，如襯衫、西裝、和服、醫生大衣等；露手臂或穿背心的結果只有 7.5%。

這樣的結果，技術方面的直接原因可能是 iGPT 採用的自迴歸模型機制。研究者進一步發現，用 iGPT 和 SimCLR 對照片和職業相關名詞建立連結時，男人更多和「商務」、「辦公室」等名詞連結，女人更多和「孩子」、「家庭」等連結；白人更多和工具連結，而黑人更多和武器連結。

這篇論文還在 iGPT 和 SimCLR 比對不同種族膚色外觀的人像照片「親和度」（pleasantness），發現阿拉伯穆斯林人士的照片普遍缺乏親和力。

雖然 iGPT 和 SimCLR 模型的具體運作機制有差別，但透過這篇論文，研究者指出這些偏見現象背後的共同原因：無監督學習。

這兩個模型都採用無監督學習 (unsupervised learning)，這是機器學習的方法之一，沒有給事先標記好的訓練資料，自動分類或分群匯入的資料。

無監督學習的好處，在於資料標記是繁瑣費時的工作，受制於標記工的程度和條件限制，準確性很難保持一定，標記也會體現人工的偏見歧視，某些領域的資料更缺乏標記資料庫；而無監督學習在這種條件下仍有優秀表現，最近幾年很受歡迎。

然而這篇論文似乎證明，採用無監督學習無法避免人類常見的偏見和歧視。

研究者認為，採用無監督學習的機器學習演算法，出現的偏見歧視來源仍是訓練資料，如網路影像的男性照更多和職業相關，女性照片更多衣著甚少。

另一原因是這些模型採用自迴歸演算法。在機器學習領域，自迴歸演演算法的偏見問題人盡皆知，但嘗試解決這問題的努力並不多。

結果就是，機器學習演算法從初始資料庫學到所有東西，當然包括人類的各種偏見和歧視。

之前 OpenAI 號稱「1700 億參數量」的最新語言生成模型 GPT-3，發表論文也申明因訓練資料來自網路，偏見無法避免，但還是發表並商業化。

去年 12 月，史丹佛和麥克馬斯特大學的研究者另一篇論文《Persistent Anti-Muslim Bias in Large Language Models》，確認 GPT-3 等大規模語言生成模型對穆斯林等常見刻板印象的受害者，確實有嚴重的歧視問題。

具體來說，用相關詞語造句時，GPT-3 多半會將穆斯林和槍擊、炸彈、謀殺和暴力連結。

另一項測試，研究者上傳一張穆斯林女孩的照片，讓模型自動生成一段文字，卻包含明顯的暴力過度遐想和延申，其中有句話「不知為何原因，我渾身是血。」

而當這類演算法應用到現實生活，偏見和歧視將進一步強化。

iGPT 和背後的 OpenAI GPT 技術，現在開發到第三代。能力確實很強大，就像眾多媒體報導過那樣，因此許多商業機構青睞採用。最知名的用戶就是微軟。去年 9 月，微軟 CTO Kevin Scott 宣布和 OpenAI 合作，獨家獲得 GPT-3 授權，將技術應用到針對用戶的各項產品和 AI 解決方案。

微軟尚未透露具體會把 GPT-3 應用到哪些產品，但考慮到微軟產品的十億級用戶量，情況非常令人擔憂。如微軟近幾年 Word、PPT 等產品推廣的自動查詢資訊、文字補完和影像設計功能，當用戶匯入某特定詞或插入圖片時，如果正好落入 GPT-3 的偏見陷阱，結果將非常糟糕。

不僅 GPT，照前述論文說法，所有採用無監督學習的演算法都可能包含這些偏見。現在因無監督學習非常熱門，自然語言處理、電腦視覺等領域，都成為非常關鍵的底層技術。

如翻譯對人際溝通十分重要，但錯誤的翻譯結果，一次被演算法強化的偏見事件，少則切斷人與人的聯繫，更嚴重者將導致不可估量的人身和財產損失。

作者 Steed 和 Caliskan 呼籲，機器學習研究者應該更區別和記錄訓練資料庫的內容，以便未來找到降低模型偏見的更好方法，以及發表模型前應該做更多測試，盡量避免受演算法強化的偏見被帶入模型。

資料來源：https://technews.tw/2021/02/13/openai-gpt-discrimination/