人工智慧「降門檻」須警惕安全風險

北京新浪網 (2018-12-03 00:44)

　　來源 經濟參考報

　　記者 朱涵 杭州報導

　　一批人工智慧開放平台正在大幅降低技術門檻，讓人工智慧走近中小企業，不再是財力雄厚者才能擁有的「奢侈品」。專家認為，開放平台是人工智慧技術發展新趨勢，將推動人工智慧發展進入高峰，但同時也不可避免帶來多重安全風險，須予以防範。

　　人工智慧「降門檻」推動創新

　　百度與金龍客車合作的無人小巴「阿波龍」日前在北京海淀公園進行了公開試乘，這款無人車搭載了百度Apollo系統，能基於高精地圖和智能感知技術，對行進路線進行最優規劃。

　　不僅僅是「阿波龍」，在百度Apollo自動駕駛平台開放的一年多里，已在全球有了133家生態夥伴和11000多家的開發者。

　　「包括戴姆勒、福特、沃爾沃、因特、微軟、比亞迪、北汽、奇瑞等汽車產業鏈上下游的領軍巨頭加入Apollo的生態。自動駕駛趕上了汽車和通訊兩個百年產業的交錯之際，百度多年積累的人工智慧技術發展通過開源的方式加速整個生態的創新。」 百度總裁張亞勤說。

　　前段時間在浙江烏鎮召開的第五屆世界互聯網大會上，百度Apollo自動駕駛開放平台與亞馬遜機器學習全託管平台、安謀中國全新人工智慧平台「周易」、supET工業互聯網平台、京東智能供應鏈技術服務平台、小米智能家居開放平台等一批人工智慧平台作為15項「世界互聯網領先科技成果」的重要組成在大會上進行發佈。

　　中科院院士鄔賀銓作為世界互聯網領先科技成果推薦委員會中方主任，高度評價人工智慧平台類成果。「發佈成果由47名全球知名的互聯網業界專家投票產生，代表了互聯網領域的創新智慧和未來互聯網的發展趨勢。『平台』成為領先科技成果『重頭戲』。」鄔賀銓認為平台類成果打造生態，將利於其他中小企業利用平台和技術進行進一步開發。

　　在百度自動駕駛開放平台上，開發者甚至不用學習就能輕鬆使用相關的技術。安謀中國全新人工智慧平台「周易」能夠將人工智慧的設備開發周期縮短三到五倍，把算力開發成本減少五到十倍。亞馬遜機器學習全託管平台上，受過訓練的開發人員僅需3到4周的時間，就能夠完成原本需要10到20個博士級專家耗時9個月完成的項目。

　　「今天幾乎所有的人工智慧設備都是針對特定的應用場景，垂直集成，產業協同效應低，開發費用往往達到數億元，周期要數年。我們產業急需一個開放適配性強、互通的人工智慧軟硬體開發平台來降低開發成本。」安謀中國執行董事長兼首席執行官吳雄昂說。

　　「大家都知道人工智慧的重要性，但除了谷歌、騰訊、百度這樣的企業，沒有多少公司能真正有實力去開發先進的人工智慧技術。所以我們將過去積累的技術能力開放出來。」百度公司董事長兼首席執行官李彥宏說。

　　「天下武功，唯快不破。進入智慧時代，『快』不僅僅是『日新月異』，還可能是以小時、以分鐘計算。」中國工程院院士、浪潮集團首席科學家王恩東說，創新速度是人工智慧發展的核心競爭力。

　　多重安全風險值得警惕

　　多名專家和業內人士表示，人工智慧發展曾經歷多次低谷，本輪發展呈加速態勢，行業內對此已有共識，同時也應充分認識到，人工智慧帶來的安全問題也會隨發展「動態演進」。

　　人工智慧「降門檻」將催生更多黑客、更多病毒和更短攻擊周期。鄔賀銓說，在網路安全領域，人工智慧的普及將有助於識別網路安全風險，同時也將降低黑客的門檻，讓更多人學會黑客，病毒的變種越來越多，且周期會越來越短。

　　「隨著人工智慧的進步，人工智慧的『雙刃劍』特徵會愈演愈烈。」鄔賀銓說。

　　360集團董事長兼首席執行官周鴻禕說，如今的網路攻擊已實現了智能化、自動化，速度極快。「網路安全監控經常會發現一些網路攻擊，發現后再去分析研究，拿出解決方案后還未實施，網路攻擊已經過去了，而新的攻擊已經開始。」

　　人工智慧所依賴的感測器、訓練數據和使用的開源軟體等存在安全隱患。中國信息通信研究院日前發佈的《人工智慧白皮書》顯示，人工智慧產品和應用的研發主要基於谷歌、微軟、亞馬遜、臉譜、百度等科技巨頭髮布的人工智慧學習框架和組件，而這些開源框架和組件缺乏嚴格的測試管理和安全認證，漏洞和後門易被惡意利用。

　　「有一種做法是『數據投毒』，想辦法在訓練數據里混入一些不正常數據，訓練出的人工智慧系統就一定會犯錯。軟體只要是人寫的，就一定有漏洞，比如1000行代碼里就會有4個漏洞。」 周鴻禕說，由於漏洞不可避免，目前網路攻防很不均衡。「嚴格來說，傳統大家常見的入侵檢測、防火牆、殺毒軟體這些技術，在抵禦這種攻擊上已經顯得無能為力。」

　　「目前人工智慧生態還未完全建立，尤其是在產業各個環節處於一個相對割裂的狀態，這就意味著黑客有機可乘。」 藍盾股份高級研究員、人工智慧專家江緯說，人工智慧所帶來的安全風險還包括拒絕服務、信息泄露、系統劫持等，可導致識別系統出現漏判、誤判，導致系統崩潰、被劫持，或使智能設備變成殭屍攻擊工具等。

　　風險管控及治理體系亟待建設

　　「人工智慧具有多學科綜合、高度複雜的特徵，我們需統籌謀划，穩步推進，把增強原創能力作為重點。」鄔賀銓等專家表示，在繼續加大人工智慧研發應用力度、發揮人工智慧應用潛力同時，要預判人工智慧挑戰，從技術、法律等方面「揚長避短」，防範風險。

　　首先，需要立足自身突破人工智慧關鍵核心技術。王恩東認為，國內人工智慧企業、科研機構要有清醒的認識，我們在基礎層面上還是有明顯差距，還要加強基礎研究和投入。鄔賀銓說，人工智慧的應用才剛剛開始，但還處於起步階段，在解釋因果關係上目前還無能為力。更多的希望要寄托在人工智慧的進步上。

　　其次，應打通數據孤島提升安全防護能力。「網路安全是『牽一髮動全身』的一個整體。我們面臨的很大問題是各個企業『各自為戰』，數據沒有打通，沒有全球或全國的視野，就看不到真正網路攻擊發生的過程。」周鴻禕說。

　　第三，建立健全保障人工智慧健康發展的法律法規、制度體系。「科技發展已經遠遠甩開現有社會法規與倫理規範，建立新的網路秩序迫在眉睫。」美國智庫布魯金斯學會約翰·桑頓中國中心主任李成認為，要讓網路空間和諧有序，社會、智庫、企業必須建立一個統一的網路法律和規則。

　　微軟全球副總裁沈向洋說，微軟提出了「公平、包容、透明、負責、可靠與安全、隱私與保密」的「六大原則」指引人工智慧發展，由多個部門負責人組成團隊制定政策來管理和指導開發「負責任」的人工智慧產品。

　　此外，也要加強國際交流探討治理應對策略。美國東西方研究所全球副總裁布魯斯·邁康納建議，國際各方應通過構建官方和非官方均認可的網路空間行為規則，預防風險共鑄安全長城。

資料來源：https://news.sina.com.tw/article/20181203/29078450.html