9月4日,2018 ABC SUMMIT百度云智峰會在上海正式開幕?！癆I安全與安全生態(tài)“安全分論壇上,百度安全正式發(fā)布下一代人工智能安全技術棧(Baidu AI Security Stack,簡稱BASS)。百度首席安全科學家韋韜博士闡述了百度安全探索AI時代下安全生態(tài)建設的核心理念與關鍵技術。

“技術變革起源于理念變革”,韋韜博士指出:“安全的核心是對抗,對抗是持續(xù)的、跨維度的。歷史一而再、再而三的告訴我們,安全沒有Silver bullet。”安全涉及技術、人性、生態(tài),本質上是一個復雜巨系統(tǒng),要應對AI時代的挑戰(zhàn),首先要有新的理念體系。

AI催生產(chǎn)業(yè)格局深刻變革,安全挑戰(zhàn)亟待新思路

新技術、新業(yè)態(tài)催生了傳統(tǒng)網(wǎng)絡安全格局的深刻變革。伴隨移動互聯(lián)網(wǎng),大數(shù)據(jù)、云計算、人工智能等新一代信息技術的快速發(fā)展,圍繞網(wǎng)絡和數(shù)據(jù)的服務與應用呈現(xiàn)爆發(fā)式增長,智能設備將無所不在,智能家居、無人車、物聯(lián)網(wǎng)將滲透到人類社會的各個角落,豐富的應用場景下暴露出越來越多的網(wǎng)絡安全風險和問題,在全球范圍內產(chǎn)生廣泛而深遠的影響。人身安全、數(shù)據(jù)安全與隱私面臨著全新挑戰(zhàn),對互聯(lián)網(wǎng)發(fā)展與治理帶來巨大的挑戰(zhàn)。

不僅如此,主流機器學習框架經(jīng)常被爆出存在安全漏洞,包括傳統(tǒng)內存安全漏洞,以及新興的對抗樣本攻擊漏洞。這些漏洞會導致AI系統(tǒng)的輸出結果被攻擊者任意控制,甚至導致系統(tǒng)自身被攻擊者控制。關于AI本身的安全性變得前所未有的重要,并超乎我們傳統(tǒng)對于安全邊界與框架的認知范疇。

此外,傳統(tǒng)的系統(tǒng)安全頑疾到了AI時代將更加集中的爆發(fā)?；贗oT的各類智能系統(tǒng)在芯片種類、終端廠商數(shù)量、操作系統(tǒng)種類,產(chǎn)品形態(tài)種類等方面的不同,“生態(tài)碎片化”導致了智能設備中N-day安全漏洞失控,被黑產(chǎn)肆意利用;同時,“C語言魔咒”導致了大規(guī)模復雜系統(tǒng)長期維護中不可避免地出現(xiàn)高危內存漏洞,危及生命財產(chǎn)安全。

韋韜博士指出,現(xiàn)有的安全技術有著本質上的缺陷,難以應對AI時代的安全挑戰(zhàn)。

構建生態(tài)支點,百度安全探索AI安全時代理念體系

會議現(xiàn)場,韋韜博士借用了傳統(tǒng)道家真言中的五個字來描述百度下一代AI安全技術棧BASS的理念體系:

“斗”,指對抗,特別指能夠支持碎片化生態(tài)自適應快速響應的對抗能力。在此方面百度安全的實踐包括OASES KARMA系統(tǒng)自適應熱修復技術、OpenRASP云端自適應安全防護技術、BOTA安全在線升級系統(tǒng)等,在業(yè)界已經(jīng)有了廣泛應用與盛譽;

“陣”,指利用百度安全實驗室獨創(chuàng)的Hybrid Memory Safety(HMS)技術,構造完整的內存安全系統(tǒng),并在其上利用Non-bypassable Security Paradigm(NbSP)等可擴展形式化驗證技術保障整體應用的安全性,以構建堅實的防御陣地。百度安全實驗室的MesaLock Linux、MesaLink TLS、MesaPy等開源項目提供了國際上第一套HMS安全操作系統(tǒng)、通信庫及Python實現(xiàn),被安全業(yè)界高度評價;

“臨”,在道家真言中指“事具不動不惑之意志”,在此為陣的根基。特指以Intel SGX為代表的下一代TCB技術,這成為高安全系統(tǒng)的遠程分布式計算安全保障的基石。為了對抗側信道攻擊,BASS提供了TPM 2.0/MesaLock Linux/MesaTEE SGX的縱深防御體系,提供迄今為止最強的安全防護;

“兵”,指人性、化簡、超越。人是會犯錯的,人參與越多,漏洞越多。七分管理三分技術是AI時代之前安全的無奈選擇。在大數(shù)據(jù)與AI時代,靠人已經(jīng)無法應對復雜度爆炸的系統(tǒng)與組織的安全保障需求。為此,新安全技術棧需要首先將安全問題化簡,將讓安全專家聚焦在最關鍵的核心環(huán)節(jié)上;其次,需要充分利用和保障AI技術來超越純人工的安全管理。在這個領域,BASS提供了MesaTEE,重構云上信任機制,極大的簡化了數(shù)據(jù)安全管理的信任鏈條;BASS的AdvBox與HugeGraph也為AI與大數(shù)據(jù)安全應用提供了強有力的支撐;

“皆”,指開源、標準化與生態(tài)共建。AI時代,一個顯著的特征是每個企業(yè)都強依賴于供應鏈。此時,安全上沒有企業(yè)能獨善其身,安全必須要整個生態(tài)的努力。BASS開源了七大安全技術,是希望與生態(tài)共建,迅速提升AI新興產(chǎn)業(yè)的安全水平,避免重蹈移動時代詐騙高發(fā)的覆轍,形成產(chǎn)業(yè)共贏。

七大開源技術集中亮相,圍繞云管端展開實踐

面對AI時代層出不窮且日益復雜的生態(tài)安全問題,百度安全始終倡導通過新一代技術研發(fā)與開源,實現(xiàn)對安全問題的快速響應與對抗,以及安全防護的層次化,迄今已實現(xiàn)多項AI安全核心技術的突破。在本次云智峰會安全分論壇上,百度安全正式發(fā)布下一代人工智能安全技術棧(Baidu AI Security Stack,簡稱BASS),其高安全可驗證系統(tǒng)架構目前已實現(xiàn)云管端的全方位覆蓋,OASES KARMA系統(tǒng)自適應熱修復技術、OpenRASP下一代云端安全防護系統(tǒng)、MesaLock Linux內存安全操作系統(tǒng)、MesaLink TLS下一代安全通信庫、MesaTEE下一代可信安全計算服務框架、AdvBox AI模型攻防工具包、HugeGraph大規(guī)模圖數(shù)據(jù)庫等七大開源技術已面向生態(tài)開源,為AI安全生態(tài)提供全方位技術保障。

在百度安全探索AI生態(tài)安全問題的過程中,BASS下一代AI安全技術棧已經(jīng)在諸多領域展開實踐。例如,OASES KARMA自適應系統(tǒng)熱修復技術已經(jīng)廣泛嵌入到智能電視、智能手機的系統(tǒng)層中,改變了以往安卓操作系統(tǒng)需要依靠廠商定期提供更新才能修補漏洞的方式。AdvBox對抗樣本工具包針對AI算法模型提供安全性研究和解決方案,目前已應用于百度深度學習開源平臺PaddlePaddle。

本次發(fā)布的百度安全開源大規(guī)模圖數(shù)據(jù)庫HugeGraph在實踐過程中,也得到了極好的證明。其在安全反欺詐、知識圖譜、機器學習中發(fā)揮著重要作用,目前已廣泛應用到網(wǎng)址安全檢測、威脅情報分析、業(yè)務風控、數(shù)據(jù)安全治理中,其所提供的關聯(lián)分析圖譜,能從看似雜亂無章的關系中尋找到網(wǎng)絡黑產(chǎn)的脈絡,在百度安全協(xié)助公安機關破獲多起電信詐騙、偽基站、流量劫持、用戶隱私竊取等重大黑產(chǎn)案件中,提供了打擊溯源的核心能力,全方位實現(xiàn)從警務數(shù)據(jù)整合到分析挖掘,助力智慧公安新業(yè)態(tài),踐行企業(yè)社會責任。BASS下一代人工智能安全技術棧將協(xié)同七大開源技術持續(xù)為AI時代護航。

BASS下一代AI安全技術已經(jīng)成為AI安全生態(tài)的重要支點。據(jù)悉,BASS未來將持續(xù)釋放開源技術,形成支撐起AI安全生態(tài)的核心技術棧,在這個過程中,實現(xiàn)由傳統(tǒng)安全時代的強管理向AI時代的強技術支撐下的核心管理的轉變:首先利用革命性新安全技術簡化和重鑄基礎技術體系和網(wǎng)絡信任機制,在此基礎之上再利用大數(shù)據(jù)和人工智能技術,將原本依賴大量人力運維的安全體系標準化和自動化,顯著提升安全運營和管理工作的效率和效果。

從新一代安全技術的研發(fā)與開源,到為行業(yè)提供一體化安全解決方案,再到促進學術、企業(yè)、機構間多層面協(xié)作,百度安全正在升級打造AI時代的安全生態(tài),用ABC策略直擊AI安全時代焦慮,打破產(chǎn)業(yè)隔閡,避免生態(tài)碎片化,以此推動AI時代的安全生態(tài)建設。