10月12日，360提報(bào)的“360人工智能框架漏洞威脅感知系統(tǒng)”、“360新一代終端安全智能防護(hù)系統(tǒng)”，入選中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)組織評(píng)選的2021年人工智能安全典型實(shí)踐案例。

據(jù)了解，360人工智能框架漏洞威脅感知系統(tǒng)能夠從算法實(shí)現(xiàn)、漏洞類(lèi)型、編譯優(yōu)化等多角度持續(xù)開(kāi)展對(duì)機(jī)器學(xué)習(xí)框架的安全風(fēng)險(xiǎn)研究，并采用動(dòng)、靜結(jié)合的分析方法對(duì)Python、C++、Go等不同語(yǔ)言中的不同漏洞類(lèi)型進(jìn)行全面系統(tǒng)的檢測(cè)，檢測(cè)過(guò)程著重關(guān)注從訓(xùn)練到推理、從數(shù)據(jù)到模型、從云端到終端過(guò)程中存在的安全風(fēng)險(xiǎn)。此外，該系統(tǒng)基于豐富的安全專(zhuān)家知識(shí)庫(kù)，能夠提供對(duì)AI框架業(yè)務(wù)的定制化檢測(cè)，如對(duì)計(jì)算圖優(yōu)化、圖編譯、分布并行等模塊的安全性檢測(cè)。

近期，360人工智能框架漏洞威脅感知系統(tǒng)對(duì)國(guó)內(nèi)外主流開(kāi)源AI框架進(jìn)行了安全性評(píng)測(cè)，累計(jì)7款機(jī)器學(xué)習(xí)框架(如Tensorflow、PyTorch等)漏洞超150個(gè)，框架供應(yīng)鏈漏洞超200個(gè)，并幫助各廠(chǎng)商對(duì)漏洞進(jìn)行了修復(fù)。值得一提的是，360 AI安全實(shí)驗(yàn)室已經(jīng)累計(jì)發(fā)現(xiàn)并幫助谷歌修復(fù)Tensorflow漏洞98個(gè)(CVE)，其中高危、嚴(yán)重漏洞共24個(gè)。

關(guān)鍵詞： 人工智能 終端安全 智能防護(hù)系統(tǒng) 360