啟明星辰帶你了解人工智能安全實(shí)踐與發(fā)展新趨勢(shì)

，并針對(duì)大規(guī)模數(shù)據(jù)下性能瓶頸、訓(xùn)練所需標(biāo)注數(shù)據(jù)不夠豐富、既有特征不足以及模型部署后對(duì)新數(shù)據(jù)出現(xiàn)漏報(bào)/誤報(bào)等難題給出了創(chuàng)新的解決方法，從而實(shí)現(xiàn)在真實(shí)數(shù)據(jù)流量下測(cè)試達(dá)到高檢出（~99.9%）、零誤報(bào)的優(yōu)異效果。這一成果已經(jīng)實(shí)現(xiàn)在NFT產(chǎn)品中的模塊化，并提交相關(guān)發(fā)明專利申請(qǐng)。

另一個(gè)是由集團(tuán)核心技術(shù)研究院與VenusEye威脅情報(bào)中心合作研發(fā)的“惡意代碼智能檢測(cè)系統(tǒng)”

。經(jīng)過(guò)數(shù)年的研究積累，研究團(tuán)隊(duì)設(shè)計(jì)提出了多個(gè)惡意代碼靜態(tài)及動(dòng)態(tài)分析檢測(cè)的模型，基于千萬(wàn)量級(jí)惡意代碼樣本，并針對(duì)樣本不均衡問題給出改進(jìn)機(jī)制，最終實(shí)現(xiàn)模型的檢測(cè)精準(zhǔn)度達(dá)到業(yè)界前沿水平。其中部分模型經(jīng)過(guò)多次數(shù)據(jù)分析大賽的檢驗(yàn)驗(yàn)證，包括阿里云安全惡意程序檢測(cè)天池長(zhǎng)期賽（2019-2021）第一名、科大訊飛（002230）惡意軟件分類挑戰(zhàn)賽（2021）第三名、CCF BDCI數(shù)字安全公開賽之惡意軟件家族分類賽（2021）優(yōu)勝獎(jiǎng)等。這一成果已經(jīng)初步部署于威脅情報(bào)處理系統(tǒng)中，并提交相關(guān)發(fā)明專利申請(qǐng)。

而在人工智能自身安全方面

，啟明星辰從數(shù)據(jù)安全層面出發(fā)，在2021年12月正式發(fā)布數(shù)據(jù)安全新版圖――數(shù)據(jù)綠洲，為數(shù)字經(jīng)濟(jì)時(shí)代數(shù)據(jù)要素價(jià)值的充分發(fā)揮打造支撐技術(shù)與平臺(tái)，為人工智能等數(shù)據(jù)分析業(yè)務(wù)場(chǎng)景提供“數(shù)據(jù)可用不可見”的能力。

數(shù)據(jù)綠洲的背后

，既有公司近二十年在數(shù)據(jù)全生命周期管控的積累作為基礎(chǔ)，也有近兩年來(lái)集團(tuán)核心技術(shù)研究院在區(qū)塊鏈、聯(lián)邦學(xué)習(xí)、多方安全計(jì)算等前沿技術(shù)領(lǐng)域的持續(xù)跟蹤研究的成果作為支撐。數(shù)據(jù)綠洲在未來(lái)必將成為促進(jìn)與保障數(shù)據(jù)要素安全流通共享的重要力量。

3

、技術(shù)與形勢(shì)雙重驅(qū)動(dòng)人工智能安全發(fā)展

隨著人工智能技術(shù)的研究與應(yīng)用發(fā)展

，以及網(wǎng)絡(luò)與信息安全問題受關(guān)注度的不斷提升，近年來(lái)人工智能安全這一交叉領(lǐng)域正在技術(shù)與形勢(shì)的雙重驅(qū)動(dòng)下持續(xù)向前推進(jìn)。當(dāng)前人工智能安全的發(fā)展有以下幾項(xiàng)趨勢(shì)。

（1）人工智能賦能網(wǎng)絡(luò)安全防御逐漸脫離“黑盒”應(yīng)用模式

在業(yè)界對(duì)人工智能賦能網(wǎng)絡(luò)安全防御熱炒的初期（2017-2018年），很多方案將人工智能算法模型當(dāng)作“黑盒”使用