首頁(yè) > 關(guān)于我們 > 安恒動(dòng)態(tài) > 2023 > 正文

WAIC 2023 ｜安恒信息劉博：安全賦能AI“持續(xù)向善”

閱讀量：次 文章來(lái)源：安恒信息

7月6日至8日，以“智聯(lián)世界生成未來(lái)”為主題的2023世界人工智能大會(huì)在上海舉行。期間，“大模型”相關(guān)話題成為焦點(diǎn)。安恒信息高級(jí)副總裁、首席科學(xué)家劉博受邀參加WAIC線上系列直播，就“AI大模型如何助力硬科技”進(jìn)行分享。

大模型成 WAIC 2023 “頂流”

眼下，以ChatGPT為代表的大模型正在引領(lǐng)新一輪全球人工智能技術(shù)發(fā)展浪潮，大模型不斷加速實(shí)體經(jīng)濟(jì)智能化升級(jí)，深度改變行業(yè)生產(chǎn)力。

在圍繞“AI大模型如何助力硬科技”話題分享中，劉博表示，“隨著AI大模型和通用人工智能的發(fā)展，大模型的機(jī)密性和數(shù)據(jù)隱私保護(hù)將面臨極大挑戰(zhàn)。同時(shí)AI大模型也為網(wǎng)安行業(yè)帶來(lái)了新變量?！?

?圖：左三為安恒信息高級(jí)副總裁、首席科學(xué)家劉博

中國(guó)信息通信研究院工業(yè)互聯(lián)網(wǎng)與物聯(lián)網(wǎng)研究所副總工程師劉陽(yáng)表示，AI大模型已經(jīng)成為AI甚至整個(gè)數(shù)字技術(shù)領(lǐng)域最火熱的研究方向，大模型的下半場(chǎng)競(jìng)爭(zhēng)面向垂直行業(yè)更有價(jià)值。印象筆記董事長(zhǎng)唐毅表示，中小企業(yè)不是局外人，要把大模型用起來(lái)。達(dá)觀數(shù)據(jù)CEO陳運(yùn)文認(rèn)為，AI大模型的出現(xiàn)是人工智能從量變到質(zhì)變的突破。2016年阿爾法狗下圍棋戰(zhàn)勝了李世石是人工智能1.0時(shí)代的標(biāo)志，這次AI大模型把傳統(tǒng)人工智能里最難的認(rèn)知智能的堡壘打開了缺口，2023年可以說(shuō)是人工智能2.0時(shí)代的起點(diǎn)。

從AI大模型的工作原理看面臨的安全隱患

AI大模型的本質(zhì)是從文字當(dāng)中提煉出人類知識(shí)，再用知識(shí)驅(qū)動(dòng)智能的一種方式。傳統(tǒng)的人工智能對(duì)人類知識(shí)缺乏學(xué)習(xí)和提煉能力，AI大模型從理論上非常好地解決了從文字資料中提煉人類知識(shí)的技術(shù)，通過(guò)“看”很多的文字資料，總結(jié)文字資料的規(guī)律，來(lái)完成文字資料的挖掘，最終提煉出知識(shí)。

目前，AI大模型已經(jīng)成為全球科技競(jìng)爭(zhēng)的“高地”，整個(gè)AI行業(yè)呈現(xiàn)出“百模大戰(zhàn)”的格局。然而，火爆的背后，不容忽視其存在的很多問(wèn)題和安全隱患。劉博表示，企業(yè)用戶在使用AI大模型過(guò)程中，可能會(huì)不小心造成數(shù)據(jù)泄露，或是在訓(xùn)練模型過(guò)程中，存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識(shí)歸屬問(wèn)題，以及AI大模型可能會(huì)受到網(wǎng)絡(luò)攻擊，可能會(huì)被別人惡意利用，或是喂投了不好的語(yǔ)料，導(dǎo)致模型出現(xiàn)嚴(yán)重錯(cuò)誤判斷的問(wèn)題。

此外，還有一些泛安全的問(wèn)題，比如歧視、政治、法律道德等等問(wèn)題。劉博比喻到，“這就像我們教孩子一樣，他不能只是學(xué)知識(shí)，我們還要教他怎樣做人怎樣做事，告訴他法律是什么，道德是什么。對(duì)于AI大模型來(lái)說(shuō)，這就需要一些額外對(duì)模型的訓(xùn)練，才能讓它達(dá)到我們想要的結(jié)果?！?

安全賦能AI“持續(xù)向善”

“人很聰明，那他就有可能說(shuō)謊，不管是善意的謊言還是惡意的謊言。”劉博解釋到，AI大模型就像人一樣，在某些場(chǎng)景下AI大模型可能比較激進(jìn)做了一些錯(cuò)誤的決策，或者比較保守做的一些錯(cuò)誤的決策。在這種情況下，AI大模型一定要和安全技術(shù)相結(jié)合，比如Open AI在模型外層構(gòu)建的類似傳統(tǒng)網(wǎng)絡(luò)防火墻一樣的屏障，把一些不合規(guī)的訪問(wèn)去除掉，不符合倫理的法律法規(guī)規(guī)避掉，這樣就可以引導(dǎo)AI大模型“持續(xù)向善”。

“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行，才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)?！眲⒉┍硎?。

AI+安全：構(gòu)建智能安全體系

安恒信息在人工智能領(lǐng)域擁有多年的積累和豐富的實(shí)踐經(jīng)驗(yàn)，也一直致力于前沿技術(shù)的研發(fā)投入，公司所屬中央研究院下設(shè)10個(gè)不同研究領(lǐng)域的實(shí)驗(yàn)室，其中啟鑒實(shí)驗(yàn)室專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究，深度探索“AI+安全”。

在保障人工智能安全的同時(shí)，安恒信息也在利用人工智能技術(shù)賦能安全，不斷實(shí)現(xiàn)產(chǎn)品智能化、自動(dòng)化，加強(qiáng)AI智能數(shù)據(jù)分析、AI智能自動(dòng)響應(yīng)、AI智能安全等前沿技術(shù)的融合。已經(jīng)將類大模型應(yīng)用于智能數(shù)據(jù)分類分級(jí)、智能生成檢測(cè)規(guī)則、智能告警處置分析、安全專家問(wèn)答系統(tǒng)、智能釣魚郵件分析、智能加密流量檢測(cè)等數(shù)十個(gè)場(chǎng)景，推進(jìn)研究并逐步落地到產(chǎn)品中。

人工智能時(shí)代已來(lái)，網(wǎng)絡(luò)安全在這個(gè)時(shí)代也將發(fā)生巨變，新的攻擊形式層出不窮，對(duì)檢測(cè)及防護(hù)能力也必將提出新的要求。安恒信息一直擁抱AI變化，積極布局AI前沿研究。未來(lái)，安恒信息還將不斷加強(qiáng)人工智能與安全技術(shù)的融合與創(chuàng)新，為構(gòu)建“安全可信的數(shù)字世界”砥礪前行。