WAIC 2023 |安恒信息劉博:安全賦能AI“持續(xù)向善”
7月6日至8日,以“智聯(lián)世界 生成未來(lái)”為主題的2023世界人工智能大會(huì)在上海舉行。期間,“大模型”相關(guān)話題成為焦點(diǎn)。安恒信息高級(jí)副總裁、首席科學(xué)家劉博受邀參加WAIC線上系列直播,就“AI大模型如何助力硬科技”進(jìn)行分享。

大模型成 WAIC 2023 “頂流”
眼下,以ChatGPT為代表的大模型正在引領(lǐng)新一輪全球人工智能技術(shù)發(fā)展浪潮,大模型不斷加速實(shí)體經(jīng)濟(jì)智能化升級(jí),深度改變行業(yè)生產(chǎn)力。
在圍繞“AI大模型如何助力硬科技”話題分享中,劉博表示,“隨著AI大模型和通用人工智能的發(fā)展,大模型的機(jī)密性和數(shù)據(jù)隱私保護(hù)將面臨極大挑戰(zhàn)。同時(shí)AI大模型也為網(wǎng)安行業(yè)帶來(lái)了新變量?!?

?圖:左三為安恒信息高級(jí)副總裁、首席科學(xué)家劉博
中國(guó)信息通信研究院工業(yè)互聯(lián)網(wǎng)與物聯(lián)網(wǎng)研究所副總工程師劉陽(yáng)表示,AI大模型已經(jīng)成為AI甚至整個(gè)數(shù)字技術(shù)領(lǐng)域最火熱的研究方向,大模型的下半場(chǎng)競(jìng)爭(zhēng)面向垂直行業(yè)更有價(jià)值。印象筆記董事長(zhǎng)唐毅表示,中小企業(yè)不是局外人,要把大模型用起來(lái)。達(dá)觀數(shù)據(jù)CEO陳運(yùn)文認(rèn)為,AI大模型的出現(xiàn)是人工智能從量變到質(zhì)變的突破。2016年阿爾法狗下圍棋戰(zhàn)勝了李世石是人工智能1.0時(shí)代的標(biāo)志,這次AI大模型把傳統(tǒng)人工智能里最難的認(rèn)知智能的堡壘打開了缺口,2023年可以說(shuō)是人工智能2.0時(shí)代的起點(diǎn)。
從AI大模型的工作原理看面臨的安全隱患
AI大模型的本質(zhì)是從文字當(dāng)中提煉出人類知識(shí),再用知識(shí)驅(qū)動(dòng)智能的一種方式。傳統(tǒng)的人工智能對(duì)人類知識(shí)缺乏學(xué)習(xí)和提煉能力,AI大模型從理論上非常好地解決了從文字資料中提煉人類知識(shí)的技術(shù),通過(guò)“看”很多的文字資料,總結(jié)文字資料的規(guī)律,來(lái)完成文字資料的挖掘,最終提煉出知識(shí)。

目前,AI大模型已經(jīng)成為全球科技競(jìng)爭(zhēng)的“高地”,整個(gè)AI行業(yè)呈現(xiàn)出“百模大戰(zhàn)”的格局。然而,火爆的背后,不容忽視其存在的很多問(wèn)題和安全隱患。劉博表示,企業(yè)用戶在使用AI大模型過(guò)程中,可能會(huì)不小心造成數(shù)據(jù)泄露,或是在訓(xùn)練模型過(guò)程中,存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識(shí)歸屬問(wèn)題,以及AI大模型可能會(huì)受到網(wǎng)絡(luò)攻擊,可能會(huì)被別人惡意利用,或是喂投了不好的語(yǔ)料,導(dǎo)致模型出現(xiàn)嚴(yán)重錯(cuò)誤判斷的問(wèn)題。
此外,還有一些泛安全的問(wèn)題,比如歧視、政治、法律道德等等問(wèn)題。劉博比喻到,“這就像我們教孩子一樣,他不能只是學(xué)知識(shí),我們還要教他怎樣做人怎樣做事,告訴他法律是什么,道德是什么。對(duì)于AI大模型來(lái)說(shuō),這就需要一些額外對(duì)模型的訓(xùn)練,才能讓它達(dá)到我們想要的結(jié)果?!?
安全賦能AI“持續(xù)向善”
“人很聰明,那他就有可能說(shuō)謊,不管是善意的謊言還是惡意的謊言。”劉博解釋到,AI大模型就像人一樣,在某些場(chǎng)景下AI大模型可能比較激進(jìn)做了一些錯(cuò)誤的決策,或者比較保守做的一些錯(cuò)誤的決策。在這種情況下,AI大模型一定要和安全技術(shù)相結(jié)合,比如Open AI在模型外層構(gòu)建的類似傳統(tǒng)網(wǎng)絡(luò)防火墻一樣的屏障,把一些不合規(guī)的訪問(wèn)去除掉,不符合倫理的法律法規(guī)規(guī)避掉,這樣就可以引導(dǎo)AI大模型“持續(xù)向善”。

“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行,才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)?!眲⒉┍硎?。
AI+安全:構(gòu)建智能安全體系
安恒信息在人工智能領(lǐng)域擁有多年的積累和豐富的實(shí)踐經(jīng)驗(yàn),也一直致力于前沿技術(shù)的研發(fā)投入,公司所屬中央研究院下設(shè)10個(gè)不同研究領(lǐng)域的實(shí)驗(yàn)室,其中啟鑒實(shí)驗(yàn)室專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究,深度探索“AI+安全”。
在保障人工智能安全的同時(shí),安恒信息也在利用人工智能技術(shù)賦能安全,不斷實(shí)現(xiàn)產(chǎn)品智能化、自動(dòng)化,加強(qiáng)AI智能數(shù)據(jù)分析、AI智能自動(dòng)響應(yīng)、AI智能安全等前沿技術(shù)的融合。已經(jīng)將類大模型應(yīng)用于智能數(shù)據(jù)分類分級(jí)、智能生成檢測(cè)規(guī)則、智能告警處置分析、安全專家問(wèn)答系統(tǒng)、智能釣魚郵件分析、智能加密流量檢測(cè)等數(shù)十個(gè)場(chǎng)景,推進(jìn)研究并逐步落地到產(chǎn)品中。

人工智能時(shí)代已來(lái),網(wǎng)絡(luò)安全在這個(gè)時(shí)代也將發(fā)生巨變,新的攻擊形式層出不窮,對(duì)檢測(cè)及防護(hù)能力也必將提出新的要求。安恒信息一直擁抱AI變化,積極布局AI前沿研究。未來(lái),安恒信息還將不斷加強(qiáng)人工智能與安全技術(shù)的融合與創(chuàng)新,為構(gòu)建“安全可信的數(shù)字世界”砥礪前行。
將“安恒信息”微信公眾號(hào)設(shè)為星標(biāo)?
關(guān)注信息不走丟哦!
往期精彩回顧
2023-07-11

2023-07-10

2023-07-09
