五月婷婷婷之激情综合-亚洲国产香蕉视频欧美-国产蜜臀av在线一区尤物-日韩精品乱码久久久久

數(shù)字經(jīng)濟(jì)的安全基石

首頁(yè) > 關(guān)于我們 > 安恒動(dòng)態(tài) > 2023 > 正文

安恒信息:AI安全監(jiān)管勢(shì)在必行

閱讀量:文章來(lái)源:安恒信息

近日,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,出臺(tái)《辦法》,旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護(hù)國(guó)家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益。?

人工智能從上世紀(jì)50年代開(kāi)始萌芽,到近兩年進(jìn)入全面爆發(fā)階段,以ChatGPT為代表的大模型正在引領(lǐng)新一輪全球人工智能技術(shù)發(fā)展浪潮,深度改變行業(yè)生產(chǎn)力,也為網(wǎng)安行業(yè)帶來(lái)了新變量。

安全矛與盾:大模型的兩面性

安恒信息高級(jí)副總裁、中央研究院院長(zhǎng)王欣指出,在人工智能時(shí)代下,大模型技術(shù)存在著“矛”與“盾”的兩面性。?

一方面,AI和大模型技術(shù)如“利刃”打破原有安全壁壘,安全需求與應(yīng)用場(chǎng)景發(fā)生重大變革。

在與生成式人工智能交互的過(guò)程中,用戶常常無(wú)意識(shí)暴露個(gè)人信息、商業(yè)機(jī)密等隱私數(shù)據(jù),得到的卻是暗藏平臺(tái)價(jià)值判斷的內(nèi)容反饋。個(gè)體在認(rèn)知判斷、行為決策以及價(jià)值取向等多個(gè)方面,很可能會(huì)受到單一算法的不良影響。

如果任由生成式人工智能如脫韁野馬一般肆意發(fā)展,虛假信息、偏見(jiàn)歧視乃至意識(shí)滲透等問(wèn)題無(wú)法避免,對(duì)個(gè)人、機(jī)構(gòu)乃至國(guó)家安全都存在極大的風(fēng)險(xiǎn)。

因此,《辦法》第三條、第四條在鼓勵(lì)支持人工智能創(chuàng)新的同時(shí),也強(qiáng)調(diào)了制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引的必要性。通過(guò)約束數(shù)據(jù)來(lái)源合法性、模型算法公平性、生成內(nèi)容可靠性,引導(dǎo)AI持續(xù)向善。

從世界范圍來(lái)看,為打造一個(gè)可信的人工智能生態(tài)系統(tǒng),美國(guó)、歐盟同樣在探索人工智能治理之道,并通過(guò)《人工智能問(wèn)責(zé)政策》、《人工智能風(fēng)險(xiǎn)管理框架》、《人工智能法案》等法律法規(guī)來(lái)約束人工智能發(fā)展,AI監(jiān)管勢(shì)在必行。?

另一方面,AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新,有助于網(wǎng)絡(luò)安全防護(hù)“盾”優(yōu)化升級(jí)。生成式人工智能能極大提高風(fēng)險(xiǎn)識(shí)別效率,在一定程度上彌補(bǔ)現(xiàn)有網(wǎng)絡(luò)人才缺口,讓威脅分析更準(zhǔn)確、安全運(yùn)營(yíng)更高效、安全防護(hù)更智能。

讓AI與安全同行

日前,安恒信息高級(jí)副總裁、首席科學(xué)家劉博在參加2023世界人工智能大會(huì)時(shí)曾表示:“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行,才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)”。

為促進(jìn)生成式人工智能健康發(fā)展,規(guī)范數(shù)據(jù)處理是根本。一個(gè)穩(wěn)健的大模型離不開(kāi)數(shù)據(jù)、算力和算法,而在本次《辦法》中,數(shù)據(jù)是第一高頻詞,出現(xiàn)次數(shù)高達(dá)18次,數(shù)據(jù)安全重要性可見(jiàn)一斑。?

企業(yè)用戶在使用AI大模型過(guò)程中,可能會(huì)不小心造成數(shù)據(jù)泄露,或是在訓(xùn)練模型過(guò)程中,存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識(shí)歸屬問(wèn)題。

針對(duì)此類數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),安恒信息已將已將類大模型應(yīng)用與智能數(shù)據(jù)分類分級(jí)結(jié)合,并對(duì)算法模型內(nèi)生的可靠性與穩(wěn)健性、透明性與可解釋性、準(zhǔn)確性與公平性等風(fēng)險(xiǎn)進(jìn)行持續(xù)性研究。?

結(jié)語(yǔ)

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),從大數(shù)據(jù)到大模型再到大生態(tài),隨著應(yīng)用場(chǎng)景資源的持續(xù)開(kāi)放,未來(lái)幾年是人工智能技術(shù)躍遷的重要窗口期。

未來(lái),安恒信息將牢牢把握時(shí)代發(fā)展機(jī)遇,專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究,以創(chuàng)新方式擁抱AI變化,積極推動(dòng)產(chǎn)品AI智能化,推進(jìn)“服務(wù)+AI”、“治理+AI”、“產(chǎn)業(yè)+AI”等應(yīng)用場(chǎng)景安全升級(jí),為數(shù)字經(jīng)濟(jì)發(fā)展注入源源不斷的安全動(dòng)能。


關(guān)閉

客服在線咨詢?nèi)肟?,期待與您交流

線上咨詢
聯(lián)系我們

咨詢電話:400-6059-110

產(chǎn)品試用

即刻預(yù)約免費(fèi)試用,我們將在24小時(shí)內(nèi)聯(lián)系您

微信咨詢
安恒信息聯(lián)系方式