安恒信息:AI安全監(jiān)管勢(shì)在必行
安全矛與盾:大模型的兩面性
安恒信息高級(jí)副總裁、中央研究院院長(zhǎng)王欣指出,在人工智能時(shí)代下,大模型技術(shù)存在著“矛”與“盾”的兩面性。?
一方面,AI和大模型技術(shù)如“利刃”打破原有安全壁壘,安全需求與應(yīng)用場(chǎng)景發(fā)生重大變革。
在與生成式人工智能交互的過(guò)程中,用戶常常無(wú)意識(shí)暴露個(gè)人信息、商業(yè)機(jī)密等隱私數(shù)據(jù),得到的卻是暗藏平臺(tái)價(jià)值判斷的內(nèi)容反饋。個(gè)體在認(rèn)知判斷、行為決策以及價(jià)值取向等多個(gè)方面,很可能會(huì)受到單一算法的不良影響。
如果任由生成式人工智能如脫韁野馬一般肆意發(fā)展,虛假信息、偏見(jiàn)歧視乃至意識(shí)滲透等問(wèn)題無(wú)法避免,對(duì)個(gè)人、機(jī)構(gòu)乃至國(guó)家安全都存在極大的風(fēng)險(xiǎn)。

因此,《辦法》第三條、第四條在鼓勵(lì)支持人工智能創(chuàng)新的同時(shí),也強(qiáng)調(diào)了制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引的必要性。通過(guò)約束數(shù)據(jù)來(lái)源合法性、模型算法公平性、生成內(nèi)容可靠性,引導(dǎo)AI持續(xù)向善。
從世界范圍來(lái)看,為打造一個(gè)可信的人工智能生態(tài)系統(tǒng),美國(guó)、歐盟同樣在探索人工智能治理之道,并通過(guò)《人工智能問(wèn)責(zé)政策》、《人工智能風(fēng)險(xiǎn)管理框架》、《人工智能法案》等法律法規(guī)來(lái)約束人工智能發(fā)展,AI監(jiān)管勢(shì)在必行。?
另一方面,AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新,有助于網(wǎng)絡(luò)安全防護(hù)“盾”優(yōu)化升級(jí)。生成式人工智能能極大提高風(fēng)險(xiǎn)識(shí)別效率,在一定程度上彌補(bǔ)現(xiàn)有網(wǎng)絡(luò)人才缺口,讓威脅分析更準(zhǔn)確、安全運(yùn)營(yíng)更高效、安全防護(hù)更智能。

讓AI與安全同行
日前,安恒信息高級(jí)副總裁、首席科學(xué)家劉博在參加2023世界人工智能大會(huì)時(shí)曾表示:“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行,才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)”。

為促進(jìn)生成式人工智能健康發(fā)展,規(guī)范數(shù)據(jù)處理是根本。一個(gè)穩(wěn)健的大模型離不開(kāi)數(shù)據(jù)、算力和算法,而在本次《辦法》中,數(shù)據(jù)是第一高頻詞,出現(xiàn)次數(shù)高達(dá)18次,數(shù)據(jù)安全重要性可見(jiàn)一斑。?
企業(yè)用戶在使用AI大模型過(guò)程中,可能會(huì)不小心造成數(shù)據(jù)泄露,或是在訓(xùn)練模型過(guò)程中,存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識(shí)歸屬問(wèn)題。
針對(duì)此類數(shù)據(jù)合規(guī)風(fēng)險(xiǎn),安恒信息已將已將類大模型應(yīng)用與智能數(shù)據(jù)分類分級(jí)結(jié)合,并對(duì)算法模型內(nèi)生的可靠性與穩(wěn)健性、透明性與可解釋性、準(zhǔn)確性與公平性等風(fēng)險(xiǎn)進(jìn)行持續(xù)性研究。?
結(jié)語(yǔ)
人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),從大數(shù)據(jù)到大模型再到大生態(tài),隨著應(yīng)用場(chǎng)景資源的持續(xù)開(kāi)放,未來(lái)幾年是人工智能技術(shù)躍遷的重要窗口期。
未來(lái),安恒信息將牢牢把握時(shí)代發(fā)展機(jī)遇,專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究,以創(chuàng)新方式擁抱AI變化,積極推動(dòng)產(chǎn)品AI智能化,推進(jìn)“服務(wù)+AI”、“治理+AI”、“產(chǎn)業(yè)+AI”等應(yīng)用場(chǎng)景安全升級(jí),為數(shù)字經(jīng)濟(jì)發(fā)展注入源源不斷的安全動(dòng)能。
