AI+安全
數(shù)據(jù)安全
數(shù)據(jù)基礎(chǔ)設(shè)施
態(tài)勢(shì)感知
云安全
基礎(chǔ)安全
終端安全
商用密碼
軟件供應(yīng)鏈安全
網(wǎng)絡(luò)空間靶場(chǎng)
工業(yè)互聯(lián)網(wǎng)安全
物聯(lián)網(wǎng)安全
安全托管服務(wù)
運(yùn)營(yíng)管理服務(wù)
安恒信息：AI安全監(jiān)管勢(shì)在必行
安全矛與盾：大模型的兩面性
安恒信息高級(jí)副總裁、中央研究院院長(zhǎng)王欣指出，在人工智能時(shí)代下，大模型技術(shù)存在著“矛”與“盾”的兩面性。?
一方面，AI和大模型技術(shù)如“利刃”打破原有安全壁壘，安全需求與應(yīng)用場(chǎng)景發(fā)生重大變革。
在與生成式人工智能交互的過(guò)程中，用戶常常無(wú)意識(shí)暴露個(gè)人信息、商業(yè)機(jī)密等隱私數(shù)據(jù)，得到的卻是暗藏平臺(tái)價(jià)值判斷的內(nèi)容反饋。個(gè)體在認(rèn)知判斷、行為決策以及價(jià)值取向等多個(gè)方面，很可能會(huì)受到單一算法的不良影響。
如果任由生成式人工智能如脫韁野馬一般肆意發(fā)展，虛假信息、偏見(jiàn)歧視乃至意識(shí)滲透等問(wèn)題無(wú)法避免，對(duì)個(gè)人、機(jī)構(gòu)乃至國(guó)家安全都存在極大的風(fēng)險(xiǎn)。
因此，《辦法》第三條、第四條在鼓勵(lì)支持人工智能創(chuàng)新的同時(shí)，也強(qiáng)調(diào)了制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引的必要性。通過(guò)約束數(shù)據(jù)來(lái)源合法性、模型算法公平性、生成內(nèi)容可靠性，引導(dǎo)AI持續(xù)向善。
從世界范圍來(lái)看，為打造一個(gè)可信的人工智能生態(tài)系統(tǒng)，美國(guó)、歐盟同樣在探索人工智能治理之道，并通過(guò)《人工智能問(wèn)責(zé)政策》、《人工智能風(fēng)險(xiǎn)管理框架》、《人工智能法案》等法律法規(guī)來(lái)約束人工智能發(fā)展，AI監(jiān)管勢(shì)在必行。?
另一方面，AI和大模型技術(shù)也促進(jìn)了安全產(chǎn)品和服務(wù)革新，有助于網(wǎng)絡(luò)安全防護(hù)“盾”優(yōu)化升級(jí)。生成式人工智能能極大提高風(fēng)險(xiǎn)識(shí)別效率，在一定程度上彌補(bǔ)現(xiàn)有網(wǎng)絡(luò)人才缺口，讓威脅分析更準(zhǔn)確、安全運(yùn)營(yíng)更高效、安全防護(hù)更智能。
讓AI與安全同行
日前，安恒信息高級(jí)副總裁、首席科學(xué)家劉博在參加2023世界人工智能大會(huì)時(shí)曾表示：“安全技術(shù)要和AI大模型自身的智能技術(shù)同步進(jìn)行，才能有效保障人工智能更可靠、更安全地服務(wù)于企業(yè)”。
為促進(jìn)生成式人工智能健康發(fā)展，規(guī)范數(shù)據(jù)處理是根本。一個(gè)穩(wěn)健的大模型離不開(kāi)數(shù)據(jù)、算力和算法，而在本次《辦法》中，數(shù)據(jù)是第一高頻詞，出現(xiàn)次數(shù)高達(dá)18次，數(shù)據(jù)安全重要性可見(jiàn)一斑。?
企業(yè)用戶在使用AI大模型過(guò)程中，可能會(huì)不小心造成數(shù)據(jù)泄露，或是在訓(xùn)練模型過(guò)程中，存在那些包含了隱私相關(guān)或是產(chǎn)權(quán)相關(guān)的知識(shí)歸屬問(wèn)題。
針對(duì)此類數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)，安恒信息已將已將類大模型應(yīng)用與智能數(shù)據(jù)分類分級(jí)結(jié)合，并對(duì)算法模型內(nèi)生的可靠性與穩(wěn)健性、透明性與可解釋性、準(zhǔn)確性與公平性等風(fēng)險(xiǎn)進(jìn)行持續(xù)性研究。?
結(jié)語(yǔ)
人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，從大數(shù)據(jù)到大模型再到大生態(tài)，隨著應(yīng)用場(chǎng)景資源的持續(xù)開(kāi)放，未來(lái)幾年是人工智能技術(shù)躍遷的重要窗口期。
未來(lái)，安恒信息將牢牢把握時(shí)代發(fā)展機(jī)遇，專注于人工智能結(jié)合網(wǎng)絡(luò)安全的研究，以創(chuàng)新方式擁抱AI變化，積極推動(dòng)產(chǎn)品AI智能化，推進(jìn)“服務(wù)+AI”、“治理+AI”、“產(chǎn)業(yè)+AI”等應(yīng)用場(chǎng)景安全升級(jí)，為數(shù)字經(jīng)濟(jì)發(fā)展注入源源不斷的安全動(dòng)能。
