隨著我國“人工智能+”行動的深入推進，各類智能體及AI應(yīng)用廣泛滲入生產(chǎn)生活場景。而近期頻發(fā)的AI安全事件，不僅引發(fā)公眾關(guān)注，也成為產(chǎn)業(yè)界與學(xué)界協(xié)同攻堅的重要方向。近日，全國網(wǎng)絡(luò)安全標準化技術(shù)委員會（以下簡稱“網(wǎng)安標委”）正式組建“人工智能安全標準工作組”（WG9），標志著我國人工智能安全標準體系建設(shè)進入系統(tǒng)性推進階段。
AI安全事件頻發(fā)攻防之戰(zhàn)升級
近期，全球人工智能行業(yè)安全事件頻發(fā)。3月底，人工智能公司Anthropic旗下AI編程工具Claude Code源代碼泄露，這一事件被視為AI行業(yè)首次核心代碼泄露事件。
奇安信安全專家章磊認為，綜合各類公開信息以及Anthropic的官方回應(yīng)分析，此次源代碼泄露是典型的發(fā)布流程中的人為失誤，屬于供應(yīng)鏈安全事故。“好比原本只該給顧客成品，結(jié)果把全套制作圖紙一起送出去了。”
“產(chǎn)品的核心邏輯和防護底線一旦公開，整個產(chǎn)品的運作方式就變得透明。競爭對手可以直接研究它的架構(gòu)、功能設(shè)計、智能體邏輯，能快速模仿、追趕甚至優(yōu)化。同時，安全規(guī)則暴露后，也更容易被人找到漏洞、繞過約束、破解使用限制。”章磊表示。
今年以來爆火的智能體工具OpenClaw（俗稱“龍蝦”）也接連被曝出存在多重安全隱患。4月3日，國家信息安全漏洞庫（CNNVD）發(fā)布通報稱，自3月10日至4月2日，共采集OpenClaw漏洞155個，其中超危漏洞11個、高危漏洞53個，OpenClaw多個版本受到漏洞影響。
“我們只花了一個下午，就攻破了OpenClaw。”國內(nèi)知名白帽安全團隊DARKNAVY安全創(chuàng)新總監(jiān)陸晨表示，目前，國內(nèi)主流的“龍蝦”方案分為兩類：一類是在OpenClaw基礎(chǔ)上套殼提供對話框，另一類是提供服務(wù)器供用戶自行配置。相比較而言，前者風(fēng)險更高，一旦被攻破，黑客就能直接獲取服務(wù)器權(quán)限，甚至訪問內(nèi)網(wǎng)大模型。
上海交通大學(xué)安泰經(jīng)濟與管理學(xué)院副院長劉少軒透露，近期一家制造業(yè)企業(yè)因為倉促上馬OpenClaw，導(dǎo)致產(chǎn)線停產(chǎn)72小時，直接損失可能超過2000萬元。還有一家法律服務(wù)企業(yè)，因為沒有做好風(fēng)險防范和數(shù)據(jù)安全，導(dǎo)致大量客戶隱私數(shù)據(jù)泄露。
亞信安全相關(guān)負責(zé)人也指出，當前網(wǎng)絡(luò)攻擊正在向智能化、自動化演進，黑客利用AI實現(xiàn)勒索軟件載荷的動態(tài)生成、高仿真釣魚內(nèi)容制作，使得攻擊效率與隱蔽性大幅提升。AI自主攻擊智能體、基于深度偽造的商務(wù)詐騙，將成為2026年最緊迫的安全挑戰(zhàn)。
AI安全供給發(fā)力需求創(chuàng)造機遇
國資委1月底發(fā)布的數(shù)據(jù)顯示，中央企業(yè)已在工業(yè)制造、能源電力、智能網(wǎng)聯(lián)汽車等重點領(lǐng)域，打造了超過1000個AI應(yīng)用場景，AI賦能產(chǎn)業(yè)轉(zhuǎn)型的態(tài)勢日益明顯。與此同時，AI安全問題引發(fā)的行業(yè)擔憂，也催生了全新的安全需求，推動AI安全供給側(cè)持續(xù)發(fā)力。
對此，東莞證券認為，近期OpenClaw等智能體技術(shù)快速落地，催生全新安全需求場景，疊加網(wǎng)絡(luò)安全領(lǐng)域政策利好持續(xù)釋放，行業(yè)有望迎來新的增長機遇。
長江證券則預(yù)測，2026年國內(nèi)網(wǎng)絡(luò)安全市場規(guī)模有望突破1500億元，2030年可達3000億元，年復(fù)合增長率達18%至20%，行業(yè)正處于發(fā)展黃金期。
同時，AI安全新品與服務(wù)也在持續(xù)發(fā)布。近日，上海人工智能實驗室推出高安全產(chǎn)業(yè)級智能體平臺SafeClaw，聚焦高安全需求的產(chǎn)業(yè)智能化轉(zhuǎn)型，以推動行業(yè)從“事后安全”邁向“內(nèi)生安全”的路徑。同時，上海人工智能實驗室還開源了能快速診斷風(fēng)險的智能體守衛(wèi)模型，并探索將安全準則內(nèi)嵌至智能體決策層的“內(nèi)生進化”治理框架。
“最危險的并非已知風(fēng)險，而是‘沒有想到的危險’，因此，當前的核心任務(wù)是，在AI能力飆升的同時，前瞻性地構(gòu)建內(nèi)生安全體系。”上海人工智能實驗室領(lǐng)軍科學(xué)家胡俠表示，“這些工作旨在將安全能力深度融入AI發(fā)展全鏈條，為智能體時代的‘內(nèi)生安全’提供系統(tǒng)性解決方案。”
AI治理持續(xù)完善安全標準加速制定
隨著人工智能被廣泛應(yīng)用，人工智能治理也越發(fā)受到重視。今年政府工作報告明確提出“完善人工智能治理”，全國人大常委會工作報告提出“加強人工智能領(lǐng)域立法研究”。
在此背景下，人工智能安全標準正在加快制定。3月25日，工信部公開征求《人工智能安全治理模型上下文協(xié)議應(yīng)用安全要求》等行業(yè)標準計劃項目意見。
4月初，人工智能安全標準工作組（WG9）表示，將重點推動《網(wǎng)絡(luò)安全技術(shù) 人工智能安全能力成熟度評估方法》《網(wǎng)絡(luò)安全技術(shù) 人工智能應(yīng)用安全分類分級方法》及《網(wǎng)絡(luò)安全技術(shù) 人工智能技術(shù)涉及未成年人應(yīng)用安全指南》等核心標準的落地實施。同時，在全國網(wǎng)安標委統(tǒng)一部署下，集中力量攻堅內(nèi)生安全與數(shù)據(jù)基座、新形態(tài)與服務(wù)安全、系統(tǒng)與應(yīng)用安全及科學(xué)評測等領(lǐng)域的國家標準。
“針對AI帶來的新型風(fēng)險，需從政策法規(guī)、技術(shù)標準、實施機制三個層面協(xié)同推進。”奇安信副總裁張勇認為，展望未來，第一，安全將從“可選配”升級為“必標配”，安全合規(guī)將從推薦性轉(zhuǎn)向強制性，可以設(shè)定“AI安全投入不低于AI應(yīng)用總投入15%”這樣的行業(yè)基準；第二，網(wǎng)絡(luò)安全從“單點防護”走向“全鏈條協(xié)同”，實現(xiàn)“一處發(fā)現(xiàn)攻擊，全網(wǎng)自動免疫”；第三，從“人防”走向“技防+智防”，AI對抗AI成為攻防常態(tài)；第四，從“被動應(yīng)急”走向“主動免疫”，構(gòu)建韌性防御體系，實現(xiàn)“即使遭受攻擊也能快速恢復(fù)、核心數(shù)據(jù)不丟失”。
|