中新網北京9月29日電 (陶思閱)今年9月，第22屆國家網絡安全宣傳周網絡安全協同防御分論壇活動中，國內首次針對AI大模型的實網眾測檢驗結果發布。測試累計發現281個安全漏洞，其中大模型特有漏洞占比超60%，涵蓋提示注入、信息泄露等典型風險。
同時，攻擊者研究AI的學習偏好，有針對性地“投喂”信息，更有甚者，有組織地進行“數據投毒”，即通過偽造專家身份、虛構研究報告等方式，向AI輸入虛假信息，以達到操縱AI輸出結果的目的。
同盾科技安全研究院院長董紀偉認為，隨著生成式AI技術的廣泛運用，未來的攻防戰將邁入“以技術對抗技術，以AI對抗AI”的階段。
面對挑戰，監管體系率先升級。9月15日，《人工智能安全治理框架》2.0版在國家網絡安全宣傳周發布。
AI安全行業也正構建“AI對抗AI”的技術防線。9月，華為發布全新升級的星河AI網絡安全解決方案，據介紹，該方案威脅自動化處置率達99%，未知威脅檢出率達95%。
螞蟻消金通過多模態感知與大小模型協同，系統可精準識別假章假證、合成語音等造假行為。螞蟻消金首席信息官劉義介紹，目前，虛假證件識別準確率達98%，語音偽造檢測覆蓋50余種合成方式，2024年以來，螞蟻消金已聯合司法機關查處12家非法金融中介，涉案人員超過200人，實現了技術治理與司法聯動的有效結合。
近日，綠盟科技發布新的大模型安全評估系統，實現對140余款主流模型的自動化深度掃描，精準發現內容安全、對抗攻擊、數據泄露及組件漏洞等風險，并能夠出具符合國家《生成式人工智能服務安全基本要求》的評估報告。
今年9月發布的《AI時代網絡安全產業人才發展報告(2025)》顯示，2025年全球網絡安全人才缺口升至480萬，同比增長19%；其中美國需求51.4萬個在線崗位，實際填補率不足三分之二。
中國方面，截至2024年底全國持證在崗人員約32萬，已有792所普通高校開設網絡安全專業，占高校總數27.1%；其中65.9%已在2025年新增AI安全課程，較去年躍升15個百分點。(完)