中新網深圳10月17日電(記者 左雨晴) 人臉識別數據遭泄露，自己的面部數據被非法用于AI換臉牟利；與AI虛擬伴侶聊天，私密對話、圖片視頻和交易記錄卻被暴露在公共網絡……

　　近年來，人工智能(AI)迅猛發展，在文字處理、數據分析、個性化服務等領域展現出卓越能力，AI Agent(智能體)應用需求迅速增長，極大便利和豐富人們生活。然而，AI的爆發式增長離不開海量用戶數據的支持，這也讓用戶面臨更高的隱私泄露風險。

　　今年5月，國家網絡安全通報中心公布的35款存在違法違規收集使用個人信息情況的移動應用中，多款應用涉及AI大模型。同月，該中心發布警告稱，AI繪圖工具ComfyUI存在多個高危漏洞，已有境外黑客組織利用ComfyUI漏洞對我國網絡資產實施網絡攻擊，伺機竊取重要敏感數據。

　　發展人工智能應如何在合理利用數據的同時，確保數據的應用合法、透明和安全，從而保障用戶的隱私安全？

　　10月15日，在2025 OPPO開發者大會——AI安全與隱私分論壇上，中國信息通信研究院泰爾終端實驗室信息安全部副主任傅山表示，保護數據隱私安全需要智能終端、APP企業和用戶三方共同努力，建好“協作橋”。

　　對于端側，西安交通大學教授藺琛皓表示，AI技術發展讓對數據庫的攻擊變得更加多元化，這讓從端側進行輕量化、全面化的防御變得更為困難。因此，企業在構建數據安全防護體系時，需要從硬件、系統、開發框架、數據、模型等多個方面入手，甚至還需要采取交互式防御手段，才能保證整個鏈路式的數據安全。

　　OPPO、華中科技大學、螞蟻金服、火山引擎、阿里云、復旦大學、西安交通大學、南京郵電大學15日聯合發布的《移動Agent安全技術白皮書》預測，移動Agent安全架構將經歷從“外掛式”防護到“內生式”安全的根本性轉變，通過硬件重構、系統重構和協議重構，構建更加安全、可靠的基礎技術底座。其中，端云協同的機密計算環境將成為移動Agent安全的核心支撐，下一代移動平臺或將整合獨立AI安全引擎，實現模型參數和用戶數據的“內存加密-計算隔離-密鑰輪換”全流程保護。

　　白皮書指出，盡管移動Agent安全技術前景廣闊，但仍面臨加密計算帶來的算力開銷可能影響用戶體驗、多樣化的硬件平臺和操作系統導致安全方案難以標準化、自主決策能力可能引發不可預知的安全事件三大核心挑戰，Agent安全技術需要破現有封閉格局，通過標準共建、算力端云協同、安全中間件構建為產學研用一體化形成開放協同的全網生態。

　　在監管層面，近年來對個人信息保護的監管不斷加強，相關部門通過專項整治、常態化檢查等方式，推動企業的數據收集向最小、必要、透明、可控的方向加速轉變。然而，由于AI技術革新和落地的速度較快，因此監管標準和政策的制定往往具有滯后性。

　　對此，藺琛皓表示，應盡快擬定初步的標準及相關規定，并跟隨AI技術的迭代不斷修訂。

　　傅山也認為，從標準制定角度看，由于AI變化發展迅速，且具有千人千面的特性，因此難以用單一標準管理所有場景。建議采用隱私分級的方式進行逐級遞增的管理和規范。“為了更好落實標準并保障合規性，需要對AI使用的數據進行分級處理，以便更好地適應政策要求并創造更多的創新空間。”

　　傅山強調，用戶在嘗試新功能、新應用時應仔細審查權限請求，謹慎授予訪問通訊錄、位置信息、相冊、麥克風等敏感數據權限，并經常性檢查敏感數據的使用情況。“只有三方共同實現事前預防、事中把控、事后檢查，才能更好實現AI功能的安全使用。”(完)