IEEE文章解讀如何防范“自主人工智能”暴露數據隱私

中新網北京8月14日電 國際專業技術組織電氣電子工程師學會(IEEE)14日分享關于“自主人工智能(又稱AI代理)”和數據安全的文章，指出自主人工智能可能對個人數據暴露帶來新風險的應用場景，并提出相應的防范方法。

文章指出，自主人工智能是指“具備高度自治能力的人工智能系統”。這類系統與智能手機中常見的“語音助手”存在本質差異。現有“語音助手”僅具備被動響應能力，缺乏自主設定目標的功能，雖能執行單一簡單任務，但若無人為指令，則無法實施具有實際意義的操作。

文章指出，人們已習慣應用程序請求授權：獲取定位、查看通訊錄或啟用麥克風。但自主人工智能系統不再請求許可，而是直接行動，使得"輔助工具"與"自主操作者"的界限日漸模糊。它可以自主做出決策、執行復雜任務，并在沒有持續人工監督的情況下訪問海量個人數據。

專家預測，自主人工智能未來將承擔各類任務，如規劃假期行程、確認醫療預約、智能比價購物等，均需調用用戶敏感數據，包括財務信息、實時定位等核心隱私。

專家舉例指出，現有應用通常僅調用單一數據類型，而自主人工智能系統必須“串聯用戶整個數字生活的所有節點”，包括銀行賬戶、醫療記錄、日程安排、定位軌跡、通信模式、消費習慣，乃至健康監測所需的生物特征數據。這導致數據泄露的風險呈指數級增長。

另據國際機構高德納預測，未來企業數據泄露事件中，將有25%與自主人工智能系統濫用有關。

文章稱，對于在使用人工智能系統時如何保護隱私，網絡安全專家建議，采用多層次防護方法，從基本的安全習慣做起。例如，為所有賬戶啟用多因素認證，將數據共享最小化到特定任務絕對必要的范圍，為不同用途創建單獨的賬戶，以分隔數字暴露面。

專家指出，由于人工智能系統通常需要訪問多個數據源，因此，分隔策略尤為重要。用戶不應讓一個人工智能系統獲取所有數據的訪問權限，而應考慮為不同用途使用不同的人工智能工具，比如一個用于財務任務，另一個用于健康管理，以此類推。

專家還建議，將每次人工智能交互視為可能生成永久記錄的行為，在分享敏感信息前做好相應預案。(完)