近年來，隨著機器學習以及神經網絡的持續迭代和演進，人工智能正朝著歷史性的時刻邁進，特別是以ChatGPT為代表的生成式AI的出現，催生人工智能和更多應用場景結合。但在AI技術推動各行各業創新發展的同時，其所帶來的數據安全問題也引起廣泛關注，如何在滿足業務基本需求的基礎上，強化數據保護能力，保障數據安全流動，已經成為各大企業當前亟待解決的問題。

AI技術高速發展帶來數據安全新問題

生成式AI依賴大量數據和大型模型，任何一個環節的安全疏漏，都可能會導致企業自身數據及隱私的泄露，或者產生不準確甚至錯誤的結果，甚至就算用戶正常使用，都有可能存在個人數據泄露的風險。

今年年初，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發這一平臺的 OpenAI 公司處理意大利用戶信息，同時個人數據保護局開始立案調查。OpenAI也向外界證實，部分ChatGPT Plus的確存在數據安全漏洞，可能泄露了服務訂閱用戶的個人隱私和支付信息。不只是國外，近期國內各類“AI 詐騙”案件也層出不窮，用戶缺乏警惕性，引起各界廣泛關注。

根據國際開源安全組織OWASP報告顯示，大語言模型（LLM）應用的安全威脅包括提示注入、數據泄露、沙箱隔離不足、未經授權的執行代碼、SSRF漏洞、過度依賴LLM生成的內容、AI調整能力不足、錯誤處理不當、訓練數據污染等十個風險。

AI技術快速發展的弊端浮出水面，敲響新技術帶來的新安全問題警鐘，也讓AI本身的安全性變得愈發重要。中國科學院院士何積豐此前在《探索下一代安全智能》論壇上表示，以人工智能為代表的數字技術正邁入從高速增長向高質量增長轉變的全新發展階段，這對其自身安全性和可靠性提出更高要求，也衍生出新型風險與挑戰。

為此，在行業內建立起一個更加可信可控的數字安全屏障刻不容緩。9月初，中國電信、螞蟻集團、華為、百度、字節跳動、西安電子科技大學、國家金融測評中心等30余家機構作為首批發起單位，宣布成立“AI安全工作組”，致力于共同解決AI技術快速發展所帶來的安全難題。

九方財富守住“安全”底線

行業監督固然重要，企業的自覺也不可或缺。

在金融行業，AI技術的應用也越來越廣泛。領先的在線投資決策解決方案提供商九方財富（09636.HK），自2019年就開始全面開啟“數智化”轉型，期間推出了包括AI旺財、AI巡查官、AI監測官、智能創造工坊，以及行業首個智能投顧數字人“九哥”在內的眾多AI產品。

自成立以來，九方財富持續加大在數據安全領域的投入，并依據行業最高標準打造了自身數據安全體系。在用戶數據安全方面，九方財富堅持制度建設和技術能力兩手抓，嚴格遵循相關法規開展合法經營；在產品設計上，九方財富不斷探索新技術、新應用，提升數據安全防護能力，全方位保障用戶數據安全。

九方財富多年來在數據、合規安全領域上的耕耘和沉淀，已經成為了行業的典范。今年年初，九方財富旗下九方智投的案例順利編入了中國信通院發布的《數據安全管理實踐案例集》。隨后4月，九方智投又成功獲得了中國信通院頒發的“數據安全管理能力認證(DSMC)”證書，成為證券投資咨詢行業首家獲頒該證書的企業。不僅如此，九方智投還獲得國際認證機構SGS頒發的ISO/IEC 27001信息安全管理體系標準及ISO/IEC 27701隱私管理體系標準雙認證。

數據安全不僅影響著企業的穩健發展，也直接影響到國家安全。為促進生成式人工智能技術健康發展和規范應用，7月國家網信辦等七部門聯合發布了《生成式人工智能服務管理暫行辦法》，此前4月，國家互聯網信息辦公室也發布《生成式人工智能服務管理辦法（征求意見稿）》并公開征求意見。九方財富（09636.HK）在數據安全管理上積極發揮帶頭作用，不僅是對廣大投資者的負責，也將對行業、國家數據安全產業的健康發展帶來積極有效的推動作用。