C114訊 4月30日消息(九九)4月29-30日,由國家發展改革委、國家數據局等主辦的第八屆數字中國建設峰會在福建福州舉行。大會首日,奇安信董事長齊向東在數字經濟論壇發表演講并接受媒體采訪。
齊向東表示,發展是硬道理,安全也是硬道理。在數字經濟發展過程中,網絡安全是底線根基和上限支撐,是價值創造的強勁引擎。面向未來網絡安全,得AI者得天下!
大模型應用一端連著機遇,一端連著挑戰
當前,人工智能大模型應用迎來大爆發,千行百業都爭先恐后擁抱大模型,搶占高質量發展先機。齊向東指出,“這些層出不窮的新興場景,充分展現出人工智能大模型帶給我們的無限生產力、創造力。但我們也要清醒地意識到,新技術是把雙刃劍,大模型應用一端連著機遇,一端連著挑戰。”
齊向東深度剖析了大模型應用的三重挑戰。
一是“小數據”一失萬無,“小數據安全”成為數字經濟時代的核心關切。數據是驅動數字經濟發展的“石油”,人工智能是“發動機”。過去,提到數據人們想到的都是大數據,規模大,但碎片化、質量參差不齊,數據價值挖掘和變現難。現在有了人工智能,尤其是大模型,傳統企業開始把所積累的設計數據、生產數據、安裝調試數據等,通過去粗取精、去重整合、分類標注等加工處理,形成精華小數據。對企業而言,一旦精華小數據被竊取、被泄露、被篡改,企業常年積累的核心競爭力會瞬間崩塌。
二是大模型融通百業,“裸奔”上線極有可能引發業務停擺的鏈式危機。當大模型深度融入智慧城市、工控系統、智慧政務等關鍵領域時,會將風險串聯成網,一旦被攻擊會“牽一發動全身”。奇安信資產測繪鷹圖平臺監測發現,8971個Ollama大模型服務器中,有6449個活躍服務器,其中近九成都在“裸奔”。也就是說,別有用心者可以在未經授權的情況下訪問服務,甚至可以發送指令刪除所部署的DeepSeek、Qwen等大模型文件,進而導致與大模型關聯的應用業務中斷。
三是對AI過度依賴,善惡真偽難辨,一旦大模型決策失準會引發“蝴蝶效應”。隨著人工智能的深入應用,大模型的“本領”會越來越強,人們會對人工智能的輔助決策和判斷產生過度依賴,給不法分子可乘之機。從外部攻擊視角看,黑客可以通過漏洞利用、數據投毒等方式,干擾大模型的決策,披著大模型的外衣作惡;從內部運營視角看,如果內部員工在更新知識庫時,引入錯誤信息會污染模型學習環境,使其輸出錯誤結論。
順應“AI+安全”大勢,用AI對抗AI
不可否認,大模型技術的突破和落地,讓千行百業智能化的周期大幅縮短,為全產業升級按下“加速鍵”,同時帶來網絡安全需求大爆發。
齊向東介紹,奇安信順應“AI+安全”大勢,一方面,針對AI大模型的垂直新場景,創新研發安全產品,護航千行百業踏實地向人工智能要生產力。另一方面,又把AI技術深度集成到安全產品中,“用AI對抗AI”,促進安全防護提質增效。
圍繞大模型應用,奇安信推出大模型安全空間、奇安天界大模型安全一體機,為基于大模型的智能業務應用保駕護航。面向中大型客戶,推出“大模型應用安全空間”,通過“清風險、強基礎、控權限、審數據、攔攻擊”五個步驟,構建多個維度縱深防御體系。面向教育、基層衛生、中小企業等輕量級客戶,推出奇安天界大模型安全一體機,通過一體化交付、一體化運維和一體化管理,滿足大模型安全和合規需求,目前該產品已在超過1000家政企客戶中獲得成功部署。
與此同時,奇安信在AI賦能安全產品上也做出很多嘗試,提出AI驅動安全理念,安全產品全面AI化進展顯著。其“AI+SOC”“AI+天眼”“AI+天擎”“AI+椒圖”等產品在實際應用中受到來自金融、能源、醫療等領域客戶的廣泛好評。
齊向東進一步介紹,奇安信安全智能體已經深度接入DeepSeek大模型,在為政企客戶提供威脅研判等多個場景里表現卓越。今年,奇安信的“AI+代碼衛士”產品也已經落地金融行業,在人保科技和北京銀行部署上線。運營商方面,中國電子與中國電信簽署戰略合作協議,奇安信作為中國電子的成員單位,將提供信息安全、人工智能等各領域的支持。
面向未來,齊向東表示,奇安信將聚焦網絡安全主業多維發力,以科技創新筑牢安全底座、以全球化視野拓展安全邊界,以責任擔當護航國家戰略、以生態協同激活產業動能,為中國式現代化筑牢網絡安全防線。