C114訊 4月30日消息（九九）4月29-30日，由國家發(fā)展改革委、國家數(shù)據(jù)局等主辦的第八屆數(shù)字中國建設峰會在福建福州舉行。大會首日，奇安信董事長齊向東在數(shù)字經(jīng)濟論壇發(fā)表演講并接受媒體采訪。
齊向東表示，發(fā)展是硬道理，安全也是硬道理。在數(shù)字經(jīng)濟發(fā)展過程中，網(wǎng)絡安全是底線根基和上限支撐，是價值創(chuàng)造的強勁引擎。面向未來網(wǎng)絡安全，得AI者得天下！
大模型應用一端連著機遇，一端連著挑戰(zhàn)
當前，人工智能大模型應用迎來大爆發(fā)，千行百業(yè)都爭先恐后擁抱大模型，搶占高質(zhì)量發(fā)展先機。齊向東指出，“這些層出不窮的新興場景，充分展現(xiàn)出人工智能大模型帶給我們的無限生產(chǎn)力、創(chuàng)造力。但我們也要清醒地意識到，新技術是把雙刃劍，大模型應用一端連著機遇，一端連著挑戰(zhàn)。”
齊向東深度剖析了大模型應用的三重挑戰(zhàn)。
一是“小數(shù)據(jù)”一失萬無，“小數(shù)據(jù)安全”成為數(shù)字經(jīng)濟時代的核心關切。數(shù)據(jù)是驅(qū)動數(shù)字經(jīng)濟發(fā)展的“石油”，人工智能是“發(fā)動機”。過去，提到數(shù)據(jù)人們想到的都是大數(shù)據(jù)，規(guī)模大，但碎片化、質(zhì)量參差不齊，數(shù)據(jù)價值挖掘和變現(xiàn)難。現(xiàn)在有了人工智能，尤其是大模型，傳統(tǒng)企業(yè)開始把所積累的設計數(shù)據(jù)、生產(chǎn)數(shù)據(jù)、安裝調(diào)試數(shù)據(jù)等，通過去粗取精、去重整合、分類標注等加工處理，形成精華小數(shù)據(jù)。對企業(yè)而言，一旦精華小數(shù)據(jù)被竊取、被泄露、被篡改，企業(yè)常年積累的核心競爭力會瞬間崩塌。
二是大模型融通百業(yè)，“裸奔”上線極有可能引發(fā)業(yè)務停擺的鏈式危機。當大模型深度融入智慧城市、工控系統(tǒng)、智慧政務等關鍵領域時，會將風險串聯(lián)成網(wǎng)，一旦被攻擊會“牽一發(fā)動全身”。奇安信資產(chǎn)測繪鷹圖平臺監(jiān)測發(fā)現(xiàn)，8971個Ollama大模型服務器中，有6449個活躍服務器，其中近九成都在“裸奔”。也就是說，別有用心者可以在未經(jīng)授權的情況下訪問服務，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件，進而導致與大模型關聯(lián)的應用業(yè)務中斷。
三是對AI過度依賴，善惡真?zhèn)坞y辨，一旦大模型決策失準會引發(fā)“蝴蝶效應”。隨著人工智能的深入應用，大模型的“本領”會越來越強，人們會對人工智能的輔助決策和判斷產(chǎn)生過度依賴，給不法分子可乘之機。從外部攻擊視角看，黑客可以通過漏洞利用、數(shù)據(jù)投毒等方式，干擾大模型的決策，披著大模型的外衣作惡；從內(nèi)部運營視角看，如果內(nèi)部員工在更新知識庫時，引入錯誤信息會污染模型學習環(huán)境，使其輸出錯誤結論。
順應“AI+安全”大勢，用AI對抗AI
不可否認，大模型技術的突破和落地，讓千行百業(yè)智能化的周期大幅縮短，為全產(chǎn)業(yè)升級按下“加速鍵”，同時帶來網(wǎng)絡安全需求大爆發(fā)。
齊向東介紹，奇安信順應“AI+安全”大勢，一方面，針對AI大模型的垂直新場景，創(chuàng)新研發(fā)安全產(chǎn)品，護航千行百業(yè)踏實地向人工智能要生產(chǎn)力。另一方面，又把AI技術深度集成到安全產(chǎn)品中，“用AI對抗AI”，促進安全防護提質(zhì)增效。
圍繞大模型應用，奇安信推出大模型安全空間、奇安天界大模型安全一體機，為基于大模型的智能業(yè)務應用保駕護航。面向中大型客戶，推出“大模型應用安全空間”，通過“清風險、強基礎、控權限、審數(shù)據(jù)、攔攻擊”五個步驟，構建多個維度縱深防御體系。面向教育、基層衛(wèi)生、中小企業(yè)等輕量級客戶，推出奇安天界大模型安全一體機，通過一體化交付、一體化運維和一體化管理，滿足大模型安全和合規(guī)需求，目前該產(chǎn)品已在超過1000家政企客戶中獲得成功部署。
與此同時，奇安信在AI賦能安全產(chǎn)品上也做出很多嘗試，提出AI驅(qū)動安全理念，安全產(chǎn)品全面AI化進展顯著。其“AI+SOC”“AI+天眼”“AI+天擎”“AI+椒圖”等產(chǎn)品在實際應用中受到來自金融、能源、醫(yī)療等領域客戶的廣泛好評。
齊向東進一步介紹，奇安信安全智能體已經(jīng)深度接入DeepSeek大模型，在為政企客戶提供威脅研判等多個場景里表現(xiàn)卓越。今年，奇安信的“AI+代碼衛(wèi)士”產(chǎn)品也已經(jīng)落地金融行業(yè)，在人保科技和北京銀行部署上線。運營商方面，中國電子與中國電信簽署戰(zhàn)略合作協(xié)議，奇安信作為中國電子的成員單位，將提供信息安全、人工智能等各領域的支持。
面向未來，齊向東表示，奇安信將聚焦網(wǎng)絡安全主業(yè)多維發(fā)力，以科技創(chuàng)新筑牢安全底座、以全球化視野拓展安全邊界，以責任擔當護航國家戰(zhàn)略、以生態(tài)協(xié)同激活產(chǎn)業(yè)動能，為中國式現(xiàn)代化筑牢網(wǎng)絡安全防線。 
