AI連接千行百業 網絡安全應答新考題

　　人工智能（AI）等前沿科技飛速發展，大模型越來越多地被使用在千行百業的不同場景之中。作為互聯網生態的基礎性支撐，互聯網安全需要面對新挑戰、解決新場景、滿足新需求。在第十二屆互聯網安全大會（ISC.AI 2024）上，多位行業專家表示，“安全+AI”的新生態成為了驅動產業發展的關鍵動力。

　　● 本報記者 王婧涵

　　AI科技“碰撞”多元場景

　　在第十二屆互聯網安全大會的現場，跳舞機器人、艾灸機器人、自動化妝機和各類AR游戲、智能辦公助手、汽車智能座艙都吸引了大量參觀者，無處不在的AI技術昭示著一個新時代的到來。

　　展廳中，正在計算機專業就讀研究生的郭同學向記者表示，他目前的研究方向和這兩年爆火的大模型密切相關，當前越來越多的AI大模型技術被應用到了工業生產、醫療服務、日常辦公、藝術創作等方方面面，未來也可能會更多深入民眾的工作生活，成為日常不可或缺的一部分。

　　隨著AI的使用場景愈發豐富，互聯網安全作為互聯網生態的基礎性支撐，在使用范圍和用戶需求上都有了新的變化。多位專家和行業人士表示，“安全+AI”的新生態帶來新場景，成為驅動互聯網安全產業發展的關鍵動力。

　　“安全+自動駕駛”就是其中極富代表性的“新生態”之一。

　　山石網科副總裁賈宇告訴記者，自動駕駛過程中感知系統、分析系統、決策系統協作運行，都需要智能網聯技術的加持。如果未來主駕位無人的自動駕駛汽車進入商業化推廣階段，出于對人身安全的保護，無人駕駛汽車的信息安全就會變得非常重要。他提到，在駕駛場景下，安全監管需要同時滿足高性能和低延遲兩項要求，以平衡網絡安全和物理安全。因為軟件延遲如果過高，車輛行駛中事故發生的概率也將提升。

　　360集團創始人周鴻祎則表示，隨著汽車行業智能化的發展，汽車在出廠前不僅需要進行物理世界的碰撞試驗，同樣要在數字世界里要經過“數字碰撞”，以保證沒有明顯的數字安全漏洞。除去車身安全，車廠安全也需要被重點關注。周鴻祎表示，攻擊車廠的難度比攻擊車身低很多，因為車廠網絡與普通辦公網絡差異不大，更容易出現漏洞。而如果車輛接入車聯網，車廠被“攔截”一樣會帶來嚴重后果。

　　應對新挑戰

　　當前，以生成式人工智能為代表的新一代數字技術逐漸成為引領科技創新、提高新質生產力的關鍵力量，同時也帶來了社會倫理以及數據隱私泄露等挑戰。

　　公安部原副部長、國家網信辦原副主任陳智敏表示，確保數據安全是人工智能安全的基本保障，而構建與新質生產力相適應的新型生產關系則是保障其可持續發展的當務之急。應健全關鍵核心技術攻關的體制機制，將政府、市場、社會有機地結合起來，健全要素參與、收入分配機制，激發各類經營主體的創造活力。深化教育、科技、人才體制機制創新，暢通三者的良性循環。

　　賈宇表示，AI技術的發展對網絡安全行業帶來了巨大沖擊。新技術帶來新使用場景的同時，安全問題也自然隨之而來。例如，AI大模型從學習到輸出的過程中會需要和輸出海量數據，如何保證這些數據不會被污染，污染了以后如何處理，都是網絡安全行業需要考慮的問題。

　　中國工程院院士吳世忠從生成式人工智能安全研究的總體態勢和技術熱點角度對行業當前發展趨勢進行了分析。他表示，AI技術帶來的新型安全問題已成為現實，安全行業將迅速邁進AI驅動的新時代。然而，目前對大模型安全的研究才剛剛開始，相較于技術發展，安全研究明顯滯后。

　　推動協同共治

　　中國科學院院士、清華大學計算機系教授張鈸提到，由于當前計算機LLM基礎模型的局限性，AI和人工智能生成的語言與人類語言本身只是行為上的相似，內在機制完全不同，因此雖然大模型擁有強大的語言生成、對話、遷移能力，但必然會出現“幻覺”——也就是質量上的不可控和內容上的不可信。因此在人工智能技術發展的同時，構建可解釋的AI理論與方法極為重要。這也需要政府、企業等各方參與者能夠保持開放的態度協同共進，在技術發展的過程中關注AI大模型和人工智能相關倫理規則，形成社會和全球范圍內的共識。

　　陳智敏提到，在AI時代更應堅持科學向善的原則，這是人工智能發展過程中面對潛在威脅必須堅持的道德倫理底線。針對個人信息被竊取盜賣引發犯罪、危害社會公共安全等問題，要建立健全數據確權、數據安全保障、算力安全審查等制度，為人工智能發展形成正確的價值導向和穩定的社會預期提供有力的保障。

　　世界互聯網大會秘書長任賢良表示，人工智能迎來發展與治理協同共進的新階段，在人工智能時代，確保網絡安全不僅是保障互聯網作為全國各行業紐帶的核心要素，更是實現人工智能為社會帶來福祉的基礎前提。應該倡導遵守網絡空間國際規則，將防控網絡安全風險放在人工智能發展與治理的重要位置。此外，廣大數字安全企業應以技術為本，深入研究人工智能等重點領域，構建跨領域、多層次的數字安全技術產品和服務創新體系，同時注重開放合作，推動協同共治。