AI+安全
數據安全
數據基礎設施
態勢感知
云安全
基礎安全
終端安全
商用密碼
軟件供應鏈安全
網絡空間靶場
工業互聯網安全
物聯網安全
安全托管服務
運營管理服務
WAIC 2023 ｜安恒信息劉博：安全賦能AI“持續向善”
7月6日至8日，以“智聯世界 生成未來”為主題的2023世界人工智能大會在上海舉行。期間，“大模型”相關話題成為焦點。安恒信息高級副總裁、首席科學家劉博受邀參加WAIC線上系列直播，就“AI大模型如何助力硬科技”進行分享。
大模型成 WAIC 2023 “頂流”
眼下，以ChatGPT為代表的大模型正在引領新一輪全球人工智能技術發展浪潮，大模型不斷加速實體經濟智能化升級，深度改變行業生產力。
在圍繞“AI大模型如何助力硬科技”話題分享中，劉博表示，“隨著AI大模型和通用人工智能的發展，大模型的機密性和數據隱私保護將面臨極大挑戰。同時AI大模型也為網安行業帶來了新變量。”
?圖：左三為安恒信息高級副總裁、首席科學家劉博
中國信息通信研究院工業互聯網與物聯網研究所副總工程師劉陽表示，AI大模型已經成為AI甚至整個數字技術領域最火熱的研究方向，大模型的下半場競爭面向垂直行業更有價值。印象筆記董事長唐毅表示，中小企業不是局外人，要把大模型用起來。達觀數據CEO陳運文認為，AI大模型的出現是人工智能從量變到質變的突破。2016年阿爾法狗下圍棋戰勝了李世石是人工智能1.0時代的標志，這次AI大模型把傳統人工智能里最難的認知智能的堡壘打開了缺口，2023年可以說是人工智能2.0時代的起點。
從AI大模型的工作原理看面臨的安全隱患
AI大模型的本質是從文字當中提煉出人類知識，再用知識驅動智能的一種方式。傳統的人工智能對人類知識缺乏學習和提煉能力，AI大模型從理論上非常好地解決了從文字資料中提煉人類知識的技術，通過“看”很多的文字資料，總結文字資料的規律，來完成文字資料的挖掘，最終提煉出知識。
目前，AI大模型已經成為全球科技競爭的“高地”，整個AI行業呈現出“百模大戰”的格局。然而，火爆的背后，不容忽視其存在的很多問題和安全隱患。劉博表示，企業用戶在使用AI大模型過程中，可能會不小心造成數據泄露，或是在訓練模型過程中，存在那些包含了隱私相關或是產權相關的知識歸屬問題，以及AI大模型可能會受到網絡攻擊，可能會被別人惡意利用，或是喂投了不好的語料，導致模型出現嚴重錯誤判斷的問題。
此外，還有一些泛安全的問題，比如歧視、政治、法律道德等等問題。劉博比喻到，“這就像我們教孩子一樣，他不能只是學知識，我們還要教他怎樣做人怎樣做事，告訴他法律是什么，道德是什么。對于AI大模型來說，這就需要一些額外對模型的訓練，才能讓它達到我們想要的結果。”
安全賦能AI“持續向善”
“人很聰明，那他就有可能說謊，不管是善意的謊言還是惡意的謊言。”劉博解釋到，AI大模型就像人一樣，在某些場景下AI大模型可能比較激進做了一些錯誤的決策，或者比較保守做的一些錯誤的決策。在這種情況下，AI大模型一定要和安全技術相結合，比如Open AI在模型外層構建的類似傳統網絡防火墻一樣的屏障，把一些不合規的訪問去除掉，不符合倫理的法律法規規避掉，這樣就可以引導AI大模型“持續向善”。
“安全技術要和AI大模型自身的智能技術同步進行，才能有效保障人工智能更可靠、更安全地服務于企業。”劉博表示。
AI+安全：構建智能安全體系
安恒信息在人工智能領域擁有多年的積累和豐富的實踐經驗，也一直致力于前沿技術的研發投入，公司所屬中央研究院下設10個不同研究領域的實驗室，其中啟鑒實驗室專注于人工智能結合網絡安全的研究，深度探索“AI+安全”。
在保障人工智能安全的同時，安恒信息也在利用人工智能技術賦能安全，不斷實現產品智能化、自動化，加強AI智能數據分析、AI智能自動響應、AI智能安全等前沿技術的融合。已經將類大模型應用于智能數據分類分級、智能生成檢測規則、智能告警處置分析、安全專家問答系統、智能釣魚郵件分析、智能加密流量檢測等數十個場景，推進研究并逐步落地到產品中。
人工智能時代已來，網絡安全在這個時代也將發生巨變，新的攻擊形式層出不窮，對檢測及防護能力也必將提出新的要求。安恒信息一直擁抱AI變化，積極布局AI前沿研究。未來，安恒信息還將不斷加強人工智能與安全技術的融合與創新，為構建“安全可信的數字世界”砥礪前行。
將“安恒信息”微信公眾號設為星標?
關注信息不走丟哦！
往期精彩回顧
2023-07-11
2023-07-10
2023-07-09
