工業級大模型應用是一把“雙刃劍”？
http://www.debgrams.com 2023-12-28 15:01 來源：中國工業報
近日，一股“大模型熱”正在延伸到工業領域。中工互聯智工·工業大模型、思謀科技工業多模態大模型IndustryGPT V1.0、海爾卡奧斯工業大模型COSMO-GPT、科大訊飛羚羊工業大模型等大模型創新應用為智能制造提供了新的方向和思路。
但是，記者在采訪時卻了解到，工業企業利用分布式云將大模型引入到生產管理流程中是未來趨勢，但也會帶來越來越多的安全問題。工業級大模型應用可解決安全生產力短缺問題，但大模型技術是一把“雙刃劍”，需要以大模型應用安全為前提。
工業云已成網絡攻擊主要對象
騰訊研究院和騰訊安全聯合發布的《2023上半年云安全態勢報告》顯示，由于各行業用戶群體和業務需求不同，行業遭受攻擊的次數呈現出明顯差異，其中互聯網（通用工具、技術服務、通用SaaS）、工業云、金融是遭受攻擊最多的三大行業。
2023年上半年各行業用戶平均被攻擊次數
數據來源：2023上半年云安全態勢報告
據國家工業信息安全發展研究中心統計，2022年公開披露的工業信息安全事件共312起，行業分布覆蓋十幾個工業細分領域，制造、能源領域成為網絡攻擊重點目標攻擊。攻擊方式包括惡意軟件、分布式拒絕服務（DDos）攻擊、網絡釣魚等，呈現出目標多元化、手段復雜化、影響擴大化的攻擊趨勢。
值得關注的是，制造業已成為勒索攻擊主要目標。其中，電子制造行業遭勒索攻擊最多，占比約23%。汽車制造行業成為僅次于電子制造行業的重點攻擊目標，占比約13%。
據Verizon統計的數據顯示，全球多國大型制造企業關鍵工業數據遭泄露，造成的經濟損失和影響持續加大。比如，韓國三星電子190GB機密數據和源代碼被泄露。德國電子制造商賽米控遭數據勒索攻擊，2TB重要文件被竊取。
此外，供應鏈也是網絡攻擊的一個重點。由于工業供應鏈攻擊具有隱蔽性、威脅對象多、涉及維度廣等特點，利用上游企業的安全薄弱環節實施攻擊能達到“突破一點，傷及一片”的效果，工業供應鏈已成為網絡攻擊最佳切入點。
此前，豐田汽車就曾因主要零部件供應商遭受網絡攻擊，導致其不得不關閉在日本的全部14家工廠和28條生產線，影響約1萬輛汽車的生產，經濟損失嚴重。
騰訊安全副總經理董文輝在接受記者采訪時表示：“上云是必然趨勢，我們看到現在越來越多的工業企業是在上云的。他們會選擇優先把自己原本就有的服務器等利用起來，進行本地化部署。像寧德時代、三一重工等比較典型的工業企業就采用的是本地云、專有云。”
在他看來，這些工業企業利用分布式云將AI的能力逐漸引入到整個生產、管理流程中，這是一個數字化的過程，也是未來的趨勢。不過也正因如此，他們面臨的安全威脅也越來越多了。
“一方面，傳統工業企業在專業技術人才儲備方面存在短板。另一方面，工業制造業涉及的特殊工藝、技術以及工業知識，給攻防端都帶來了很大的技術挑戰。”董文輝說道。
大模型與安全行業結合成新趨勢
在工業領域，制造企業的安全體系面臨挑戰。蔚來汽車信息安全基礎設施負責人馬磊表示，對于汽車制造業而言，傳統的云上DDOS、CCI以及爬蟲風險持續存在，而智能網聯時代，整個汽車生產制造，包括服務都跑在云上，車載應用迭代和更新的速度不斷加快，這樣也會加大安全漏洞的風險。此外，汽車制造業還面臨關鍵基礎設施的合規風險及供應鏈風險，必須從傳統的被動防御轉化成主動。
“長期以來，我們一直在思考一個問題——安全運營提效的終局會是怎樣，安全運營未來會是怎樣？”騰訊云安全產品負責人周荃說道，“如今，大模型來了。我們做了很多探索和嘗試，發現通用的語言模型如果沒有專門針對于垂類行業進行訓練，就無法在指定領域里成為一個可對話式、生成式AI專家角色。為此，騰訊云安全在通用模型基礎上投喂安全知識語料庫二次訓練出了一個安全大模型，并基于安全大模型打造了一款騰訊云AI安全助手，覆蓋告警解釋、漏洞修復、日志處理、智能客服等四大能力，產品將會在2024年1月全量正式上線。”
騰訊云安全年度產品發布會現場
不止是騰訊，微軟的Microsoft Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒腦、奇安信Q-GPT安全機器人等產品的涌現，足以說明大模型與安全行業的結合已經成為一個新趨勢。
據奇安信集團總裁吳云坤介紹，目前奇安信推出的Q-GPT安全大模型已經在安全運營、事件響應、攻防演練等場景中進行大量實踐驗證，大幅度提升了相關應用場景的安全能力和效率。比如在安全運營場景下，經過初步測算，Q-GPT大模型每分鐘可以研判16條告警，是安全專家平均水平的16倍；年運營效率可以達到人工運營的70倍。
“安全大模型的不斷進化將驅動安全運營從人工時代進入全自動運營時代。”周荃表示。不過從現階段來看，工業領域安全交互產品本質上仍停留在信息交換層面。很多工業設計包括產品體驗設計更多都是提高信息反饋的及時性、準確性、豐富度，幫助安全運營人員拿到信息以后能夠快速準確地做出下一步決策和判斷。
他指出，下一步，如果能把安全大模型應用在產品交互、安全能力建設、安全服務等各個方面，將大大提升安全運營效率。比如，基于大模型，讓用戶通過更簡單的操作，甚至對話的形式直接使用安全產品。再比如，嘗試利用大模型對安全規則進行泛化和變種，提升安全漏洞的檢出率。安全大模型最終演化為一個真正的安全智能體后，安全運營人員使用安全產品時只需針對確定性的事情提出一個目標，AI就能完成余下的工作。
工業大模型要遵循安全原則
工業場景有其特殊性，一方面工業制造業關乎國計民生，是經濟和產業發展的基本盤。另一方面，這個領域極其復雜且細碎，目前國內規模以上工業企業數量超過40萬家，覆蓋41個工業大類、207個工業中類、666個工業小類，其中存在著大量的場景和業務痛點。工業安全的重要性毋庸置疑。
尤其是經過多年的發展，工業企業加速上云，完成了不少場景的智能化升級。大模型的到來，在為這個領域帶來新機遇的同時也帶來了更多安全挑戰。
“工業級大模型應用可以解決安全生產力短缺的問題，但大模型技術是一把‘雙刃劍’，需要以大模型應用安全作為生產力輸出的前提和基礎。然而，當前大多數大模型應用無法真正解決網絡安全生產力問題。”吳云坤表示。
他建議，安全大模型達到工業級應用，需要滿足三個關鍵條件。一是需要高質量知識數據、專家隊伍、實戰經驗和場景支撐；二是必須基于多種安全任務的強化學習和頂尖專家的反饋訓練；三是要面向安全生產場景中的任務和應用強化實戰能力。像奇安信推出的大模型衛士，便可以防范大模型應用中數據投喂造成的敏感數據泄露、避免觸發數據跨境安全監管紅線、建立身份識別與溯源機制，對企業的大模型應用進行安全管控。
奇安信集團總裁吳云坤在2023世界互聯網大會烏鎮峰會上發表演講
制造業是一個高度專業化的領域，且細分行業眾多，不能簡單地將一個通用大模型應用于生產環境。即便是引領技術潮流的GPT-4，也由于缺少專業知識、無法理解工業場景的具體需求，而無法準確回答制造行業的相關問題、識別常見的工業缺陷，或生成相關的業務流程和代碼。
在工業安全場景中，更是需要有全面的工業知識和安全知識的結合，這對安全大模型本身也提出了更高的要求。騰訊安全科恩實驗室高級安全研究員唐祺壹表示：“要跟實際的業務場景去做結合，通過場景數據微調的方式，以更低的訓練適配成本和插件化的靈活性，去將大模型應用到不同的場景當中，發揮真正的價值。”
360創始人周鴻祎認為，大模型很熱，但絕不是風口和泡沫，而是代表了一次工業革命的機會，將大幅提高生產力和生產效率。在構建企業級大模型的時候一定要遵循“安全原則”。安全是大模型發展的底線，也是未來大模型的核心競爭力。
編輯精選
