皮爾磁：工業領域中的人工智能是否安全？
http://www.debgrams.com 2023-12-27 17:46 來源：皮爾磁
自從ChatGPT發布以來，人工智能的熱度居高不下。但是，就以生成文字為例，智能的算法是否也能在安全自動化方面取得突破性進展呢？答案是肯定的，而問題是：這如何實現呢？
實際上，“人工智能”（AI）一詞背后并沒有特別的魔法，它是純粹的數學。簡單地說，AI是一種試圖模仿人類行為的程序代碼，目的是實現人類決策的自動化。這項技術的基礎早在上世紀60年代就已建立。然而，直到現在有了功能強大的硬件、新概念和新算法，人工智能才有了突飛猛進的發展。這些發展使得人工智能技術可以應用于工業領域，專家們都紛紛預測全球經濟將發生一場革命。
將人工智能和機械安全結合在一起是一門終極學問。因為AI就是所謂的“黑匣子”：人們無法預測或理解復雜的系統是如何做出決定的。但這對于功能安全來說是絕對必要的。安全系統的每一個反應都必須是合理的。在機械安全中實施人工智能時，有三個方面是相關的：工業安全與信息安全、透明度和可靠性。
人工智能促進機械安全
就透明度而言，目前的研究正是針對這一方面：解釋人工智能為何以及如何做出決策的能力。專家們正在使用“可解釋的人工智能”（Explainable AI）技術，讓人們能夠理解人工智能的復雜系統，從而提高其透明度。在可靠性方面，專家們正在使用算法和方法來量化不確定性。因此，人工智能系統能夠顯示其決策的確定或不確定程度，識別無效條目并做出相應反應。在工業安全和信息安全領域，研究人員使用形式化驗證方法來驗證人工智能是否安全無誤。
“在短期內，我們希望AI能夠提高生產效率。從長遠來看，我們希望能夠在安全相關的環境中使用人工智能，并從中獲利”，皮爾磁的高級開發副總裁 Mathias Holzäpfel 展望未來時說道。皮爾磁的專家正致力于人工智能技術以及人工智能與機械安全方面的最新研究。作為可靠的安全自動化合作伙伴，皮爾磁不會對人工智能的使用聽之任之，而是會密切關注立法和標準的制定。
編輯精選
