物聯網如何擋住“別有用心”？以人工智能為矛
智能物聯網快速發展激活了經濟增長潛能，智能物聯網產業將保持20%以上的增速，預計全球智能物聯網產業未來十年的產值將超過德國經濟總量，20年左右將超過美國經濟總量。據極棒實驗室統計數據顯示，新型智能安全威脅比重從2014年的40%上升至如今的58%。而這些新型智能設備的出現就為攻擊者提供了巨大的機會。
伴隨萬物互聯時代到來，物聯網安全也日益凸顯。最新安全數據報告顯示，到2045年，將有超過1千億的設備連接在互聯網上，隨著物聯網發展以及常用連接越來越多，網絡安全將成為網絡行業的首要話題。
黑客和病毒仍在興波作浪
從世界上第一個電腦病毒C-BRAIN誕生到現在已經整整三十年了。直至今天，黑客和他們的病毒仍能在互聯網上興波作浪，吸引全球關注。今年的Wannacry和Petya再度給多個國家造成經濟損失。網絡病毒就像痼疾一樣糾纏著互聯網，庫卡機器人，幾乎看不到能夠根除的跡象。作為互聯網的擴展和延伸，正在興起之中的物聯網與網絡病毒、黑客攻擊的關系又如何呢？隔岸觀火、置身事外是絕無可能的。事實上，黑客的觸角已經侵入了這一新產業，只不過由于物聯網的落地規模尚小，因此暫未造成太大破壞。而一旦物聯網的商業化程度達到互聯網的水平，其被黑客攻擊而遭受的損失將遠超互聯網。
據了解，2016年全球IoT設備共出現1117個漏洞，IoT設備漏洞類型包括權限繞過、拒絕服務、信息泄露、跨站、命令執行、緩沖區溢出、SQL注入、弱口令、設計缺陷等。2016年所發生攻擊事件中，前三種類型漏洞數量分列前三名，由高到低分別占收錄漏洞總數的23%、19%、13%。
人工智能時代的攻與防
網絡安全是道高一尺魔高一丈的世界。安全人員使用人工智能技術阻擋黑客攻擊，反過來這也會使黑客使用人工智能技術發起更復雜的攻擊。而隨著大量人工智能模型開源，黑客入侵的工具也愈發多樣化。只要稍加學習，黑客就可以利用開源工具欺騙識別系統，而技術難度的降低會促使很多人成為黑客，或者是進行一些此前做不到的攻擊。這并非杞人憂天。
在網絡安全領域，對威脅的識別，并非一蹴而就，而是漸進發展的過程。在網絡釣魚電子郵件中已有這樣的案例，黑客通過模仿人類的說話習慣和內容，使得企業或個人被入侵時更加難以識別。以后的病毒變種會越來越多，檢測越來越難，工業機器人維修，規模越來越大，生成的時間越來越短。
最新研究報告顯示，機器人維修，人工智能安全領域的另一大隱憂：對抗樣本。在圖像識別問題中，攻擊者將對抗樣本輸入機器學習模型，讓機器在視覺上產生幻覺，從而讓系統產生誤判。依賴于數據的機器學習算法、深度學習算法本身存在很大的缺陷。對抗性生成網絡，則利用這種缺陷，設計新的架構去生成模型。目前的機器學習嚴重依賴于數據的分布，如果數據分布本身很復雜，或者是人為地把它變得復雜，黑客如果有手段去生成惡意的樣本，就會導致識別不出來，或者識別錯誤。
如果干擾被用在無人駕駛領域，后果則不堪設想。比如，在無人駕駛測試路段德國A9高速公路上，有專門的標識引導無人駕駛車。如果路邊的標識被惡意修改，誤導依賴標識的無人駕駛車，則會造成極度危險的情況。因為算法本身的缺陷，在大規模使用人工智能之后，網絡安全則需要更換思路，設計新的方法。增加分析端的可解釋性、降低算法復雜度、信息安全情報的共享或將解決這些算法上的缺陷。