前段時間，一些視頻在網上廣泛傳播。有人在1994年電視劇《射雕英雄傳》中使用人工智能技術，將黃蓉一角的扮演者朱茵換成了楊冪，效果幾可亂真；還有人將人工合成的“美國前總統奧巴馬”放在境外社交媒體上，吐糟現任總統特朗普是“徹頭徹尾的笨蛋”。
人們看了之后，大多當做網絡段子一笑而過，但仔細想想的話，如果你的臉也被用來制作假視頻、假新聞，你還能笑得出來嗎？
實際上，人工智能技術的濫用和因算法漏洞引起的安全問題，已經引起了業內人士的高度警覺，一場看不見硝煙的“攻防戰”，m.twshmhelmet.com，正日趨白熱化。
危險逼近
人工智能正深刻地改變著人們的生產生活方式，但今年以來，利用人工智能技術造假的新聞屢見報端，也引發了越來越多的公眾關注。
“公眾對人工智能技術抱有希望和想象，相信它能為生活的方方面面帶來改變，但我們也應當正視，當前人工智能技術還處在比較初步的發展階段，還面臨著一些挑戰。”清華大學教授、該校人工智能研究院基礎理論研究中心主任朱軍坦言。
冰凍三尺非一日之寒。早在幾年前，學術界和產業界已經感受到危機在悄悄逼近。
“這幾年在各種各樣的學術會議上，我們能聽到越來越多關切的聲音，有關人工智能安全的論文也是呈指數級增長。”瑞萊智慧（RealAI）公司CEO田天說。該公司是清華大學人工智能研究院重點孵化的一家高新技術企業。
人工智能濫用也已引起國家有關部門高度關注。5月28日，國家互聯網信息辦公室發布了《數據安全管理辦法（征求意見稿）》，其中明確表示，KUKA機器人維修，網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息。
除了技術的濫用，人工智能本身存在的算法漏洞也令人擔憂。幾個月前，比利時魯汶大學的研究人員發布了一則視頻，實驗者通過在肚子上貼一張打印出來的圖片，就能夠逃脫智能監控系統的識別，實現“隱身”；而想要把“隱身術”傳給同伴也很簡單，只要把這張紙遞給他就好了。
“可以設想，如果這項技術被犯罪分子掌握，他們就能夠很容易躲避智能安防系統，給公共安全帶來極大威脅。”田天說。
“道”高一尺必先“魔”高一丈
2019年6月，清華大學人工智能研究院揭牌成立，以“一個核心、兩個融合”作為發展戰略，即以人工智能基礎理論和基本方法研究為核心，積極推進大跨度的學科交叉融合，積極推進大范圍的技術與產業、學校與企業融合。
該研究院院長、中國科學院院士張鈸認為，作為研究性機構，清華大學人工智能研究院的本分是搞好學術研究，“但是人工智能又與應用結合相當緊密，因此研究院不僅僅是開開會，我們的研究一定要產生出算法、孵化出新產業，甚至成為人工智能界的‘BAT’”。
在這一思路的指引下，瑞萊智慧應運而生，其核心研發團隊來自清華大學、北京大學、中科院等，致力于打造安全、可靠、可解釋的第三代人工智能，提供工業檢測、預測性維護、金融風控、人工智能系統安全評測與防護等服務。
“在技術層面，人工智能安全會是一個持續攻防的過程。”田天說，“攻擊者會采用新的方法來進行攻擊，而防御者也需要適應動態變化的攻擊場景。如果要占據主動權，就要對未來可能潛在的攻防場景做預演，并為應對潛在的風險提前設計可行方案。”
瑞萊智慧算法科學家蕭子豪介紹，他們很早就關注到網上假視頻、假圖片的問題，一直在想能否利用清華積累的技術優勢，去防止人工智能技術的濫用。
但是，想練就一副“火眼金睛”，就需要大量高質量的數據去訓練計算機。
近期，瑞萊智慧將工作的重點放在了換臉假視頻的檢測上，研發團隊利用清華大學人工智能研究院在深度生成模型方面的積累，通過生成更加逼真的假視頻，訓練出了一個更加可靠的模型來檢測假視頻。經測試，這一模型的識別準確率超過了99%，能夠覆蓋市面上絕大多數換臉技術生成的假視頻，達到了“真的不誤殺，假的不漏判”的目標。
打開“黑盒”
張鈸在2016年中國計算機大會上提出了“后深度學習時代的人工智能”，機器人維修，此后又進一步提出了“第三代人工智能”的概念，曾引起廣泛關注。
這是因為當前主流的基于深度學習的人工智能技術即第二代人工智能，存在著一個難以逾越的“天花板”，業內人士稱之為“黑盒”。
“當前人工智能的算法越來越復雜，它告訴你明天要下雨，但是你完全不知道它是怎么做的決策，又談何信賴呢？”田天坦言，如果被人利用，“黑盒”將帶來嚴重的安全問題。
魯汶大學的“隱身術”原理其實就是針對這種算法漏洞，專門生成一些噪點，來誘導人工智能識別出錯。
瑞萊智慧也做了類似的嘗試。技術人員研發了一種帶有噪點的“眼鏡”，只要戴上，就能通過商用智能手機的刷臉解鎖。
多年來，清華大學人工智能研究院一直在攻防技術上深耕，曾在谷歌公司組織的“對抗樣本攻防競賽”上獲得了所有任務的冠軍。創辦瑞萊智慧后，研發團隊利用新技術做了更精確的建模，更加深入地研究如何利用白盒的替代模型來攻擊黑盒的受害模型。通過發現真實存在的、危害更大的漏洞，團隊進一步有針對性地設計防御算法來提升整個人工智能系統的安全性。
今年5月，清華大學人工智能研究院與瑞萊智慧聯合發布了人工智能安全平臺——“RealSafe對抗攻防平臺”，它能夠提供多種攻擊與防御算法，開展全面、細致的攻擊防御算法的評測與比較。此外，通過該平臺，研究人員可以很容易地開展人工智能安全方面的學習和實訓，幫助更多的人來關心和研究人工智能安全。
“隨著人工智能技術滲透到人們生活的各個方面，因技術濫用、算法漏洞等導致的安全問題也隨之而來。對此，公眾需要提高自我保護意識。”田天呼吁。