不止Googlevs.Nvidia：深度學習引領AI芯片大戰
AI前線導讀：2017年，AI芯片是半導體產業的亮點，而它受到的關注又遠遠超出半導體的圈子。這一年，從科技巨頭到初創公司，新老角色輪番登場，為我們上演了精彩好戲。若干年后，當我們再回頭來看，一定可以把2017年作為AI芯片元年。
GoolevsNvidia巨頭之間的錯位戰爭
四月初，Google公布了一篇即將在ISCA2017上發表的論文：In-DatacenterPerformanceAnalysisofaTensorProcessingUnit。可以說正是這件小事，揭開了一部年度大戲的序幕，而它產生的深遠影響甚至可能會持續到很多年之后。其實，在2016年6月的時候Google就透露了自己研發了一款在云端使用的專用AI芯片，TPU（TensorProcessingUnit）。Google做AI芯片當然是吸引眼球的新聞，但苦于一直沒有公布細節，大家也只能猜測和等待。因此，這篇普通的學術論文，得到了媒體的極大關注。我也在第一時間寫了一篇評論文章：GoogleTPU揭秘，也是我的公眾號閱讀量最大的文章之一。對TPU高度關注的當然不只我們這些吃瓜群眾，還有AI芯片領域絕對的統治者Nvidia。后面就發生了黃教主和Google間關于TPU的Benchmark結果是否合理的口水戰。而早在2016年Google透露TPU的時候，Nvidia就多次表示它對GPU在AI運算上的統治地位沒有什么威脅。
5月11日，m.twshmhelmet.com，NvidiaGTC2017大會，黃教主在Keynote上拋出了最新的GPUVolta（GV100）。Nvidia股票應聲大漲，媒體也是大肆報道。AI芯片的焦點似乎又回到了Nvidia這一邊。
除了公布了重量級的Volta，GTC上還有一個小事件，Nvidia宣布開源它的DeepLearningAccelerator（DLA），9月正式公開。這個發布，在黃教主的Keynote中是一句話帶過，但在業界引起的震動卻一點也不小。Nvidia為什么要搞開源？會開源什么東西？這個開源會不會影響眾多初創公司的前景？對這些問題的討論一直延續到NVDLA真正開源之后。
沒過多久，5月17日，在GoogleI/O大會上，Google公布了第二代TPU，用媒體的話說stoleNvidia’srecentVoltaGPUthunder。雖然TPU2的細節公布的并不多，但指標確實看起來很不錯，而且具有非常好的可擴展性。唯一的遺憾就是它并不對外銷售，只能以TPUCloud的方式供大家使用。
9月下旬，JeffDean這位Google的軟件大神參加了HotChip這個芯片界的重要會議，并在KeynoteRecentAdvancesinArtificialIntelligenceviaMachineLearningandtheImplicationsforComputerSystemDesign也親自介紹了TPU和TPU2的情況，把它們作為新的計算生態中重要的一環。
9月底，NVDLA在承諾的最后期限之前開源了NVDLA的部分硬件代碼，同時公布了未來開源更多硬件和軟件的路線圖。這之后，大家對NVDLA也做了各種分析和討論，試圖把它玩起來。從目前來看，NVDLA的開源好像并沒有影響眾多初創公司的融資。這個話題我們后面再說。至于Nvidia開源DLA的原因，官方的說法是讓更多人可以更容易的實現Inference，促進AI的推廣，特別是在眾多嵌入式設備上的應用。但從整個開源的過程來看，這個開源的決定似乎是比較倉促的。DLA來自Nvidia自動駕駛SoC中的一個module，最初并不是以開源IP為目的而設計的。而且9月的開源也只公開了一部分硬件代碼和相應的驗證環境，離真正能用起來也還是有較大差距。我們不好判斷這個開源的決定是否和GoogleTPU（在Inference上有比較大的優勢）的強勢亮相有關系。但基本的推測是，在DeepLearning中Nvidia的核心利益應該在于Training（目前GPU還是training的最好平臺）。讓Inference門檻更低，滲透到更多應用，特別是Edge端，從而進一步促進Training的需求，應該是符合它的最大利益的。而且NVDLA的軟件環境還是使用Nvidia的CUDA/TensorRT，還是由Nvidia掌控的。
這場從一篇論文開始，幾乎貫穿了2017年全年的Google和Nvidia的明爭暗斗，對業界的影響可能要遠遠超過這兩家公司本身。我之所以把它稱為錯位的戰爭，是因為它發生在Google這樣的傳統的軟件巨頭和Nvidia這樣的芯片巨頭之間。如果換成IntelvsNvidia，似乎是再正常不過的。Google的參戰，也許是開啟了新的時代。我們可以看到，不僅是TPU，Google在10月又公布了他們在GooglePixel2手機中使用的定制SoCIPU（ImageProcessingUnit）。和Apple越來越多的自己定制芯片一樣，Google這樣的科技巨頭同樣有應用（明確知道自己要什么），技術（對相關技術的多年積累），資源（不缺錢，不缺人）上的優勢，定制自己的硬件，甚至芯片會變得常態化。同時我們也看到，GoogleTPU的示范效應已經顯現，更多的科技巨頭加入AI加速硬件的競爭。Tesla宣布自己定制自動駕駛芯片；Amazon，Microsoft，以及國內的BAT，華為都在Cloud中提供專門的FPGA加速的支持；據稱BigFive中還有在自己開發芯片的；BAT也都在組建芯片設計的團隊，等等。雖然大家具體的架構和實現方式不同，但都反映出對AI專用硬件的極大興趣。相信未來這一趨勢會越來越明顯。
同時，傳統的芯片巨頭當然不會坐視這個巨大的市場被Nvidia主宰或者被Google們瓜分。Intel連續收購了Nervana（云），Movidius（端），Mobileye（自動駕駛），Altera（FPGA），又把AMD的RajaKudori（GPU）招至帳下，甚至還搞了Loihi（nueromorphic），可以說拿了一手好牌；雖然動作沒有大家想象的那么快，但后面的發力還是值得期待的。AMD也在努力追趕，畢竟他們的CPU+GPU有自己絕活，而整個公司也已經逐漸走出了低谷。而且，不管Tesla和AMD合作自動駕駛芯片的消息到底是真是假，芯片公司這種輸出芯片設計能力的模式也是一種不錯（或者無奈）的選擇。
以DeepLearning為代表的新型計算模式將引領未來芯片的發展方向，這一觀點基本已經是大家的一個共識。越來越多的玩家會關注能夠支持新型計算的芯片，其中很多可能之前完全不在半導體這個圈子，也完全不了解芯片是怎么回事。2017年我們不時能看到一些對比CPU，GPU，FPGA和ASIC架構的科普文章，甚至有10W+的閱讀量，不難看出大家的熱情。
初創公司長長的list
2017的AI芯片大戲中，主角不僅是巨頭，初創公司也都粉墨登場，戲份一點兒都不遜色。更重要的，在初創公司的表演中，中國公司不僅毫不怯場，而且非常出彩。我從8月份開始在github上維護一個AI芯片的列表，既包括大公司的產品，又包括初創公司的情況。到12月，這個列表中的信息越來越多，世界范圍內的初創公司有30多家。而且這個列表還只包含了公開信息，還有很多公司處在stealth狀態并沒有收錄。我也聽到一個說法，在AI芯片領域的初創公司可能超過了100家，在TSMC排隊投片也有30家。