3月9日，由智能行業第一媒體和產業服務平台智東西主辦的“GTIC 2018 全球AI芯片創新峰會”在上海召開，本次大會以“走進AI世界 從芯看未來”為主題，邀請到32名重磅嘉賓到場分享，從上遊產業鏈、到炙手可熱的創業項目、再到各領域在AI芯片推動下的產業更新新思考，系統地探討AI芯片在2018年的技術前景和產業趨勢。

本次峰會上，國內AI芯片行業四小龍之一的深鑒科技,其聯合創始人兼CEO姚頌，以“AI芯片行業新思維”為演講主題，並分享了自己對整個AI芯片行業的思考。以下是智東西為您整理的姚頌演講核心乾貨。

怎樣定義AI芯片

本次峰會是關於AI芯片的峰會，但是到底怎樣的芯片才能稱為AI芯片？一開場，姚頌先從現在大家談論的不同的AI範圍就從這一問題說起：“AI是一個相當寬泛的概念，到底該如何定義AI芯片呢？這裡面隱含著一個邏輯，現在當我們說到AI的時候，其實指的只是AI中機器學習的那一部分；當我們現在說機器學習時，大部分指的又是其中深度學習的那一部分；而目前流行的神經網絡算法也只是深度學習中的一部分”。

無論是深度學習還是機器學習，又都分為訓練側和推理側，兩個獨立部分。在神經網絡中又會有VGG網絡、ResNet-50網絡等分類，在這些網絡之上又會有SSD、Faster R-CNN等面向對象的框架。所以當大家談到AI的時候，首先要明確具體指的是哪一層面。今天，我們談到AI時，更多地指的是機器學習和深度學習。

在對人們所說的AI的範圍進行了梳理後，姚頌進一步指出對AI不同的定義，則會造成整個芯片設計的不同，難易程度也會不同，針對機器學習等高層級的設計理念，其通用性則越強，針對某種特定的神經網絡開發的芯片，其專用性則越強。如果是想做具有高品質通用性能的芯片，比如設計CPU這樣的芯片，是相當困難的事情。如果是要做最簡單的芯片，則只需要先把算法做好，再把算法硬化到芯片上，這是最容易設計和實現的一個思路。因此，姚頌認為從設計層面上來看，大部分AI芯片的設計比CPU 、GPU等通用芯片更容易設計。

對此，姚頌還舉出目前市面上所出現的，針對不同層級AI定義的芯片的例子。比如國外的芯片巨頭如ARM將CPU上添加神經網絡加速庫、NVIDA的針對AI訓練側的GPU、Xilinx的FPGA、針對深度學習推理側的TPU V1、把自動駕駛算法寫到芯片上的Mobileye Eye Q5 、Intel CPU 、Movidius DSP 等都是針對不同層級的AI芯片。國內方面也有不少企業在AI芯片上取得了進展，其針對的AI層級也有所不同，如寒武紀面向更通用的機器學習市場的Cambricon MLU 、 深鑒科技自家的DeePhi DPU則更加關注深度學習層面、地平線的Horizon Journey更專注於面向行業的算法。因此，姚頌總結到：“當你聽到一個公司在做AI芯片時，首先需要弄清楚其芯片是針對哪一個AI層級的”。

做AI芯片需要哪些工作

在明確了不同層級的AI定義層級後，姚頌繼續深入到一家做AI芯片的企業需要做哪些工作。姚頌說做AI芯片並不像大家想的僅僅做個芯片這麽簡單，他以做CPU為例給出了從應用到最終系統的八個層次。

姚頌以壓縮應用為例進行了詳細解釋：在這八個層級的最上層是應用，無論是zip還是rar等格式的壓縮應用，其下層都包含著一系列的算法和庫。而這些算法和庫的開發和建立，是需要為所有的程式員和開發者提供一個可用於開發的軟體環境，比如微軟Windows裡的Visual Studio就是這樣一個環境。而軟體環境的建立則需要下一層級的作業系統、驅動程式和編譯程式的支持，比如Visual Studio裡的MSVC，就可將程式編譯到最終指令。比如CPU上的X86指令集，就是一個很通用的指令集，可將上層應用和下層芯片需要做的事很好的割裂開。

有了指令集後，芯片的核心架構就可定義出來了，再往下的層級芯片公司可選擇做或者不做，比如ARM做的就是IP授權，而英特爾做的就是芯片本身。再往下的層級就是芯片本身的實現，是製作板卡還是做SoC。對於做CPU的公司，中間兩層即指令集和IP是最重要的，以這一層往上和往下都有兩個相對明確的邊界，對於做CPU的公司來說向上和向下的層級可選擇不做。

但對於做AI芯片的公司來說，該如何來劃定這兩條邊界呢？姚頌作為資深AI芯片設計者，給出了自己的理解。首先，對於AI芯片來說，其設計是針對不同用戶的，因此指令集各異，芯片上跑的各項需求也各異，這些具有針對性和差異性的指令集對於AI芯片公司來說是需要自己開發的。

芯片底層的程式和應用算法也是天差地別的，姚頌以做人臉識別算法為例，他說更多的程式員會選擇用Python和C編寫程式，有些還需要改動作業系統內核等，而做這些之前必須要把上層的設計環境做好。姚頌繼續指出，打底層設計的人和做應用的人是相互割裂的。但對於AI芯片公司來說，是不是做到IP這個層面就夠了，要不要把芯片做出來，要不要進一步做稱板卡的形式？如果再往上走，算法要不要做出來？姚頌說對於AI芯片來說，將算法做出來也是可以的，因為用戶使用AI芯片來進行算法開發也需要一定的時間。比如英偉達做自動駕駛芯片，就將最終系統到應用一整套都做出來了，所以對於芯片公司來說，決定上下兩條劃分線到底該劃到哪個層級，是相當重要的問題。

怎樣建構產品的護城河

在擁有了一款性能非常好的芯片，並在市場上有了一定的競爭力之後，AI芯片公司該怎樣構建產品的護城河呢？

姚頌說到，AI芯片公司最終的目的無非是讓更多的用戶使用自家的產品，而這裡可拆解成三個部分：1、產品要有競爭力；2、要讓用戶接觸到你的產品，並願意使用；3、產品要剛好滿足用戶需求。姚頌更是提到不做到這三點產品是很難有長期的競爭力的。

從用戶對產品的體驗來說，姚頌也提出分為四個層級：第一層能用，處於這一層級的AI芯片可以滿足運行機器學習算法，這就表示這塊芯片能用了；第二層好用，當一塊AI芯片的性能功耗比已經很高，隨後又有了相應的完整的軟體開發工作流，能夠讓大家把這些軟體在芯片上使用起來，這就是好用；第三層愛用，如果一款芯片的操作非常簡單，可以傻瓜式的一鍵開發，用戶就會愛用了；第四層離不開它，要相處於這一層級，芯片公司就需要為客戶提供額外的價值，比如為用戶提供一個平台，其上有大堆的開源項目，可供用戶進行參考設計。

在構建產品護城河時，最重要的基礎部分就是硬體，硬體良好的性能功耗比將支持功能更多的軟體功能，這需要不同層級間進行組合。比如安防行業，如果像大華這樣的公司接了項目後，中間需要有集成商進行集成，比如將影片管理軟體、IP攝影頭集成到芯片系統上。如果想把AI加入到攝影頭中，其實只需要將添加一個具有AI功能的模組，在這個模組裡面是芯片和各種模組嵌入式軟體。通過調整集成中各軟硬體的連接串口，模組逐漸趨於穩定，再通過開發環境用戶就可將集成後的系統使用起來。

在進行層級組合的時候，姚頌提到有兩件事對於AI芯片公司來說很重要：一是提供的層級，離客戶越近總收入就越高，離最終客戶越遠分到的錢就越少；二是芯片設計每跨越一個層級，開發周期就會增加6個月到一年，這是一個非常長的開發時間。

想要構建起產品的護城河，還有一個重要的點就是增加產品的不可替代性？對此姚頌也分享了自己的觀點，他認為有五點需要AI芯片研發公司注意：1、在芯片設計時候，明確知道最終用戶的需求；2、縮短開發周期，將芯片開發的難度降到最低；3、將芯片集成到系統中，使其運行更加簡單；4、盡可能減少第三方的協作5、為用戶提供更多的參考設計。

對於為用戶提供更多的參考設計，姚頌提到了一些自己的想法：一是盡可能往應用層走，多了解一些應用；二是花更多的精力為用戶提供便捷使用的軟體，盡可能提供算法和庫。三是盡可能多地提供垂直行業裡需要的算法框架。四是盡可能地提供系統級方案，而不是單一的芯片。五是盡可能構建生態環境，讓大家能夠看到更多的用戶生成的內容。

結語：軟體&系統是AI芯片的重要競爭力

最後，姚頌總結到，一款好的AI芯片產品需要精確的算法加上針對整個垂直行業的全系統，他化用愛迪生“天才是百分之一的靈感加百分之九十九的汗水”的名言說，“研發出芯片本身只是完成了整個AI芯片的1%，對於AI芯片的開發者來說還有99%的髒活累活要做”。

在這些髒活累活中，AI芯片的開發者們不僅要多關注垂直行業的應用，以此定義系統和芯片架構，更要多關注終端用戶，為他們提供更多的服務。

當然，站在AI芯片行業從業者的角度，姚頌也指出了關於AI芯片公司定位非常重要的一點：每家AI芯片公司都需要成為一家軟體&系統公司，這樣才能在市場競爭中取得優勢。