每日最新頭條.有趣資訊

光子AI芯片可替代高端FPGA芯片,但工具鏈製約著產業化

hello,大家好!我們新開設“五問五答”欄目,旨在通過問答精選的形式,幫助更多人解決困惑。

智東西公開課的每場直播,分為主講、官方問答與自由問答三個環節,共計90分鐘。每場直播講解,除了例行的官方問答外,很多專業用戶在講解過程中,尤其是在自由問答環節,提出了不少自己在工作或學習中遇到的困惑。每個主講導師也都認真地進行了回答。問與答的過程,是非常有價值的探討,也是實用性很強的指導。

每期“五問五答”,都將摘選單場公開課直播中5個專業用戶的問題,以及主講導師的解答。第1期“五問五答”的問題與解答,均來自於光子算數CEO白冰主講的《光子AI芯片架構創新與技術挑戰》這場公開課,也是AI芯片設計系列課第一講。

感謝清華大學光傳感系統和光子神經網絡博士研究生臧裕斌、中國電子工程設計院高級工程師沈潔、骨魚科技CEO劉東峰、中興通訊技術合作總監王建立、海康威視工程師郝揚的提問。

主講導師

白冰

光子算數CEO

北京交通大學電子工程學院博士研究生,研究方向包括矽基光子集成器件、非線性光學材料、板卡級光電異構計算架構、光電混合神經網絡模型等,參與承擔多項國家自然科學基金項目,申請相關專利12項。

1

清華大學光傳感系統和光子神經網絡博士研究生臧裕斌:

1.從實現算法的複雜度、可重構性以及片上可訓練的角度來說光神經網絡目前都不是電神經網絡的對手,那麽做光神經網絡的意義和優勢何在呢?

2.除了用光子器件結構擬構NN的運算結構,現在這一領域水庫計算算法也做的較為火熱,不知演講者對這一領域持何種看法?光AI芯片的未來是屬於前者還是後者?此外,光AI結構一定要集成於芯片之上嗎?

白冰博士:(1)目前光神經網絡僅用於雲端推理,追求的是低功耗,並不做訓練。同時它有很高的可重構性,與FPGA進行異構處理時,是用FPGA在對非線性計算和網絡結構上進行分可重構,光的部分是由很多個小矩陣陣列組成,可進行靈活的矩陣配置。

(2) 需要介紹一下水庫計算。水庫計算又稱儲備池計算,用於解決循環神經網絡。傳統上我們用光完成的是前傳矩陣的部分,而循環的網絡結構是通過電的控制實現的。但在本質上,如果能在全光內完成循環計算將會取得更好的效果。

目前我們對儲備池計算也有一定的研究。儲備池計算是一個用光作環路,並把得到的數據與之後做的數據進行光脈衝交疊來完成計算,等於用光來充當緩存的過程。

另外,儲備池計算在通信中非常重要,可以用於進行傳輸計算一體化(傳算一體)。具體來說,以前光纖通過收發芯片連接到基地台上,把光信號通過接收芯片轉化成電信號傳給基地台,再用基地台中的DSP處理器進行後續信號的分析和處理;

而現在的方案是,我們將光學計算芯片加到光纖與接收芯片之間(與接收芯片集成在一起),這就相當於把計算域往前移,把本應該在基地台內部電域處理的矩陣(如傅裡葉變換)放到光域來完成。這樣一來,就能直接將從遠距離光纖(如上海到北京)來的信號在光學計算芯片上進行變換處理,完成了一部分的計算工作。

光本身是無源、低功耗、高速度的,其本身也沒有電光轉換的過程,因此這樣處理後,再把它給接收芯片轉化成電信號,在這個階段中,DSP內只需要完成一小部分後續處理即可。這是屬於儲備池計算的一個主要應用,同時它是面向時序的,對直接接受這種光信號的場景也會非常好。我們把這叫做“傳算一體”。

2

中國電子工程設計院高級工程師沈潔:

1.矽光子芯片與波導模式有關嗎?

2.在AI神經網絡計算中,矽光子集成度能達到多少,集成度與電子芯片有優勢嗎?

3.是否涉及光子的量子效應、非線性效應的影響,如何克服這些影響?

白冰博士:(1)是有關的,目前我們也正使用基模進行計算,但後期會有高階模,例如在實現全加器時會涉及到一些高階模。

(2)事實上,矽光子的集成度與電子芯片的集成度是無法直接比較,而要比的應該是部門功耗裡所提供的算力及部門成本。由於矽光子本身是無源計算,具備低功耗、加工製程低、價格便宜等特點,從這些方面來說是具有優勢的,這也是我們一般評估的指標。

(3)首先,矽光子芯片並不涉及量子效應,已經落地的方案,是用已有的光通信基本單元去拚系統,而在波長和其他方面都不會進行如此調整,這樣的目的是讓它快速落地,將優化放在之後。

其次對於非線性效應,目前我們在進行相關的工作,比如矽基微環,利用泵浦光去做激活,相當於把一部分非線性也用光來處理。再比如PD(光電二極管),其本身是一個光電轉換器,在一些區間也是非線性的,同樣也可以用來作為激活函數。

3

骨魚科技CEO劉東峰:

1.光子芯片最基本的運算單元是什麽?傳統半導體芯片,是與或非門,光子芯片,是不是也需要構成這樣的門電路,或者說波導?

2. 對於光子芯片的設計,與傳統半導體芯片的設計,有什麽不同?

3. 光線折射和衍射,會有損耗,光子芯片如何解決這個問題?

白冰博士:(1)基本單元例如有MZ干涉儀、分束器、波分複用器、模式轉換器等,都是傳統光通信芯片裡面用的器件,實際上通過通訊的方法來映射它的計算過程。

(2)與傳統半導體芯片設計相比不同的是,在設計上它是一個模擬器件,而對於目前的模擬器件而言,除了用PDK,有些部分是需要進行憑借經驗的手繪。

(3)對於折射和衍射損耗來說,評估到整體上的損耗在2到4dB/cm,但對於片上系統來說這並不是很重要的問題。

4

中興通訊技術合作總監王建立:

1.光子AI芯片目前能達到多少算力?功耗與傳統芯片相比,能改進多少?

2.當前光子AI芯片產業化的瓶頸在哪兒?

白冰博士:(1)實際上,目前光子AI芯片的算力是與FPGA進行對比的,在雲端上以同樣的算力基本上可以達到三到四分之一的功耗,這樣可以替代一些高端的FPGA芯片。

(2)對於光子AI芯片產業化的瓶頸,我們認為這是一個工具鏈的問題,當光子AI芯片與FPGA進行異構時,其控制部分完全是在FPGA內完成,我們可以通過調度FPGA來調度光子AI芯片,它與FPGA一樣,面臨著工具鏈的問題。

與GPU相比,它的性能和功耗都有比較明顯的優勢,但目前需要按照項目去推進,比如在進行項目遷移時,需要的是底層的編程人員,而這方面的人才卻是非常難找的,這也是光子AI芯片產業化存在的瓶頸所在。在之後具有足夠的資金後,我們會開發AI層面的工具鏈。

5

海康威視工程師郝揚:

光電異構計算用寬度替代深度,這樣是否足夠?

白冰博士:我們現有的光電混合板卡是面向現有的一些算法,主要都是一些深度網絡。對網絡結構來說,層數足夠多和層寬度很大效果是一樣的,但是後者對於並行線性計算要求會更高,這跟光計算的物理過程匹配。

另外,非線性計算可以由線性計算在局部做近似擬合,這樣可以進一步減少光計算機件無法加速的非線性部分。

獲得更多的PTT最新消息
按讚加入粉絲團