每日最新頭條.有趣資訊

全球首個光子AI芯片原型問世 比最先進的電子芯片快了100倍

近日,麻省理工學院團隊背景的光子 AI 芯片公司Lightelligence對外宣布了一項重要進展——成功開發出世界第一款光子芯片原型板卡(Prototype)。

對於這家成立一年半的公司,這款芯片原型的誕生,驗證了團隊部分成員在 2017 年發表在Nature Photonics期刊上的開創性想法——用光子代替電子來進行 AI 計算。但是在那個時候,他們在實驗室開發的整個光子計算系統佔據了半個實驗室。

(來源:Lightelligence)

在視頻演示中,團隊在這個原型產品上成功用光子芯片運行了Google Tensorflow 自帶的卷積神經網絡模型來處理MNIST 數據集。這是一個使用計算機視覺識別手寫數字的基準機器學習模型,也是機器學習中最著名的基準數據集之一。測試中,整個模型超過 95% 的運算是在光子芯片上完成的處理,測試結果顯示,光子芯片處理的準確率已經接近電子芯片(97%以上),另外光子芯片完成矩陣乘法所用的時間是最先進的電子芯片的 1/100 以內。

Lightelligence CEO沈亦晨對 DeepTech 表示,公司計劃將該光子芯片提供給一些合作方、潛在客戶進行測試,目前國外已經有谷歌、FaceBook、AWS級別,國內 BAT 級別的客戶與 Lightelligence 接洽。

他透露,儘管這款芯片還不是公司真正意義上的第一款商業化產品,在性能上也還有很大的提升空間,但卻是對團隊開發完整光子AI芯片系統可行性的一個重要驗證。

圖丨這款原型正在運行 MNIST(來源:Lightelligence)

沈亦晨表示,在接下來的幾十年中,對於 AI 算法尤其是機器學習算法的計算需求仍將大幅增加,但與此同時,我們回過頭看過去幾年計算硬體的發展,其演進速度正變得越來越慢,“從光子學的角度來看,我意識到,對於一些最基本的算法以及機器學習任務來說,光子可能是最佳的計算平台。在我的博士生涯中,我用一個項目簡單地證明了這個概念性質的設想,現在,Lightelligence 的成立正在將這個設想從學術研究帶到真實世界”。

“我們從硬體到軟體做出了一套可以運行的系統,原則上,它可以運行任何神經網絡系統,它也是就我們所知世界上第一台完全獨立的光學計算 AI 加速器(stand alone optical AI accelerator)。Lightelligence 現在發布這款芯片原型想傳達的另一個信息是,光學計算不再是一個“Science Project”,而是一個已經接近於產品化的技術”,他說。

圖丨 Lightelligence CEO沈亦晨,MIT 物理學博士,因其從光學計算的獨特角度切入 AI 芯片入選 2017 年《麻省理工科技評論》“35 歲以下科技創新 35 人”中國區榜單(來源:麻省理工科技評論)

越來越近的光學計算

光學計算並不是一個全新的概念。

作為一種完全不同於電子計算的技術,光學計算以光子為信息處理載體,依賴光硬體而非電子硬體,以光運算代替電運算,擅長快速並行處理高度複雜的計算任務,但它一直沒找到合適的應用場景,且受限於傳統分離式光學器件光場調控手段單一、光學設計體積龐大的缺點,光學計算一直都停留在實驗室階段。

近幾年,電子計算愈發受製於摩爾定律,信息技術載體的存儲密度與運算速度的提升愈發力不從心,讓一部分人將目光從“電”轉向了速度更快、能耗更低的“光”。

(來源:麻省理工科技評論)

尤其是基於人工神經網絡算法的深度學習系統的流行。不同於通用芯片所運行的邏輯運算,深度學習系統的大部分時間都花在低精度的矩陣乘法運算上,而密集的矩陣乘法運算,正是人工智能算法中最耗時間和功率的。

目前 AI 加速芯片都是基於電子運算的,但在結合電子計算所有前沿技術的基礎上,光子芯片可以來執行AI 計算裡最重要的兩個步驟:記憶體到計算單元的數據傳輸以及矩陣運算本身。這兩個方面光子芯片具有獨特優勢。

由此,光子 AI 芯片的概念應運而生,利用光子來做矩陣乘法運算,在功耗降低和速度提升上前景可期,很可能帶來光學計算有史以來最大的機會。

Lightelligence 成立的目的,就是從光子芯片這個全新的角度來切入 AI 加速。

“對產業界來說,這可能開啟了一個全新的方向,而且它的發展速度遠遠高於電子運算。”沈亦晨說。

(來源:Nature Photonics)

2016 年,沈亦晨還在 MIT 做博士後,他所在的研究團隊打造了首個光學計算系統。該成果於 2017 年以封面文章的形式發表在頂級期刊Nature Photonics雜誌上,其基於硬體和算法有著雙重創新:在硬體上,光干涉儀作為基本的矩陣運算單元有效取代了傳統電子晶體管;在算法上,團隊開發了一系列在不犧牲性能條件下有效降低深度學習計算量、並適應於光子芯片的算法。

當時,國際著名光學科學家、史丹佛大學終身正教授 David Miller, 曾專門在 Nature 雜誌上撰文評價沈亦晨團隊的光學 AI 芯片的研究成果,稱“這一系列的研究成果極大地推動了集成光學在未來取代傳統電子計算芯片的發展。”

那篇論文可以說在全球範圍內啟發更多人投入到光子 AI 芯片的開發中,帶來這一成果的 MIT 團隊已經誕生出 Lightelligence 和 LightMatter 兩家公司。

現在,Lightelligence 團隊正在全力研發光子芯片的相關技術,包含芯片設計、核心算法、傳輸、周邊等,欲打造一個完整的光學計算生態。全球包括 Lightelligence 在內也已經有 5~6 個團隊正在進行相關的研發及商業化,其中還不乏中國團隊。儘管各家公司的目標都不盡相同,從已經公布的產品進度來看,作為全球首個光子 AI 芯片的公司,Lightelligence仍將是最值得關注的公司之一。

(來源:Lightelligence)

以 Lightelligence 此次發布的芯片原型為例,和 2017 年的首個光學計算系統相比,其最大的改進就體現在計算效率的提升、軟體環境和集成程度的成熟上。

Lightelligence 團隊本身擁有一系列獨立自主知識產權,包括光學器件設計、光學系統集成和深度學習算法的核心技術,在設計這款芯片的過程中,團隊在這幾個方面的技術儲備得到了驗證。

在開發的過程中,提升運算速度和改善尺寸的工作是交叉進行的。據沈亦晨介紹,原來實驗室版本的機器集成度比較低,它的控制單元沒有集成在板卡上。現在這款芯片原型的集成度大大提高,隨著集成程度的提高,運算速度也大大提升。

而且開發上的主要任務不只是集成度方面的工作,還包括高速信號的控制。對於光子計算機來說,其中比較重要也比較難的一點就是,當信號傳輸速度很快的時候,如何讓信號達到比較精確的強度。

最終,團隊用了近一年半的時間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學計算領域也是前所未有的。

(來源:Lightelligence)

而除了前文提到的 MNIST 圖像識別任務以外,這款芯片原型還可以運行其他的計算任務,團隊同時也提供軟體支持,與谷歌的 Tensorflow,Facebook 的 Caffe2 和 Pytorch 常用框架中的算法兼容。

沈亦晨表示:“團隊希望任何通用的基於線性運算的算法都可以在光子 AI 芯片上運行,Lightelligence 生產的是一款通用的 AI 芯片,同時我們也會自研更適合在光子芯片上運算的算法,後期我們會發布相關的算法上的進展。”

未來,光子 AI 芯片的發展能否引領算法開發上加大矩陣計算比重的“硬體定義軟體”風潮,亦值得觀察。

3 年內推出第一款量產產品,面向伺服器

目前,Lightelligence 成立已經一年半時間,團隊的技術進展並不完全體現在這次發布的芯片原型裡,沈亦晨說,其實團隊早在半年以前就已經著手開發下一代芯片了,“我們的下一款芯片將會在性能上徹底顛覆現有的電子同類產品”。

基於光子 AI 芯片速度快、損耗少、算力高、成本低的這些特點,很多面臨性能瓶頸的深度學習場景將是這款產品大展身手的方向。因此,在應用場景上,沈亦晨設想 Lightelligence 的第一款產品將面向伺服器和自動駕駛

“第一款光子 AI 芯片的產品定位不是低端市場,我們的競爭力不是價格和尺寸大小,而是同一塊板卡的性能,針對這個優勢我們的應用場景確定為以上兩個市場。”沈亦晨說。他曾提到,電子芯片的生態鏈條非常完善,整個產業已經達到數以十億、百億計的規模。和電子芯片的完善的生態鏈條不同,光子芯片還在剛剛起步的階段,這也決定了其產品可能沒辦法短期內進入到輕量級、個人級的應用中。

未來的汽車工業很可能是光子 AI 芯片的最重要市場之一,例如,以 Lidar 技術所需要的大量光源和光探測器來說,光子 AI 芯片有望提供一個低成本、低功耗的解決方案。不過,自動駕駛的市場仍比較小,Lightelligence 仍會先從伺服器市場切入,然後過渡到自動駕駛中。

(來源:Lightelligence)

現在,在融資上,Lightelligence 已於 2017 年底獲得包括百度風投和真格基金在內的超過 1000 萬美元的風險投資,團隊規模也從最初麻省理工學院出來的三人團隊發展到了二十多人全職團隊,成員背景包括麻省理工學院、哥倫比亞大學、佐治亞理工大學、北京大學和加州大學伯克利分校等。團隊也吸引了很多業界專業人士加入,最引人注目的恐怕就是Gilbert Hendry 和 Maurice Steinman了。

Gilbert Hendry 博士畢業於哥倫比亞大學,曾在谷歌和微軟工作過5年,並且主持開發過多款機器學習產品,現在是Lightelligence的軟體部負責人及機器學習首席工程師。Maurice Steinman是Lightelligence的工程副總裁,加入Lightelligence之前曾任AMD 首席芯片架構師,並主持開發了AMD用於高通量信息傳輸的旗艦產品infinity fabric, 有超過30年的豐富的半導體行業經驗。

圖丨Gilbert Hendry (來源:Lightelligence)

圖丨Maurice Steinman(來源:Lightelligence)

但必須承認,光子 AI 芯片整體依然仍處於非常早期的階段,光子 AI 芯片公司面臨的落地風險和技術挑戰並不比其他 AI 芯片公司的小。但是,人類在追求更高程度的機器智能過程中,對芯片計算能力的需求只會不斷增加,光子 AI 芯片有希望能夠彌補電子芯片的不足,在一些特殊的計算領域超過電子芯片。

有意思的是,許多人了解到光子 AI 芯片和光學計算之後,更感興趣的不是其與電子計算的比較,反而好奇光子計算和量子計算有什麽區別,兩者哪一個將更快改變產業現狀。

和量子計算相比,光子計算發展的時間短,投入研發的人力也相對較少,聽起來是一個更為小眾的領域。但光子計算對算力的提升不一定亞於量子計算,而且在技術實現上,其製造流程可兼容目前的 CMOS 工藝,在量產難度上遠低於量子計算,更容易與現有的計算周邊生態進行配合,可說是目前發展的次世代計算架構中,最有機會實現普及量產目標的一個。

-End-

關注 DeepTec發現改變世界的新興科技(微信號:deeptechchina)

獲得更多的PTT最新消息
按讚加入粉絲團