前幾年的“人工智能熱”讓大小廠商陸續(xù)跳入AI芯片的研發(fā)大軍中，而當(dāng)這股潮水褪去，當(dāng)初的50多家公司大多數(shù)都黯然退出歷史舞臺(tái)，如今只剩10家左右。AI芯片的風(fēng)口已然過(guò)去。據(jù)艾瑞咨詢發(fā)布的2019年《AI芯片行業(yè)研究報(bào)告》指出，目前AI芯片行業(yè)接近Gartner技術(shù)曲線泡沫頂端，只有通過(guò)市場(chǎng)檢驗(yàn)和篩選的優(yōu)質(zhì)團(tuán)隊(duì)才能夠繼續(xù)獲得產(chǎn)業(yè)、政策和資本的青睞與支持。

　　隨著AI芯片進(jìn)入深水區(qū)，人們更關(guān)注的不再是單純的算力，還有對(duì)應(yīng)用落地和商業(yè)化的支持：進(jìn)入了哪些場(chǎng)景？合作了哪些客戶？有沒(méi)有軟硬一體化方案？是否已經(jīng)有實(shí)際案例？……“AI落地難”已成行業(yè)共識(shí)，浮華過(guò)后，AI芯片接下來(lái)將進(jìn)入市場(chǎng)檢驗(yàn)真理的階段。

　　AI芯片為何落地難？

　　首先，我們來(lái)看下當(dāng)前AI芯片的格局。目前市面上AI芯片主要分為云端AI芯片與終端AI 芯片，云端AI芯片主要部署在大型服務(wù)器中，可支持圖像、語(yǔ)音等不同類(lèi)別的AI 應(yīng)用；終端芯片則被放在音箱、攝像頭等硬件設(shè)備中。由于云端芯片起步較早，且所需要協(xié)同的CPU/GPU等硬件成本投入規(guī)模高，該領(lǐng)域已被英偉達(dá)、Intel等巨頭瓜分殆盡；國(guó)內(nèi)一眾AI從業(yè)者大多選擇發(fā)力在終端芯片領(lǐng)域，如自動(dòng)駕駛、安防、零售、智能硬件等。但AI芯片終端市場(chǎng)細(xì)分化、碎片化、應(yīng)用場(chǎng)景不明確也是一大難題。

　　至于AI芯片落地難的原因可能有無(wú)數(shù)個(gè)。例如，芯片研發(fā)比AI語(yǔ)言的更迭速度慢，當(dāng)芯片面市時(shí)，其采用的AI語(yǔ)言可能已經(jīng)過(guò)時(shí)了。這種問(wèn)題首先體現(xiàn)在量產(chǎn)，但歸根結(jié)底，缺乏殺手級(jí)應(yīng)用場(chǎng)景才是最致命的。AI芯片廠商高投入研發(fā)過(guò)后，卻不知道自己的產(chǎn)品要賣(mài)給哪些客戶或者說(shuō)應(yīng)用到哪些產(chǎn)品上，無(wú)法找到可持續(xù)性的落地場(chǎng)景。

　　地平線的聯(lián)合創(chuàng)始人兼副總裁黃暢表示，缺乏殺手級(jí)應(yīng)用使得現(xiàn)有的AI芯片大多沒(méi)有清晰的定位，無(wú)法高度優(yōu)化PPA。做半導(dǎo)體的都知道PPA有多么重要，尤其是Performance。AI芯片需要針對(duì)應(yīng)用場(chǎng)景進(jìn)行設(shè)計(jì)，以此來(lái)指導(dǎo)研發(fā)調(diào)整優(yōu)化方向，引導(dǎo)客戶進(jìn)行正確選擇，同時(shí)能夠促進(jìn)行業(yè)有序協(xié)同向前發(fā)展。

　　再者，用戶接受度也不高，AI應(yīng)用所需要的數(shù)據(jù)閉環(huán)難以形成。需要明確的是，AI應(yīng)用開(kāi)發(fā)模式與傳統(tǒng)軟件開(kāi)發(fā)流程不同，傳統(tǒng)軟件開(kāi)發(fā)可清晰定義功能，通過(guò)編程就能實(shí)現(xiàn)；而AI應(yīng)用則要通過(guò)示例（數(shù)據(jù)）來(lái)定義功能再進(jìn)行開(kāi)發(fā)，需要形成數(shù)據(jù)閉環(huán)，且自動(dòng)迭代。

　　“AI是一個(gè)全新領(lǐng)域，AI芯片需要支撐的不僅是AI計(jì)算，更要面向場(chǎng)景，實(shí)現(xiàn)完整的功能。芯片公司多年的積累不是主要矛盾，其主要矛盾是如何將軟硬件結(jié)合起來(lái)，開(kāi)發(fā)出一個(gè)高效能、低功耗、低成本，同時(shí)能夠又快又準(zhǔn)的完成自主機(jī)器人的任務(wù)。AI芯片的成功不止于將ISP調(diào)的好，能夠看清楚；也不是將傳統(tǒng)的語(yǔ)音算法做的更精進(jìn)，更不是說(shuō)一個(gè)傳統(tǒng)的車(chē)規(guī)芯片公司把CPU和DSP升級(jí)成一個(gè)NPU，AI芯片沒(méi)有那么簡(jiǎn)單?！秉S暢如是說(shuō)。

　　在紛繁復(fù)雜的碎片化終端市場(chǎng)中，最需要什么樣的AI芯片？黃暢認(rèn)為：“需要的是能極致優(yōu)化PPA的AI芯片，這個(gè)PPA的提升需是數(shù)量級(jí)的，要能適應(yīng)未來(lái)數(shù)年的算法演進(jìn)，同時(shí)充分考慮算法發(fā)展，從而能真正替代GPU?！?/p>

　　但黃暢也告訴半導(dǎo)體行業(yè)觀察記者，目前AI芯片也有其可取之處，例如，大多數(shù)AI芯片的工具鏈都能對(duì)場(chǎng)景深度學(xué)習(xí)框架有比較好的支持，也培養(yǎng)了一些開(kāi)發(fā)者，在開(kāi)發(fā)成本上有一定的降低，減少了對(duì)于Cuda之類(lèi)的編程生態(tài)的依賴。

　　誰(shuí)來(lái)定義AI芯片的“好壞”？

　　都說(shuō)AI芯片難落地，客戶難評(píng)判，那么一款A(yù)I芯片的“好壞”究竟如何來(lái)評(píng)估呢？是TFLOPS？是TOPS？還是MLPerf？AI芯片界好像依然沒(méi)能找到完美體現(xiàn)真實(shí)性能的衡量標(biāo)準(zhǔn)。

　　為何這么說(shuō)？目前業(yè)界慣常使用的芯片評(píng)測(cè)標(biāo)準(zhǔn)有兩種，一是峰值算力，但這只反映AI芯片理論上的最大計(jì)算能力，而非在實(shí)際AI應(yīng)用場(chǎng)景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測(cè)試組織MLPerf，但其采用的模型少且更新速度滯后于算法演進(jìn)的速度，無(wú)法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度，因而無(wú)法描述芯片AI性能的全貌。

　　針對(duì)當(dāng)前AI芯片評(píng)測(cè)中存在的問(wèn)題，地平線提出MAPS（Mean Accuracy-guaranteed Processing Speed）評(píng)測(cè)方法，針對(duì)應(yīng)用場(chǎng)景的特點(diǎn)，在精度有保障的前提下，包容所有與算法相關(guān)的選擇，評(píng)估芯片對(duì)數(shù)據(jù)的平均處理速度。為行業(yè)提供一個(gè)評(píng)估芯片AI性能的全新視角。

　　“評(píng)估芯片AI性能，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’?！?/p>

　　黃暢介紹說(shuō)：“MAPS評(píng)測(cè)方法，能關(guān)注真實(shí)的用戶價(jià)值，將每顆芯片在‘快’和‘準(zhǔn)’這兩個(gè)關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來(lái)，并在合理的精度范圍內(nèi)，評(píng)估芯片的平均處理速度。這個(gè)方法具有可視化和可量化的特點(diǎn)?！?/p>

　　MAPS 聚焦“快”和“準(zhǔn)”兩個(gè)關(guān)鍵評(píng)測(cè)維度，用最優(yōu)幀率精度所圍面積直接體現(xiàn) AI 芯片的最強(qiáng)能力

　　按照黃暢的說(shuō)法，這個(gè)全新的MAPS評(píng)估方式對(duì)行業(yè)來(lái)說(shuō)有六大創(chuàng)新之處：

　　第一，它將芯片的Benchmark通過(guò)圖形變得可視化，表達(dá)更精準(zhǔn)；

　　第二，該方式關(guān)注真實(shí)、面向結(jié)果的需求，只在乎精度和速度，不在乎中間任何關(guān)于算法的取舍和選擇；

　　第三，可以統(tǒng)一表示精度與速度，關(guān)注主流精度區(qū)間；

　　第四，隱藏與最終結(jié)果無(wú)關(guān)的中間變量，包括模型、輸入大小、批處理的量是多大；

　　第五，通過(guò)MAPS評(píng)估方法可以在算力之外幫助用戶理解這個(gè)芯片到底能跑多快以及多好；

　　第六，留有最大的空間引導(dǎo)客戶使用最優(yōu)的方式使用某一顆芯片，這一點(diǎn)非常重要，是去真正指導(dǎo)客戶使用這個(gè)芯片的最佳實(shí)踐。

　　芯片是個(gè)生態(tài)系統(tǒng)，單獨(dú)依靠一家之力是玩不轉(zhuǎn)的。地平線的MAPS評(píng)估標(biāo)準(zhǔn)最重要的意義是讓行業(yè)能夠形成一種合力，讓大家更好的協(xié)同，不管你是買(mǎi)方還是賣(mài)方，大家都有一個(gè)相對(duì)清晰的目標(biāo)，容易形成共識(shí)、形成協(xié)力，這樣才好健康地去推動(dòng)整個(gè)行業(yè)往前發(fā)展。黃暢表示。

　　AI芯片花開(kāi)兩朵：“旭日”東升，“征程”萬(wàn)里

　　有了好的評(píng)估標(biāo)準(zhǔn)之后，AI產(chǎn)業(yè)向好，經(jīng)歷過(guò)大風(fēng)大浪的AI芯片，最終將落在哪些場(chǎng)景中呢？作為一家以“為客戶提供的智能化價(jià)值”的人工智能公司，地平線將其AI芯片的種子灑向了AIoT和自動(dòng)駕駛航道，花開(kāi)兩朵，同心向陽(yáng)。

　　“做AI芯片需要企業(yè)有很強(qiáng)的洞察力，要在三五年前找到落腳點(diǎn)，以創(chuàng)造真實(shí)的價(jià)值為導(dǎo)向，本著長(zhǎng)期主義的精神堅(jiān)持不懈的走下去?！秉S暢談到。

　　自動(dòng)駕駛被看作是AI芯片的殺手級(jí)應(yīng)用的潛力市場(chǎng)，近年來(lái)伴隨智能駕駛滲透率的提升，全球芯片巨頭也在紛紛向汽車(chē)這個(gè)產(chǎn)業(yè)靠攏。汽車(chē)AI芯片市場(chǎng)未來(lái)仍是各大巨頭競(jìng)爭(zhēng)角逐之地。目前在AI自動(dòng)駕駛方面，國(guó)外的英偉達(dá)、英特爾、特斯拉，國(guó)內(nèi)的華為、地平線、寒武紀(jì)以及芯馳科技等一眾廠商都在深耕這個(gè)領(lǐng)域。

　　地平線是中國(guó)最早進(jìn)入AI芯片領(lǐng)域的人工智能企業(yè)。2015年，在國(guó)內(nèi)AI芯片仍未進(jìn)入大眾視野時(shí)，地平線公司成立，率先提出軟硬結(jié)合的BPU芯片架構(gòu)；2017年，發(fā)布中國(guó)第一款邊緣AI芯片：旭日一代和征程一代；2018年，征程芯片助力國(guó)際頂尖Robotaxi車(chē)隊(duì)；2019年，宣布正式量產(chǎn)中國(guó)首款車(chē)規(guī)級(jí)AI芯片征程2。

　　這幾年，地平線在商業(yè)化的道路上越走越穩(wěn)。就拿征程2 來(lái)說(shuō)，該產(chǎn)品可全方位實(shí)現(xiàn)車(chē)內(nèi)場(chǎng)景化感知，并基于感知結(jié)果為用戶提供更精準(zhǔn)的智能推薦以及智能車(chē)控等服務(wù)。

　　今年3月份，地平線征程2登陸長(zhǎng)安UNI-T前裝量產(chǎn)，使長(zhǎng)安UNI-T成為首款搭載國(guó)產(chǎn)人工智能芯片的智能汽車(chē)，而且也讓它走在了世界前列，成為全球首款智能人機(jī)交互SUV。

　　眾所周知，車(chē)載AI芯片是人工智能行業(yè)的珠穆朗瑪，也是自動(dòng)駕駛實(shí)現(xiàn)大規(guī)模落地的前提。車(chē)規(guī)級(jí)芯片產(chǎn)品的開(kāi)發(fā)周期長(zhǎng)、難度大，是硬科技、長(zhǎng)跑道的創(chuàng)新。在汽車(chē)芯片如此高標(biāo)準(zhǔn)以及長(zhǎng)供貨周期、與主機(jī)廠長(zhǎng)久的合作關(guān)系下，汽車(chē)芯片一旦能夠量產(chǎn)，其供應(yīng)格局相對(duì)來(lái)說(shuō)就較為穩(wěn)定。

　　雖然，相比市場(chǎng)前景更大、場(chǎng)景更為復(fù)雜的自動(dòng)駕駛，地平線在AIoT領(lǐng)域的聲量較小，但其重視程度絲毫不差。據(jù)了解，其旭日系列芯片所服務(wù)的客戶已過(guò)百家。去年發(fā)布的旭日2的表現(xiàn)也相當(dāng)亮眼，在旭日2上的實(shí)際測(cè)試結(jié)果表明，分類(lèi)模型 MobileNet V2 的運(yùn)行速度超每秒 700 張圖片，實(shí)際性能能夠達(dá)到甚至超過(guò)業(yè)內(nèi)標(biāo)稱(chēng) 4TOPS 算力的 AI 芯片。

　　在AIoT領(lǐng)域，地平線堅(jiān)持底層技術(shù)能力研發(fā)與解決方案的打造，加速普惠 AI 時(shí)代到來(lái)；在開(kāi)發(fā)者生態(tài)方面，地平線則通過(guò)工具鏈服務(wù)降低開(kāi)發(fā)者門(mén)檻，助力上層應(yīng)用產(chǎn)生，以此豐富整個(gè) AIoT 應(yīng)用生態(tài)，用行業(yè)的力量推動(dòng)行業(yè)。目前，地平線已攜手上百家 AIoT合作伙伴為產(chǎn)業(yè)提供賦能服務(wù)，實(shí)現(xiàn)線下場(chǎng)景服務(wù)數(shù)千萬(wàn)人口。

　　結(jié)語(yǔ)

　　自去年旭日2的發(fā)布，又經(jīng)過(guò)近一年的商業(yè)化落地和技術(shù)錘煉，面向AIoT市場(chǎng)的旭日3正呼之欲出。在此，想劇透下，此前，地平線有在ImagetNet模型上進(jìn)行了一項(xiàng)MAPS測(cè)試，下圖中有一顆地平線即將推出的芯片，在與表現(xiàn)最優(yōu)的標(biāo)稱(chēng)11.4TOPS峰值算力的AI芯片對(duì)比中，新的芯片雖然在高精度上稍有劣勢(shì)，但在追求速度和低延遲等場(chǎng)景中會(huì)有不俗的表現(xiàn)。9月9日上午，“地平線”盡頭將再次升起一輪“旭日”！

　　ImageNet圖像分類(lèi) 75~80.5%精度范圍內(nèi)， MAPS 評(píng)估方式下的主流芯片測(cè)試結(jié)果（右一折線為地平線最新一代芯片測(cè)試結(jié)果）