第五屆亞洲消費(fèi)電子展（CES ASIA）于2019年6月11-13日在中國(guó)上海新國(guó)際博覽中心（SNIEC）舉行，聚焦邊緣人工智能計(jì)算的科技創(chuàng)業(yè)公司地平線受邀參展。12日上午，地平線聯(lián)合創(chuàng)始人&副總裁黃暢作為AI領(lǐng)域的資深專家，受邀在 CES 主論壇發(fā)表主題演講，分享其對(duì)人工智能時(shí)代邊緣計(jì)算趨勢(shì)的洞察并深度解讀地平線的“AI on Horizon, Journey Together”戰(zhàn)略。
地平線聯(lián)合創(chuàng)始人&副總裁黃暢
黃暢表示，普惠AI時(shí)代，邊緣計(jì)算將成為破解AI物聯(lián)網(wǎng)核心難題的關(guān)鍵。全球知名咨詢公司 Gartner于2018年8月首次正式提出了普惠AI時(shí)代的主張。這意味著人工智能這項(xiàng)新技術(shù)已經(jīng)不僅局限于政府或?qū)嶒?yàn)室，開(kāi)始邁進(jìn)了普惠大眾的階段，進(jìn)入各個(gè)行業(yè)創(chuàng)造價(jià)值。然而機(jī)遇與挑戰(zhàn)并存，隨著AI的發(fā)展，數(shù)據(jù)量級(jí)和復(fù)雜度急劇增長(zhǎng)。據(jù)國(guó)際 IDC 數(shù)據(jù)公司（IDC）白皮書(shū)《數(shù)據(jù)時(shí)代2025》預(yù)測(cè)，2025年，超過(guò)25%的數(shù)據(jù)將成為實(shí)時(shí)數(shù)據(jù)，其中95%生產(chǎn)自 IoT 終端，并且絕大部分不能直接創(chuàng)造價(jià)值，需要經(jīng)過(guò)計(jì)算來(lái)提煉；而2025年全球數(shù)據(jù)總量的20%將直接關(guān)乎人們的日常生活乃至生存安危。
因此，分布式AI計(jì)算勢(shì)在必行。在通用性高的領(lǐng)域交付于云上完成，與生命安全、隱私保護(hù)密切相關(guān)的領(lǐng)域則由端進(jìn)行處理。而邊緣計(jì)算將成為端上指數(shù)級(jí)爆炸數(shù)據(jù)的過(guò)濾器與控制閥，經(jīng)過(guò)有效處理之后，只需提取少量有效數(shù)據(jù)傳回云端即可。隨著 5G 商用開(kāi)啟，終端接入網(wǎng)的擴(kuò)容極大，實(shí)時(shí)性要求進(jìn)一步提升，但因?yàn)楣歉删W(wǎng)擴(kuò)容成本高、延遲大，導(dǎo)致在邊緣側(cè)形成數(shù)據(jù)堰塞湖。Intel 曾表示：MEC（多接入邊緣計(jì)算）不一定需要 5G，但 5G 一定需要 MEC。有了邊緣計(jì)算的加持，5G 的商業(yè)價(jià)值才能真正得以發(fā)揮。邊緣計(jì)算帶來(lái)的是商業(yè)范式的轉(zhuǎn)移，是一次從軟件到硬件的全新變革。端邊云協(xié)同，未來(lái)，人們需要在一個(gè)更大的范圍內(nèi)尋找AI解決方案的最優(yōu)解。
另一方面，普惠AI時(shí)代的背后是數(shù)據(jù)計(jì)算帶來(lái)的巨大能源消耗。能源是支持一個(gè)社會(huì)運(yùn)轉(zhuǎn)的重要生產(chǎn)資料、物質(zhì)資料。指數(shù)級(jí)的數(shù)據(jù)增長(zhǎng)不知不覺(jué)間給社會(huì)造成了巨大的負(fù)擔(dān)。以中國(guó)為例，今天，數(shù)據(jù)中心耗電驚人，據(jù)《中國(guó)數(shù)據(jù)中心能耗現(xiàn)狀白皮書(shū)》顯示，在中國(guó)有40萬(wàn)個(gè)數(shù)據(jù)中心，每個(gè)數(shù)據(jù)中心平均耗電25萬(wàn)度，總體超過(guò)1000億度，這相當(dāng)于三峽和葛洲壩水電站1年發(fā)電量的總和。如果折算成碳排放的話，大概是9600萬(wàn)噸，這個(gè)數(shù)字接近目前中國(guó)民航年碳排放量的3倍。這是一個(gè)巨大的數(shù)字。隨著時(shí)代向前推進(jìn)，數(shù)據(jù)的處理量只會(huì)增，不會(huì)減。從工業(yè)時(shí)代的用電量，到數(shù)字經(jīng)濟(jì)時(shí)代的用云量，再到AI經(jīng)濟(jì)時(shí)代，要考慮的是“用算量”。追求極致效能，這不僅僅是出于利益考量，也成為了AI企業(yè)的社會(huì)責(zé)任。
當(dāng)前的業(yè)界存在一個(gè)很大的誤區(qū)，往往會(huì)把峰值算力當(dāng)作衡量AI芯片的主要指標(biāo)。但其實(shí)真正需要的是有效算力，及其輸出的算法性能。這需要從四個(gè)維度來(lái)衡量：每瓦的峰值算力和每美元的峰值算力（由芯片架構(gòu)、前后端設(shè)計(jì)和芯片工藝共同決定），峰值算力的有效利用率（由算法和芯片架構(gòu)決定），以及有效算力轉(zhuǎn)化為AI性能的比率（主要是速度和精度兩個(gè)方面，由算法決定）。之前業(yè)界普遍采用 Resnet 這樣的模型，但今天采用類似 MobileNet 這樣更加精巧設(shè)計(jì)的小模型，可以用1/10的算力達(dá)到相同的精度和速度。這些精巧設(shè)計(jì)的算法給計(jì)算架構(gòu)帶來(lái)了巨大的挑戰(zhàn)，往往使得傳統(tǒng)設(shè)計(jì)的計(jì)算架構(gòu)的有效利用率大幅下降，從最終的AI性能角度來(lái)說(shuō)，甚至得不償失。
地平線的最大特點(diǎn)，是對(duì)重要應(yīng)用場(chǎng)景中，關(guān)鍵算法的發(fā)展趨勢(shì)進(jìn)行預(yù)判，前瞻性地將其計(jì)算特點(diǎn)融入到計(jì)算架構(gòu)的設(shè)計(jì)當(dāng)中，使得AI處理器經(jīng)過(guò)一兩年的研發(fā)，在推出的時(shí)候，仍然能夠很好地適應(yīng)最新的主流算法。因此，和其他典型的AI處理器相比，地平線的AI處理器，隨著算法的演進(jìn)趨勢(shì)，始終能夠保持相當(dāng)高的有效利用率，從而真正意義上受益于算法創(chuàng)新帶來(lái)的優(yōu)勢(shì)。
掌握了算法和計(jì)算架構(gòu)，地平線還具備了巨大的潛能。而編譯器，則能夠?qū)⑦@兩者聯(lián)合起來(lái)進(jìn)行極致優(yōu)化，釋放出所有的潛能。舉一個(gè)實(shí)際的例子，在沒(méi)有優(yōu)化的情況下，峰值算力的有效利用率是34%；但經(jīng)過(guò)編譯器對(duì)指令序列進(jìn)行優(yōu)化之后，這個(gè)數(shù)值被提升到了85%。這使得芯片的處理速度，提升了2.5倍，或者說(shuō)，處理相同多的任務(wù)，功耗降低到40%。
順勢(shì)而為，用未來(lái)重要應(yīng)用場(chǎng)景中的關(guān)鍵算法發(fā)展趨勢(shì)，來(lái)指導(dǎo)地平線AI芯片的架構(gòu)設(shè)計(jì)，首重效率，兼顧靈活，這是地平線一直以來(lái)的設(shè)計(jì)理念 -- 極致的AI能效是地平線在產(chǎn)品上始終如一的理想和追求。
極致的AI能效是地平線在產(chǎn)品上始終如一的理想和追求
而在面向客戶的實(shí)際合作案例中，地平線的方案也充分展示了賦能客戶的能力。L4級(jí)別自動(dòng)駕駛的視覺(jué)感知的解決方案中有12個(gè)360度的攝像頭、4個(gè)魚(yú)眼、以及8個(gè)常規(guī)60度攝像頭，能夠覆蓋車周邊360度的場(chǎng)景，做分割、檢測(cè)、和車道線等各種各樣的視覺(jué)感知技術(shù)。客戶開(kāi)始選擇了 GPU 方案，發(fā)現(xiàn)就算把 GPU 塞到車?yán)?，功耗與制冷都成為了巨大的問(wèn)題。地平線基于自主研發(fā)的征程處理器方案卻能將功耗降低到3W，且完全可以用量產(chǎn)的方式對(duì)車輛進(jìn)行部署，解決了客戶的痛點(diǎn)。
另外，地平線選擇開(kāi)發(fā)工具鏈+開(kāi)放平臺(tái)，多層次開(kāi)放賦能。地平線不僅會(huì)提供基礎(chǔ)開(kāi)發(fā)工具，完成從數(shù)據(jù)到模型的轉(zhuǎn)換過(guò)程，還會(huì)將范疇拉開(kāi)，提供AI的平臺(tái)級(jí)工具。AI從技術(shù)演示到商業(yè)落地的路徑很長(zhǎng)，將AI解決方案集成到客戶的產(chǎn)品中，賦能并成就客戶，對(duì)大部分公司來(lái)說(shuō)，存在不低的門檻。所以，為降低方案被集成的難度，地平線設(shè)計(jì)出一整套包含數(shù)據(jù)、訓(xùn)練、部署在內(nèi)的算法開(kāi)發(fā)流程，并開(kāi)發(fā)出一套全棧式的AI平臺(tái)工具用來(lái)高效地支撐這套開(kāi)發(fā)流程。甚至提供大量?jī)?yōu)秀的算法模型和原型系統(tǒng)，作為參考樣例提供給客戶。通過(guò)這些工具和樣例，客戶可以照貓畫(huà)虎，快速地進(jìn)行產(chǎn)品所需的算法開(kāi)發(fā)，并持續(xù)迭代，由淺入深地進(jìn)行全方位地調(diào)優(yōu)，探索客戶自己在數(shù)據(jù)和算法方面的獨(dú)特價(jià)值。
地平線的全棧AI平臺(tái)工具鏈，包括數(shù)據(jù)、訓(xùn)練和設(shè)備部署工具。它們形成了閉環(huán)，能夠高效地運(yùn)作起來(lái)，數(shù)據(jù)產(chǎn)生模型，模型可以被部署到設(shè)備上運(yùn)行，運(yùn)行過(guò)程中又可以指導(dǎo)模型的調(diào)優(yōu)，甚至收集新的數(shù)據(jù)。這樣的一種開(kāi)發(fā)模式，可以提升開(kāi)發(fā)速度，降低開(kāi)發(fā)門檻，保證開(kāi)發(fā)質(zhì)量。地平線當(dāng)前的評(píng)估結(jié)果顯示，它可以減少約30%的開(kāi)發(fā)人力，節(jié)省50%的開(kāi)發(fā)時(shí)間，更重要的是，因?yàn)殚_(kāi)發(fā)門檻被降低，開(kāi)發(fā)者的規(guī)模甚至可以擴(kuò)大一個(gè)數(shù)量級(jí)。
地平線會(huì)持續(xù)對(duì)開(kāi)發(fā)工具進(jìn)行升級(jí)，為客戶提供半自動(dòng)化的處理流程，這里包括：數(shù)據(jù)工具與模型，模型與端上設(shè)備之間的閉環(huán)迭代；豐富的模型/系統(tǒng)參考原型，簡(jiǎn)潔易用直觀方便的交互手段；標(biāo)準(zhǔn)化開(kāi)發(fā)流程，加上持續(xù)的測(cè)試，集成，部署機(jī)制。
不久前，地平線創(chuàng)始人&CEO 余凱公布了“AI on Horizon, Journey Together”的戰(zhàn)略。在目前這樣一個(gè)能源消耗巨大的AI時(shí)代，地平線以其自身特有的優(yōu)勢(shì)及服務(wù)理念，為客戶提供高性價(jià)比和易被繼承的產(chǎn)品，友好的開(kāi)發(fā)工具及參考樣例、先進(jìn)的計(jì)算架構(gòu)、前沿的算法支持和優(yōu)質(zhì)的服務(wù)。以開(kāi)放賦能客戶為本，快速滿足不同客戶需求是地平線AI平臺(tái)服務(wù)客戶的宗旨，力圖節(jié)省更多的開(kāi)發(fā)時(shí)間，節(jié)約更多的開(kāi)發(fā)人員，也讓越來(lái)越多的企業(yè)參與到人工智能開(kāi)發(fā)的環(huán)境中來(lái)，打造良好的生態(tài)基礎(chǔ)平臺(tái)。
AI on Horizon，地平線黃暢CES ASIA暢談邊緣計(jì)算發(fā)展趨勢(shì)
目前，地平線在智能駕駛和 AIoT 領(lǐng)域已成功賦能多個(gè)行業(yè)合作伙伴，包括地平線高精建圖與定位方案賦能 SK 電訊，終端完整語(yǔ)音方案賦能小愛(ài)音箱、車載多音區(qū)交互技術(shù)賦能理想 ONE 車內(nèi)智能交互、工地安全帽檢測(cè)等等，并積極參與 AI生態(tài)建設(shè)，加入了 96boards 等生態(tài)社區(qū)聯(lián)盟，加速AI賦能。
