地平線黃暢CES ASIA暢談邊緣計算發展趨勢

2019-06-14 13:06 來源:美通社 作者:Angelina

第五屆亞洲消費電子展(CES ASIA)于2019年6月11-13日在中國上海新國際博覽中心(SNIEC)舉行,聚焦邊緣人工智能計算的科技創業公司地平線受邀參展。12日上午,地平線聯合創始人&副總裁黃暢作為AI領域的資深專家,受邀在 CES 主論壇發表主題演講,分享其對人工智能時代邊緣計算趨勢的洞察并深度解讀地平線的“AI on Horizon, Journey Together”戰略。

2495659-1-a

地平線聯合創始人&副總裁黃暢

黃暢表示,普惠AI時代,邊緣計算將成為破解AI物聯網核心難題的關鍵。全球知名咨詢公司 Gartner于2018年8月首次正式提出了普惠AI時代的主張。這意味著人工智能這項新技術已經不僅局限于政府或實驗室,開始邁進了普惠大眾的階段,進入各個行業創造價值。然而機遇與挑戰并存,隨著AI的發展,數據量級和復雜度急劇增長。據國際 IDC 數據公司(IDC)白皮書《數據時代2025》預測,2025年,超過25%的數據將成為實時數據,其中95%生產自 IoT 終端,并且絕大部分不能直接創造價值,需要經過計算來提煉;而2025年全球數據總量的20%將直接關乎人們的日常生活乃至生存安危。

因此,分布式AI計算勢在必行。在通用性高的領域交付于云上完成,與生命安全、隱私保護密切相關的領域則由端進行處理。而邊緣計算將成為端上指數級爆炸數據的過濾器與控制閥,經過有效處理之后,只需提取少量有效數據傳回云端即可。隨著 5G 商用開啟,終端接入網的擴容極大,實時性要求進一步提升,但因為骨干網擴容成本高、延遲大,導致在邊緣側形成數據堰塞湖。Intel 曾表示:MEC(多接入邊緣計算)不一定需要 5G,但 5G 一定需要 MEC。有了邊緣計算的加持,5G 的商業價值才能真正得以發揮。邊緣計算帶來的是商業范式的轉移,是一次從軟件到硬件的全新變革。端邊云協同,未來,人們需要在一個更大的范圍內尋找AI解決方案的最優解。

另一方面,普惠AI時代的背后是數據計算帶來的巨大能源消耗。能源是支持一個社會運轉的重要生產資料、物質資料。指數級的數據增長不知不覺間給社會造成了巨大的負擔。以中國為例,今天,數據中心耗電驚人,據《中國數據中心能耗現狀白皮書》顯示,在中國有40萬個數據中心,每個數據中心平均耗電25萬度,總體超過1000億度,這相當于三峽和葛洲壩水電站1年發電量的總和。如果折算成碳排放的話,大概是9600萬噸,這個數字接近目前中國民航年碳排放量的3倍。這是一個巨大的數字。隨著時代向前推進,數據的處理量只會增,不會減。從工業時代的用電量,到數字經濟時代的用云量,再到AI經濟時代,要考慮的是“用算量”。追求極致效能,這不僅僅是出于利益考量,也成為了AI企業的社會責任。

當前的業界存在一個很大的誤區,往往會把峰值算力當作衡量AI芯片的主要指標。但其實真正需要的是有效算力,及其輸出的算法性能。這需要從四個維度來衡量:每瓦的峰值算力和每美元的峰值算力(由芯片架構、前后端設計和芯片工藝共同決定),峰值算力的有效利用率(由算法和芯片架構決定),以及有效算力轉化為AI性能的比率(主要是速度和精度兩個方面,由算法決定)。之前業界普遍采用 Resnet 這樣的模型,但今天采用類似 MobileNet 這樣更加精巧設計的小模型,可以用1/10的算力達到相同的精度和速度。這些精巧設計的算法給計算架構帶來了巨大的挑戰,往往使得傳統設計的計算架構的有效利用率大幅下降,從最終的AI性能角度來說,甚至得不償失。

地平線的最大特點,是對重要應用場景中,關鍵算法的發展趨勢進行預判,前瞻性地將其計算特點融入到計算架構的設計當中,使得AI處理器經過一兩年的研發,在推出的時候,仍然能夠很好地適應最新的主流算法。因此,和其他典型的AI處理器相比,地平線的AI處理器,隨著算法的演進趨勢,始終能夠保持相當高的有效利用率,從而真正意義上受益于算法創新帶來的優勢。

掌握了算法和計算架構,地平線還具備了巨大的潛能。而編譯器,則能夠將這兩者聯合起來進行極致優化,釋放出所有的潛能。舉一個實際的例子,在沒有優化的情況下,峰值算力的有效利用率是34%;但經過編譯器對指令序列進行優化之后,這個數值被提升到了85%。這使得芯片的處理速度,提升了2.5倍,或者說,處理相同多的任務,功耗降低到40%。

順勢而為,用未來重要應用場景中的關鍵算法發展趨勢,來指導地平線AI芯片的架構設計,首重效率,兼顧靈活,這是地平線一直以來的設計理念 -- 極致的AI能效是地平線在產品上始終如一的理想和追求。

2495659-1-b

極致的AI能效是地平線在產品上始終如一的理想和追求

而在面向客戶的實際合作案例中,地平線的方案也充分展示了賦能客戶的能力。L4級別自動駕駛的視覺感知的解決方案中有12個360度的攝像頭、4個魚眼、以及8個常規60度攝像頭,能夠覆蓋車周邊360度的場景,做分割、檢測、和車道線等各種各樣的視覺感知技術。客戶開始選擇了 GPU 方案,發現就算把 GPU 塞到車里,功耗與制冷都成為了巨大的問題。地平線基于自主研發的征程處理器方案卻能將功耗降低到3W,且完全可以用量產的方式對車輛進行部署,解決了客戶的痛點。

另外,地平線選擇開發工具鏈+開放平臺,多層次開放賦能。地平線不僅會提供基礎開發工具,完成從數據到模型的轉換過程,還會將范疇拉開,提供AI的平臺級工具。AI從技術演示到商業落地的路徑很長,將AI解決方案集成到客戶的產品中,賦能并成就客戶,對大部分公司來說,存在不低的門檻。所以,為降低方案被集成的難度,地平線設計出一整套包含數據、訓練、部署在內的算法開發流程,并開發出一套全棧式的AI平臺工具用來高效地支撐這套開發流程。甚至提供大量優秀的算法模型和原型系統,作為參考樣例提供給客戶。通過這些工具和樣例,客戶可以照貓畫虎,快速地進行產品所需的算法開發,并持續迭代,由淺入深地進行全方位地調優,探索客戶自己在數據和算法方面的獨特價值。

地平線的全棧AI平臺工具鏈,包括數據、訓練和設備部署工具。它們形成了閉環,能夠高效地運作起來,數據產生模型,模型可以被部署到設備上運行,運行過程中又可以指導模型的調優,甚至收集新的數據。這樣的一種開發模式,可以提升開發速度,降低開發門檻,保證開發質量。地平線當前的評估結果顯示,它可以減少約30%的開發人力,節省50%的開發時間,更重要的是,因為開發門檻被降低,開發者的規模甚至可以擴大一個數量級。

地平線會持續對開發工具進行升級,為客戶提供半自動化的處理流程,這里包括:數據工具與模型,模型與端上設備之間的閉環迭代;豐富的模型/系統參考原型,簡潔易用直觀方便的交互手段;標準化開發流程,加上持續的測試,集成,部署機制。

不久前,地平線創始人&CEO 余凱公布了“AI on Horizon, Journey Together”的戰略。在目前這樣一個能源消耗巨大的AI時代,地平線以其自身特有的優勢及服務理念,為客戶提供高性價比和易被繼承的產品,友好的開發工具及參考樣例、先進的計算架構、前沿的算法支持和優質的服務。以開放賦能客戶為本,快速滿足不同客戶需求是地平線AI平臺服務客戶的宗旨,力圖節省更多的開發時間,節約更多的開發人員,也讓越來越多的企業參與到人工智能開發的環境中來,打造良好的生態基礎平臺。

2495659-1-c

AI on Horizon,地平線黃暢CES ASIA暢談邊緣計算發展趨勢

目前,地平線在智能駕駛和 AIoT 領域已成功賦能多個行業合作伙伴,包括地平線高精建圖與定位方案賦能 SK 電訊,終端完整語音方案賦能小愛音箱、車載多音區交互技術賦能理想 ONE 車內智能交互、工地安全帽檢測等等,并積極參與 AI生態建設,加入了 96boards 等生態社區聯盟,加速AI賦能。

地平線 CES-ASIA 邊緣計算

相關閱讀

暫無數據

一周熱門

2019電源網工程師巡回研討會
那里有双色球合买