端側(cè)AI計算開發(fā)最難的問題,都被這家公司搞定了
端側(cè)AI計算開發(fā)最難的問題,都被這家公司搞定了 2022-08-10 14:45:09 端側(cè)AI計算開發(fā)最難的問題,都被這家公司搞定了 0

文章轉(zhuǎn)載機器之心報道》作者:澤南



為什么高通技術(shù)能成為眾多公司產(chǎn)品宣傳的重點?

最近一段時間,車規(guī)芯片的「天花板」驍龍 8155(第三代驍龍座艙旗艦級平臺)引發(fā)了人們的熱議,這款芯片強大的整體算力一舉改變了很多車型飽受詬病的車機卡頓問題。

很多品牌都以搭載驍龍 8155 芯片作為賣點,理想 L9、小鵬 P5、蔚來 ET5、吉利星越 L 等熱門車型上都有它的身影,極氪 001 甚至為了讓車主放心,宣布免費為已購車的用戶升級 8155 芯片。

根據(jù)車廠公布的信息,驍龍 8155 是首款 7 納米制程工藝打造的車規(guī)級數(shù)字座艙 SOC,性能是上代 820A 的三倍,其具有八個核心,最多支持 6 個攝像頭,同時能帶動四塊 2K 或者三塊 4K 屏,支持 WiFi6,也支持 5G 和藍牙 5.0。在配合大容量內(nèi)存之后,它能夠讓汽車的中控屏操作體驗像一臺旗艦智能手機,最大程度提升了座艙系統(tǒng)的體驗。

高性能的車機芯片也為全場景語音等 AI 功能提供了可能性。在一些車型中,AI 助手支持全場景連續(xù)對話,駕駛者可以連續(xù)下達多個指令,實現(xiàn)真人對話一樣的體驗,不再需要每個指令說一次喚醒詞。


8155 已是驍龍座艙平臺的第三代產(chǎn)品,作為這一領(lǐng)域的后來者,高通在車機芯片上對英特爾、瑞薩等老勢力已開始占據(jù)優(yōu)勢。第四代的高通 8295(第四代驍龍座艙平臺)也已經(jīng)發(fā)布,相關(guān)車型也已在路上,據(jù)稱它采用 5nm 工藝,搭載的 NPU 能達到 30 TOPS 的 AI 算力,性能比目前這一代還要提升兩倍多。

汽車只是高通技術(shù)新進展的一小部分,在手機芯片上占據(jù)市場主流的高通最近在做的事,已遠遠超出了人們的手掌心。

從手機到智能駕駛,走統(tǒng)一路線

高通的車規(guī)級 8155 芯片源自于手機芯片驍龍 855,即將在集度汽車上首發(fā)的 8295 芯片則來自驍龍 888,它們都是高通基于自己在移動端領(lǐng)域的領(lǐng)先技術(shù)打造的。在新的領(lǐng)域里,高通技術(shù)能為產(chǎn)品能力和用戶體驗帶來了質(zhì)變級的提升。

據(jù)統(tǒng)計,全球所有主要汽車制造商均已選擇驍龍座艙平臺,超過 1.5 億輛汽車采用高通汽車無線解決方案,市場份額高達 80%。驍龍數(shù)字底盤及其集成式汽車平臺訂單總估值超過 190 億美元。

邊緣側(cè) AI 的流行,讓高通在大量實踐中形成的技術(shù)優(yōu)勢在越來越多的新領(lǐng)域獲得了應(yīng)用。

為構(gòu)建萬物互聯(lián)的世界,高通還希望實現(xiàn)跨終端的一致性體驗,「統(tǒng)一的技術(shù)路線圖」(one technology roadmap)應(yīng)運而生。高通希望憑借在 AI、影像、圖形、算力和連接等領(lǐng)域的領(lǐng)先技術(shù),為幾乎所有邊緣終端提供 AI 能力、高性能低功耗系統(tǒng)和無線組件。

在高通 CEO 克里斯蒂亞諾 · 安蒙的設(shè)想中,「統(tǒng)一」的范圍覆蓋從耳機到智能網(wǎng)聯(lián)汽車,這背后是高通在各領(lǐng)域中的深厚布局。


早在 2021 年驍龍技術(shù)峰會上,高通便稱,通過驍龍移動平臺,高通的 AI 技術(shù)已經(jīng)支持超過 18 億終端。在新一代驍龍 8 和驍龍 8 + 移動平臺中,強大 ISP 和第七代高通 AI 引擎合力實現(xiàn)了精細、低延遲的面部識別能力,更進一步的拍照夜景增強、實時背景虛化、手勢識別,甚至能讓手機能夠通過聲音識別用戶是否患病,這些 AI 能力為眾多應(yīng)用提供了支持。

通過驍龍移動平臺、驍龍計算平臺和驍龍 XR 平臺,高通已經(jīng)讓各種終端設(shè)備能夠在影音娛樂、智能助手、情景感知等領(lǐng)域帶來豐富、創(chuàng)新的沉浸式使用體驗,改變了人們的工作和生活方式。

這些技術(shù)也被延伸到了 IoT 領(lǐng)域,AI 正在推動家庭、工業(yè)、企業(yè)和智慧城市等應(yīng)用的發(fā)展,高通支持了近 13000 家企業(yè)的物聯(lián)網(wǎng)解決方案,其提供的高效 AI 算力正在為機器人、智能制造、智慧城市、智慧零售等場景帶來新能力。

AI 能效是驍龍平臺的技術(shù)優(yōu)勢。除了智能座艙,高通還在汽車領(lǐng)域推動可擴展開放自動駕駛解決方案 Snapdragon Ride。該平臺面向不同駕駛場景提供不同等級算力:它可以以小于 5W 的功耗為攝像頭提供 10 TOPS 機器學習算力,也能為 L4、L5 級自動駕駛提供超過 700 TOPS 算力。


統(tǒng)一的布局也包括云端算力。5G 網(wǎng)絡(luò)的連接下,很多 AI 任務(wù)負載都可以在云端實現(xiàn)推理,高通通過 Cloud AI 100 加速器,使芯片架構(gòu)從邊緣到云端實現(xiàn)了統(tǒng)一。

Cloud AI 100 支持數(shù)據(jù)中心、邊緣設(shè)備和汽車等多種場景。單個高通 Cloud AI 100 PCI-E 卡能提供 400 TOPS 算力,高通與合作伙伴提出的服務(wù)器解決方案,實現(xiàn)了 AI 推理突破每秒千萬億次運算大關(guān)。

從端到云,高通的各個業(yè)務(wù)線都已深度整合了 AI 能力,已為人們帶來了全新的體驗。

打造統(tǒng)一的 AI 開發(fā)工具

在 AR、VR 和智能駕駛這些「未來方向」上,已有的算力和 AI 算法仍然無法滿足人們的需要。為了應(yīng)對挑戰(zhàn),高性能計算和端云融合是目前科技公司發(fā)展的趨勢。硬件之外,高通還實現(xiàn)了 AI 軟件工具的統(tǒng)一。

最近,高通發(fā)布了自己的首個 AI 軟件棧 Qualcomm AI Stack,將所有業(yè)務(wù)線的 AI 軟件能力整合在了統(tǒng)一的軟件棧中,實現(xiàn)了跨智能網(wǎng)聯(lián)終端的完整解決方案。

現(xiàn)在,開發(fā)者可以在一個體系下,高效、低成本地面向不同智能終端進行 AI 模型和軟件開發(fā)了。

根據(jù)官方介紹,高通 AI 軟件棧主要包括三大部分:硬件、軟件和工具。這套方案可以在所有高通支持的產(chǎn)品上運行,覆蓋范圍包括智能手機、汽車、AR/VR 硬件、物聯(lián)網(wǎng)和云平臺。

首先,高通 AI Stack 包括系統(tǒng)接口、仿真支持和驅(qū)動程序,支持大部分常用的操作系統(tǒng),包括 Android、Windows、Linux 以及面向網(wǎng)聯(lián)汽車的 QNX 等,以及 Prometheus、Kubernetes 和 Docker 等容器平臺。


在更高一層的庫和服務(wù)層面,高通 AI 軟件棧支持大量數(shù)學庫、編譯器和虛擬平臺,以及分析器和調(diào)試器。AI Stack 支持大多數(shù)流行的 AI 框架和 Runtime 如 TensorFlow、PyTorch、ONNX 和 TensorFlow Lite、TensorFlow Lite Micro、ONNX 等。

另外,AI Stack 的編譯器可以針對特定內(nèi)容進行定制化處理,幾行 Python 代碼就可以完成更多工作,為開發(fā)者提供很多便利。

AI Stack 集成了高通在 AI 領(lǐng)域十余年來的研發(fā)成果,如高通 AI 模型增效工具包(AIMET),它能提供模型量化和模型壓縮技術(shù),進行量化感知訓練(Quantization Aware Training)和無數(shù)據(jù)訓練,它的最重要能力之一是能將在云端訓練的高算力需求 AI 模型從 32 位浮點精度轉(zhuǎn)化為 8 位整數(shù)格式,在幾乎不降低推理效果的情況下提升 4 倍效率,從而覆蓋更多低功耗設(shè)備。

作為新解決方案的一部分,高通 AI 引擎 Direct 現(xiàn)在可以在高通所有產(chǎn)品的 AI 加速器上進行擴展,從高通平臺上直接向 AI 加速器部署模型,不僅能夠為開發(fā)者提供模型開發(fā)的功能,還支持將新開發(fā)的模型遷移至不同產(chǎn)品和層級。

虛實融合是未來發(fā)展的方向,高通開放的 XR 平臺 Snapdragon Spaces XR 也成為了 AI Stack 的一部分,開發(fā)者可以從零開始面向 AR 眼鏡創(chuàng)建 3D 應(yīng)用,或在現(xiàn)有 Android 智能手機的 2D 應(yīng)用中增加頭戴式 AR 特性。


現(xiàn)在,人們只需要一次開發(fā) ,就可以在多個不同領(lǐng)域部署自己的技術(shù),工作重點可以放在探索創(chuàng)新的 AI 用例上,無需重復(fù)造輪子。

基于高通 AI Stack,企業(yè)也能夠?qū)崿F(xiàn)在不同產(chǎn)品、不同平臺之間的擴展,方便地把移動端開發(fā)經(jīng)驗遷移到汽車上,也能將 XR 等平臺的復(fù)雜模型開發(fā)經(jīng)驗帶回移動端。

結(jié)語

每當我們用手機拍照、看短視頻時,很少會意識到這些日常行為的背后有很多 AI 技術(shù)的支撐。雖然從邊緣設(shè)備到云服務(wù)器,只要是連接網(wǎng)絡(luò)的地方,AI 已經(jīng)無處不在,但展望未來,還有很多事可以做。

據(jù) Gartner 預(yù)測,到 2025 年將有超過 50% 的數(shù)據(jù)在傳統(tǒng)數(shù)據(jù)中心之外產(chǎn)生和處理。數(shù)據(jù)處理正在從數(shù)據(jù)中心轉(zhuǎn)向邊緣,并推動對更強大的本地處理能力的需求。

高通處于行業(yè)趨勢的交匯點,在長期持續(xù)的技術(shù)投入之后,高通已經(jīng)構(gòu)建起一套完整的體系,從芯片、軟件平臺、算法到生態(tài)系統(tǒng)和參考設(shè)計,面向開發(fā)者和用戶提供了強大的能力。

可以感受到,讓汽車聰明起來只是一個開始,高通的 AI 能力,還在賦能越來越多的領(lǐng)域。


推薦文章欄目:
產(chǎn)品推薦
熱門標簽
解決方案
客服
客服
電話
電話
4000-780-190
樣機申請
樣機申請
0
頂部
頂部