|
作者：萊迪思 規(guī)劃與執(zhí)行之間往往橫亙著巨大的鴻溝。一個(gè)在理論上看似簡(jiǎn)單明了的項(xiàng)目，即便預(yù)算可控、進(jìn)度有序、技術(shù)可行，一旦落地卻會(huì)遇到重重阻礙。將構(gòu)想轉(zhuǎn)化為現(xiàn)實(shí)并非總是一帆風(fēng)順，成功很大程度上取決于我們預(yù)判并駕馭未知的能力。 在日新月異的邊緣人工智能（AI）領(lǐng)域，這種構(gòu)想與落地之間的差距尤為顯著。 邊緣AI的興起 隨著技術(shù)不斷向個(gè)性化與交互化發(fā)展，企業(yè)正在發(fā)掘更多的設(shè)備端智能應(yīng)用場(chǎng)景。不論是用來(lái)優(yōu)化工業(yè)流程和系統(tǒng)、增強(qiáng)汽車安全性能，還是打造更智能、響應(yīng)能力更強(qiáng)的消費(fèi)產(chǎn)品，邊緣部署正從孤立的概念轉(zhuǎn)變?yōu)橹陵P(guān)重要的產(chǎn)品功能。 這需要開(kāi)發(fā)并部署越來(lái)越多的邊緣AI解決方案，以支持近邊緣計(jì)算和處理任務(wù)，尤其是在人機(jī)界面（HMIs）領(lǐng)域。在某種程度上，這是AI滲透至各行各業(yè)以及不同學(xué)科領(lǐng)域的結(jié)果。誠(chéng)然，AI確實(shí)為邊緣計(jì)算帶來(lái)了諸多關(guān)鍵優(yōu)勢(shì)。通過(guò)在傳感器內(nèi)部或傳感器附近進(jìn)行本地化數(shù)據(jù)處理，開(kāi)發(fā)人員能夠減少對(duì)云基礎(chǔ)設(shè)施的依賴、降低能耗并提升帶寬效率，同時(shí)增強(qiáng)離線功能、可靠性以及實(shí)時(shí)響應(yīng)能力。 即便如此，設(shè)計(jì)符合邊緣設(shè)備限制條件的AI模型仍非易事。傳統(tǒng)模型往往體積龐大且能耗驚人，根本無(wú)法匹配邊緣設(shè)備的低功耗和有限算力的需求。要從目前在邊緣端部署專用AI加速器的模型轉(zhuǎn)變?yōu)榉且蕾囋贫说某咝А敖鼈鞲衅鳌庇?jì)算架構(gòu)，實(shí)屬知易行難。這要求開(kāi)發(fā)人員設(shè)計(jì)出更小巧的邊緣原生AI模型，既能精準(zhǔn)滿足特定邊緣應(yīng)用的需求，又不會(huì)耗盡本就不多的功率和空間。而從這些設(shè)計(jì)到實(shí)際部署的過(guò)程，正是從構(gòu)想到落地之間差距最為顯著的環(huán)節(jié)。 從概念驗(yàn)證到投入生產(chǎn)所面臨的挑戰(zhàn) 雖然開(kāi)發(fā)人員清楚他們需要設(shè)計(jì)高效、可靠的邊緣AI模型，但概念驗(yàn)證（PoC）與模型部署之間的差距往往難以彌補(bǔ)。這個(gè)問(wèn)題存在已久，只是換了一種說(shuō)法：構(gòu)建一個(gè)PoC模型并不難，任何人都能進(jìn)行設(shè)計(jì)，關(guān)鍵在于能否讓該模型落地，擴(kuò)展為完整的生產(chǎn)級(jí)解決方案？ 將邊緣AI的PoC原型引入真實(shí)應(yīng)用場(chǎng)景的過(guò)程通常會(huì)面臨諸多嚴(yán)峻挑戰(zhàn)，包括： • 將數(shù)據(jù)導(dǎo)入/導(dǎo)出系統(tǒng)級(jí)芯片（SoC）。當(dāng)涉及各種不同的傳感器、通訊協(xié)議、接口以及引腳數(shù)量較多時(shí)，在邊緣組件與AI模型之間傳輸數(shù)據(jù)會(huì)變得十分復(fù)雜。要想將這些不同的數(shù)據(jù)源連接到邊緣計(jì)算模型，需要細(xì)致的規(guī)劃與執(zhí)行，而且還要能夠大規(guī)模復(fù)制。 • PoC與生產(chǎn)環(huán)境之間的顯著差異。PoC旨在驗(yàn)證、測(cè)試和演示邊緣算法，因此會(huì)配置充沛的資源，包括算力、能源、資金和空間，而實(shí)際的邊緣設(shè)備并不一定具備這些資源。如果這些PoC依賴云端處理能力、超大體積的硬件或未優(yōu)化的模型，便難以成功轉(zhuǎn)換成具體的生產(chǎn)級(jí)解決方案。 • 實(shí)驗(yàn)室數(shù)據(jù)難以反應(yīng)出真實(shí)場(chǎng)景的復(fù)雜性。除擁有額外的技術(shù)資源外，邊緣AI的PoC模型通常采用合成數(shù)據(jù)集、在模擬測(cè)試環(huán)境中進(jìn)行訓(xùn)練。盡管這有助于應(yīng)對(duì)開(kāi)發(fā)階段遇到的難題，但往往無(wú)法反映出現(xiàn)場(chǎng)的邊緣用例、傳感器噪聲以及整體差異性。以家庭安防系統(tǒng)為例，雖然模型經(jīng)過(guò)訓(xùn)練可以識(shí)別出合成的“玻璃破碎”聲，但真實(shí)環(huán)境中的聲音必然會(huì)比測(cè)試數(shù)據(jù)集更具多樣性。 構(gòu)建專用的AI解決方案 上述挑戰(zhàn)清晰地表明了：邊緣AI架構(gòu)必須從一開(kāi)始就為最終部署而量身打造，而非在脫離實(shí)際的環(huán)境中進(jìn)行設(shè)計(jì)，再懷揣僥幸進(jìn)行部署。與通用AI模型不同，邊緣部署場(chǎng)景要求解決方案能夠針對(duì)其具體任務(wù)、運(yùn)行條件和資源限制進(jìn)行深度優(yōu)化。通過(guò)從零開(kāi)始構(gòu)建而非簡(jiǎn)單壓縮現(xiàn)有模型，開(kāi)發(fā)團(tuán)隊(duì)能夠有效節(jié)約時(shí)間、成本與開(kāi)發(fā)資源，進(jìn)而支持更具針對(duì)性、更貼合實(shí)際應(yīng)用場(chǎng)景的操作。 為了支持邊緣開(kāi)發(fā)人員，萊迪思與合作伙伴攜手推出多項(xiàng)經(jīng)過(guò)預(yù)先驗(yàn)證的解決方案，如萊迪思sensAI 解決方案集合，其中包含經(jīng)過(guò)驗(yàn)證的硬件、預(yù)先訓(xùn)練的模型以及實(shí)用的開(kāi)發(fā)工具。這些解決方案為開(kāi)發(fā)人員提供了可靠的構(gòu)建模塊，以便針對(duì)特定應(yīng)用場(chǎng)景進(jìn)行搭建和定制，有助于加快開(kāi)發(fā)進(jìn)程并降低風(fēng)險(xiǎn)。 賦能的專用邊緣HMI系統(tǒng)： • tinyVision的智能眼鏡解決方案采用萊迪思CrossLink-NX FPGA，在極其有限的空間內(nèi)實(shí)現(xiàn)攝像頭傳感器及抬頭顯示的橋接和同步。通過(guò)將FPGA設(shè)計(jì)為靈活、低成本的小尺寸聚合樞紐，這款智能眼鏡能夠在邊緣端執(zhí)行關(guān)鍵運(yùn)算并支持傳感器融合，且無(wú)需占用極大功耗和/或物理空間。 • Aizip的語(yǔ)音識(shí)別系統(tǒng)同樣采用CrossLink-NX FPGA來(lái)支持個(gè)性化語(yǔ)音識(shí)別和處理。通過(guò)設(shè)計(jì)符合FPGA器件限制的AI模型，開(kāi)發(fā)人員能夠銜接麥克風(fēng)傳感器和計(jì)算能力，從而實(shí)現(xiàn)諸如定制化車載人員識(shí)別等任務(wù)。 憑借小尺寸、低功耗以及部署前后的靈活性，CrossLink-NX等FPGA產(chǎn)品成為專用邊緣AI開(kāi)發(fā)的重要組件。開(kāi)發(fā)人員能夠輕松配置這些芯片，以適應(yīng)特定邊緣應(yīng)用的計(jì)算需求，融合來(lái)自不同傳感器的數(shù)據(jù)，加快處理速度，并以極低延遲處理自定義I/O協(xié)議。FPGA的并行處理能力有助于實(shí)現(xiàn)本地化處理，而且僅向顯示器或其他組件傳輸必要數(shù)據(jù)，有助于減少帶寬占用、提升整體的隱私安全性。 支持邊緣創(chuàng)新 要將邊緣AI模型從概念轉(zhuǎn)化為產(chǎn)品，僅靠可運(yùn)行的原型還遠(yuǎn)遠(yuǎn)不夠。成功的關(guān)鍵在于，從初始階段就基于成熟的硬件與軟件進(jìn)行設(shè)計(jì)，使方案能夠真正契合現(xiàn)實(shí)場(chǎng)景的需求與限制，而非事后對(duì)僅在實(shí)驗(yàn)室驗(yàn)證過(guò)的模型進(jìn)行修補(bǔ)。憑借基于動(dòng)態(tài)FPGA的專用邊緣AI解決方案，開(kāi)發(fā)人員能夠獲得所需的靈活性和效率，從而設(shè)計(jì)出具備可靠性和可擴(kuò)展性的邊緣AI應(yīng)用。 如需進(jìn)一步了解邊緣設(shè)計(jì)，可點(diǎn)擊此處觀看整場(chǎng)圓桌討論會(huì)。如果您想要探索面向下一代邊緣應(yīng)用的FPGA構(gòu)建模塊，請(qǐng)下載我們的HMI解決方案簡(jiǎn)介或立即聯(lián)系我們。 |
