全國咨詢(xún)服務(wù)熱線(xiàn)
隨著(zhù)邊緣運算對效能的需求日益增長(cháng)，如何在終端有效率的承載及處理大量數據已成為工業(yè)廠(chǎng)房及醫療應用的一大瓶頸。加上空間成本寸土寸金，×能有效降低營(yíng)運及維護成本的作法，便是安裝××能邊緣服務(wù)器以精簡(jiǎn)占地面積及簡(jiǎn)化布署的架構。DFI 搭載第三代 Intel® Xeon® 處理器的 ICX610-C621A-C621A 服務(wù)器級ATX 主板為 AI 應用提供可靠的效能，并透過(guò)豐富的擴展槽來(lái)提供充沛的帶寬，將邊緣運算的裝置布署化繁為簡(jiǎn)，以×精簡(jiǎn)的架構提高生產(chǎn)力。
產(chǎn)業(yè) : 工廠(chǎng)自動(dòng)化 / 智能醫療
應用 : 邊緣計算服務(wù)器、AOI自動(dòng)光學(xué)檢測、AI 醫療影像辨識
解決方案 : ICX610-C621A-C621A 服務(wù)器級ATX 主板 (應用建議)
在工業(yè)及醫療產(chǎn)業(yè)，機器視覺(jué)乃工業(yè)4.0 之母，亦是維持××生產(chǎn)力的重要環(huán)節。身為人工智能×常扮演的應用面向，負責機器視覺(jué)的運算裝置在效能的要求上尤其吃重，它需要無(wú)遲滯的接收來(lái)自終端設備傳來(lái)的影像數據，快速而準確的分析后做出回應，并同時(shí)儲存結果及記錄對應的影像，對裝置的對外帶寬及運算核心能耐是一大考驗。
而在邊緣運算的框架下，這些數據必須盡其可能的在終端實(shí)時(shí)處理及分析，不宜再全數回傳至云端進(jìn)行，使軟件、硬件及數據數據皆得以×接近邊緣的方式運作。此舉除了可以減少傳輸帶寬，也能避免因為數據延遲拖累生產(chǎn)效率，用×快的反應速度來(lái)實(shí)時(shí)與設備溝通。
邊緣運算要運算哪些內容？影像、聲音、以及來(lái)自各種裝置的感測數據。在講求生產(chǎn)效率的產(chǎn)線(xiàn)以及精準度的醫療應用，這些內容必需極其精細，才有可能產(chǎn)生準確的結果，精細的內容則意味著(zhù)龐大的數據量需要處理。
一言以敝之，只靠云端架構難以應付終端的運算需求，在終端布署大量而繁雜的運算設備又會(huì )對空間及維護成本上造成難題。邊緣運算服務(wù)器于是順理成章的擔當此重任，在×接近數據的地方接收數據、處理數據、回傳數據，可謂身兼數職。在整個(gè)應用場(chǎng)域里，我們可以把它當做是×靠近終端裝置的節點(diǎn)，在接口的整合能力、軟件的彈性支持及虛擬化能力也會(huì )是重要考慮，這次我們先把焦點(diǎn)放在「效能」。
邊緣運算于工廠(chǎng)自動(dòng)化應用的范例架構。終端裝置與邊緣運算服務(wù)器溝通并回傳數據，服務(wù)器分析數據后，回傳對應的控制指令，并于本地儲存數據，若有必要再回傳至云端。云端主機應盡可能的減少實(shí)時(shí)性的分析需求，以免造成溝通上的延遲。
邊緣運算服務(wù)器需具備微型數據中心及邊緣云的能耐，不脫處理速度、傳輸速度與儲存效率。運算著(zhù)重實(shí)時(shí)與精準，傳輸必須低延遲，而在數據的存取上得有足夠的帶寬與空間，這些都剛好是服務(wù)器等級主板的特長(cháng)。
以 DFI ICX610-C621A-C621A 為例， 結合多核心多線(xiàn)程的第三代 Intel® Xeon® 處理器為多任務(wù)好手，能滿(mǎn)足來(lái)自多臺終端設備的數據處理需求，數量驚人的內外部傳輸埠口也提供了充裕的傳輸通道，同時(shí)可管理為數眾多的儲存裝置，這些邊緣服務(wù)器的功能在此張主板上全都能一次達成。
ICX610-C621A-C621A 專(zhuān)為 Intel® Ice Lake 平臺量身打造， 支持第三代 Intel® Xeon® 處理器。此代 Xeon® 處理器于 AI 的運算能力極為突出，包含以下三方面的提升:
Intel® Deep Learning Boost 搭配 Intel® AVX-512
Intel®Deep Learning Boost 并非于此代 Xeon® 處理器才問(wèn)世，但這個(gè)立基于 Intel® AVX512 VNNI 指令集的技術(shù)隨著(zhù)處理器的更新而益發(fā)強勁，在深度學(xué)習及視覺(jué)分析效能方面都有顯著(zhù)提升。在 AI 應用的訓練階段，效能便獲得60% 的提升，而在實(shí)際進(jìn)行推論時(shí)，也比××代快 30 倍以上。
用更嚴謹的數據來(lái)判斷及解析，VNNI 暴增了低精度運算在 AI 深度學(xué)習及推論的效能成長(cháng)。透過(guò)低精度運算的優(yōu)化，在進(jìn)行 AI 應用時(shí)處理器的資料吞吐量大幅增加，平均可創(chuàng )造約 2.19 倍的差距，這意味著(zhù)在時(shí)間上快了約 45%。
45% 的速度提升代表什么？試想在產(chǎn)在線(xiàn)原本辨識一處產(chǎn)品缺陷的耗時(shí)為 25 毫秒（注 1），節省了近一半的時(shí)間后會(huì )小于 15 毫秒，積沙成塔下，同樣的時(shí)間內能辨識的產(chǎn)品數量就會(huì )變多，大量布署下能節省的工時(shí)及產(chǎn)力提升更是不言而諭。
而在醫療應用上，辨識速度的提升對于受檢者而言，亦可大幅降低容易造成不適的生理掃描或幅射曝露時(shí)間，提供更優(yōu)質(zhì)的檢測體驗。
上方圖表，是以當前×熱門(mén)的對象辨識模型 Yolo_v3 以及醫療領(lǐng)域的 Brain Tumor Segmentation 來(lái)做 AI推論效能的實(shí)測。透過(guò)低精度運算 (Int8) 的優(yōu)化，在 Yolo_v3 的測試里，與 FP32 差了將近 3.5 倍，而 Brain Tumor Segmentation 則為 1.6 倍。
智能交通領(lǐng)域的車(chē)牌辨識應用也常常需要邊緣伺服器來(lái)做運算節點(diǎn)。辨識的速度愈快，系統便能更即時(shí)的做出對應的反應，停車(chē)場(chǎng)域在匣口及停車(chē)位的管控上也更來(lái)得順暢及輕松許多。
Int8 由于資料體積小，因此需要的整體儲存容量及讀取頻寬也會(huì )減少，自然能降低處理延遲以及增加吞吐量。在這個(gè)應用范例里，Int8 的吞吐量是 FP32 的 6 倍之譜，延遲更是接近只有八分之一。
PCIe 4.0 則是提升了單個(gè)插槽所能承載的×大帶寬， 結合數量的加乘，能承載的數據量不容小覷。ICX610-C621A 的 PCIe x16 插槽有 3 個(gè)，PCIe x8 則有 8 個(gè)，若單純只就一條 PCIe x16 插槽能處理的未壓縮影像數據來(lái)看，單個(gè)插槽便能處理 2 個(gè) 8K 的×高采樣頻率影像（注 2）。這已經(jīng)是用×嚴苛的標準來(lái)計算，若是經(jīng)過(guò)壓縮、流量較低的 4K 或 Full-HD 影像，能處理的串流數量將會(huì )十分驚人。
在有多條生產(chǎn)線(xiàn)、多路影像需辨識的工業(yè)場(chǎng)域，單臺邊緣服務(wù)器上配有愈多的擴充插槽，愈能減少處理節點(diǎn)的設置數量，達成布署上的精簡(jiǎn)，使單臺邊緣服務(wù)器即能管理為數眾多的周邊裝置，并同時(shí)身兼本地云暫存這些裝置的產(chǎn)生數據。
結合了以上優(yōu)勢的 ICX610-C621A，在周邊埠口的設置上也采用了大艦巨炮策略。光是 10GbE 以太網(wǎng)絡(luò )便有兩組， 且在已經(jīng)×大化 PCIe 插槽數量的前提下，仍然配置了六組 SATA 以及一個(gè) NVMe 插槽，內存的部份則利用四信道、八支模塊來(lái)達到×高 512GB 的容量。從數據的擷取至運算，乃至后方的儲存，全數皆以×高的帶寬規格串連，打造邊緣運算界的高速公路。
ICX610-C621A 規格：
*( 注 2) 7680x4320 分辨率，每秒 60 張，色深 16bit，色彩取樣 4:4:4。
物聯(lián)網(wǎng)的部署復雜度日以遽增，接收的數據不但愈來(lái)愈多元，需要處理的信息量也不可同日而語(yǔ)。DFI 服務(wù)器產(chǎn)品線(xiàn)以效能、高可靠性及豐沛的帶寬為出發(fā)點(diǎn)，將物聯(lián)網(wǎng)的布署化繁為簡(jiǎn)，降低節點(diǎn)部署的困難程度，在節省成本的同時(shí)亦提高生產(chǎn)力。
全國咨詢(xún)服務(wù)熱線(xiàn)
0371-86065102 15838050922咨詢(xún)服務(wù)電話(huà)
地址：河南省鄭州市金水區文化路85號A時(shí)代廣場(chǎng)8樓
郵箱：zzpuxing@163.com
COPYRIGHT BY 鄭州普星電子科技有限公司 ALLRIGHT RESERVED 豫ICP備17047670號-1
免責聲明本站部分內容來(lái)自網(wǎng)絡(luò )如有侵權請告知我們立即刪除!