国产精品免费无遮挡无码永久视频-国产高潮视频在线观看-精品久久国产字幕高潮-国产精品99精品无码视亚

單節點能跑72個大語言模型,寧暢服務器就是這么強大

發布時間:2023-12-16 12:34    發布者:工程新聞

12月15日,2023英特爾新品發布會暨AI技術創新派對正式舉辦,第五代英特爾® 至強® 可擴展處理器首次在中國亮相。寧暢作為英特爾重要的合作伙伴之一受邀參展,重磅發布全新升級的G50系列服務器,并現場展出B5000和R620 G50兩款產品,與英特爾攜手共同邁向AI無處不在的新時代。

第五代英特爾® 至強® 可擴展處理器為AI加速而生,擁有更可靠的性能和更出色的能效。相較上一代,第五代英特爾® 至強® 可擴展處理器訓練性能提升高達29%,推理性能提升高達42%,在相同TDP下平均性能提升高達21%,內存帶寬提升高達16%,三級緩存容量提升2.7倍,可顯著提高內存帶寬約束型和時延敏感型工作負載的性能。

寧暢G50系列服務器涵蓋通用機架服務器、人工智能服務器、邊緣計算服務器等多種類型。全新的G50系列在內存通道等方面進行重要升級,基于最新的第五代英特爾® 至強® 可擴展處理器能夠進一步釋放AI潛能,為更多需求場景提供高性價比的強大算力支撐。

以寧暢高密度計算服務器B5000 G5為例,通過搭載第五代英特爾® 至強® 可擴展處理器,可執行多個、多種AI推理任務,實現高模型并發。在大語言模型領域,寧暢B5000 G5 4節點可同時支持28個70B百億大模型并發,單節點可支持72個7B大語言模型并發,僅0.117秒即可實現以文生文(文章續寫與擴寫)。在以文生圖領域,B5000 G5單節點,不到3秒就可根據任意文本輸入生成極具逼真度和細節的高質量圖像。在圖像識別領域,B5000 G5 單節點 1秒鐘可分類5566張圖像,對比第四代性能提升近10%。

寧暢將加快創新腳步,與英特爾等合作伙伴攜手滿足廣大用戶對更高效算力的需求,開創AI應用的無限可能。




本文地址:http://www.4huy16.com/thread-848591-1-1.html     【打印本頁】

本站部分文章為轉載或網友發布,目的在于傳遞和分享信息,并不代表本網贊同其觀點和對其真實性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問題,我們將根據著作權人的要求,第一時間更正或刪除。
您需要登錄后才可以發表評論 登錄 | 立即注冊

廠商推薦

  • Microchip視頻專區
  • 技術熱潮席卷三城,2025 Microchip中國技術精英年會圓滿收官!
  • Microchip第22屆中國技術精英年會——采訪篇
  • Microchip第22屆中國技術精英年會上海首站開幕
  • 電動兩輪車設計生態系統
  • 貿澤電子(Mouser)專區
關于我們  -  服務條款  -  使用指南  -  站點地圖  -  友情鏈接  -  聯系我們
電子工程網 © 版權所有   京ICP備16069177號 | 京公網安備11010502021702
快速回復 返回頂部 返回列表