微軟首款定制 AI 芯片,Maia 100 更多規格公開

    每日快訊
    2024
    08/31
    10:43
    IT之家
    分享
    評論

    來源:IT之家 

    微軟公司出席 Hot Chip 2024 大會,分享了 Maia 100 芯片的規格信息。Maia 100 是臺積電 5nm 節點上制造的最大處理器之一,專門為部署在 Azure 中的大規模 AI 工作負載而設計。

    Maia 100 芯片規格如下

    芯片尺寸:820 平方毫米

    封裝:采用 COWOS-S 夾層技術的 TSMC N5 工藝

    HBM BW/Cap;1.8TB/s @ 64GB HBM2E

    峰值密集 Tensor POPS: 6bit: 3,9bit: 1.5, BF16: 0.8

    L1/L2:500MB

    后端網絡 BW:600GB/s(12X400gbe)

    主機 BW(PCIe):32GB/s PCIe Gen5X8

    設計 TDP:700W

    Provision TDP:500W

    Microsoft Maia 100 系統采用垂直集成方式,以優化成本和性能。它還采用定制服務器板,配備專門設計的機架和軟件堆棧,以提高性能。

    Maia 100 架構

    高速 Tensor 單元可為訓練和推理提供高速處理,同時支持多種數據類型,單元采用 16xRx16 結構。

    矢量處理器是一個松散耦合的超標量引擎,采用定制指令集架構(ISA),支持包括 FP32 和 BF16 在內的多種數據類型。

    直接內存訪問(DMA)引擎支持不同的張量分片方案。

    硬件 semaphores 支持 Maia 系統的異步編程。

    為提高數據利用率和能效,大型 L1 和 L2 scratch pads 交由軟件管理。

    Maia 100 采用基于以太網的互聯技術和類似 RoCE 的定制協議,可實現超高帶寬計算。它支持高達 4800 Gbps 的 all-gather 和 scatter-reduced 帶寬,以及 1200 Gbps 的 all-to-all 帶寬。

    在軟件方面,Maia 軟件開發工具包(SDK)允許任何人快速將其 PyTorch 和 Triton 模型移植到 Maia。Maia SDK 為開發人員提供了多個組件,使他們能夠輕松地將模型部署到 Azure OpenAI 服務。

    THE END
    廣告、內容合作請點擊這里 尋求合作
    數碼
    免責聲明:本文系轉載,版權歸原作者所有;旨在傳遞信息,不代表砍柴網的觀點和立場。

    相關熱點

    海通證券分析師杰夫普(Jeff Pu)近日發布投資簡報,認為蘋果公司已經開始構建基于 M2 Ultra 芯片的 AI 服務器。
    每日快訊
    一家 AI 初創公司 Suno 近日發布了首款能夠生成 " 廣播級 " 歌曲的工具,能夠在數秒之內創作出兩分鐘的完整歌曲,所有用戶均可免費訪問。
    評測
    小米官宣將于 2 月 22 日晚發布 Redmi Book Pro 2024 筆記本,號稱是 " 小米筆記本業務的全新篇章 ",用手機的產業能力深度賦能筆記本業務,并且全面接入小米澎湃 OS。
    每日快訊
    據國外媒體報道稱,iPhone 16 的所謂設計圖流出,而據此渲染出的效果是,回歸豎排雙攝。
    評測
    如果 Vision Pro 頭顯出現系統故障,用戶應該如何恢復呢?根據蘋果解鎖的最新細節,整個恢復過程類似于 Apple Watch 和 Apple TV,需要 iPhone 借助完成。
    每日快訊

    相關推薦

    1
    3
    主站蜘蛛池模板: 国产精品 视频一区 二区三区| 高清一区二区三区| 国产AV国片精品一区二区| 相泽亚洲一区中文字幕| 亚洲AV无码一区二区三区性色| 国产免费一区二区三区免费视频| 亚洲欧洲专线一区| 日韩一区二区三区四区不卡| 另类免费视频一区二区在线观看| 国产麻豆媒一区一区二区三区| 亚洲天堂一区二区| 在线精品亚洲一区二区小说| 一区二区网站在线观看| 日韩精品一区二区三区国语自制| 在线播放国产一区二区三区| 国产精品无码一区二区三级 | 99久久精品国产免看国产一区| 日韩精品国产一区| 无码少妇A片一区二区三区| 91video国产一区| 亚洲天堂一区二区三区四区| 福利一区二区三区视频在线观看| 国产亚洲福利精品一区| 国产自产在线视频一区| 无码日韩精品一区二区三区免费| 亚洲国产综合无码一区 | 亚洲国产一区二区三区青草影视| 中文字幕一区二区免费| 制服中文字幕一区二区| 国产主播一区二区| 日本片免费观看一区二区| 极品人妻少妇一区二区三区| 一区二区三区高清| 成人一区二区三区视频在线观看| 成人区人妻精品一区二区三区 | 激情内射亚州一区二区三区爱妻| 极品少妇伦理一区二区| 久久久久国产一区二区三区| 久久精品免费一区二区三区| 亚洲V无码一区二区三区四区观看| 无码午夜人妻一区二区三区不卡视频|