輝達正式推出新一代大型語言模型Nemotron 3，主打混合式專家模型（MoE）與Mamba-Transformer架構，提升代理式AI在準確性、可靠性與效率上的表現。Nemotron 3共分為Nano、Super與Ultra三種版本，參數規模自300億至約5,000億不等，分別鎖定高效率任務、多代理推理，以及高度複雜的應用場景。
輝達指出，Nemotron 3的核心在於混合式MoE架構，不僅改善模型擴展性，也有助企業打造多代理自主系統。生成式AI軟體副總裁布里斯基（Kari Briski）表示，新模型結合高達100萬個單詞的長上下文能力，讓開發者能更彈性地客製化專用AI。Accenture、勤業眾信、Palantir、ServiceNow、西門子與Zoom等企業，已成為首波採用者。
在效能與成本方面，輝達強調新架構能較前代模型提升最多4倍的單詞處理效能，並大幅降低推論成本。Super與Ultra版本更導入「潛在MoE」設計，以及4位元NVFP4訓練格式，讓大型模型在既有硬體上即可完成訓練。根據第三方基準測試，Nemotron 3在同級模型中表現突出，顯示輝達持續透過架構創新，推進高效率代理式AI的發展。
法人指出，Nemotron 3本身不會立刻拉升新一波硬體爆量，但會「延長並擴大AI算力需求曲線」，有助降低企業導入AI門檻，推動私有雲與本機AI部署常態化，台廠日月光、力成、京元電等封測廠同步受惠。企業端AI叢集建置需求升溫，亦有助帶動廣達、緯穎、英業達、鴻海等AI伺服器ODM出貨。
此外，該系統仰賴高速互連與長時間運算，將推升資料中心對光通訊、散熱與電源需求，相關供應鏈在AI基礎建設長線擴張下具備持續受惠空間。
更多中時新聞網報導號稱會賺錢的0050 還沒出生就贏麻0050 達人解析2優勢3不同「1關鍵不推」忘了00929吧！主動式ETF 3天吸金百億 看到00991A經理人「基金績效逾118％」 網友決定打不贏就加入川普放行輝達H200 為何台積電、緯創繼續睡？老手解答了 鴻海操作心法、價位全公開：1招作帳穩又快
輝達指出，Nemotron 3的核心在於混合式MoE架構，不僅改善模型擴展性，也有助企業打造多代理自主系統。生成式AI軟體副總裁布里斯基（Kari Briski）表示，新模型結合高達100萬個單詞的長上下文能力，讓開發者能更彈性地客製化專用AI。Accenture、勤業眾信、Palantir、ServiceNow、西門子與Zoom等企業，已成為首波採用者。
在效能與成本方面，輝達強調新架構能較前代模型提升最多4倍的單詞處理效能，並大幅降低推論成本。Super與Ultra版本更導入「潛在MoE」設計，以及4位元NVFP4訓練格式，讓大型模型在既有硬體上即可完成訓練。根據第三方基準測試，Nemotron 3在同級模型中表現突出，顯示輝達持續透過架構創新，推進高效率代理式AI的發展。
法人指出，Nemotron 3本身不會立刻拉升新一波硬體爆量，但會「延長並擴大AI算力需求曲線」，有助降低企業導入AI門檻，推動私有雲與本機AI部署常態化，台廠日月光、力成、京元電等封測廠同步受惠。企業端AI叢集建置需求升溫，亦有助帶動廣達、緯穎、英業達、鴻海等AI伺服器ODM出貨。
此外，該系統仰賴高速互連與長時間運算，將推升資料中心對光通訊、散熱與電源需求，相關供應鏈在AI基礎建設長線擴張下具備持續受惠空間。
更多中時新聞網報導號稱會賺錢的0050 還沒出生就贏麻0050 達人解析2優勢3不同「1關鍵不推」忘了00929吧！主動式ETF 3天吸金百億 看到00991A經理人「基金績效逾118％」 網友決定打不贏就加入川普放行輝達H200 為何台積電、緯創繼續睡？老手解答了 鴻海操作心法、價位全公開：1招作帳穩又快
新聞來源: 原始來源
約 2 分鐘可讀完
讀者評論 (0)
請登入後發表評論
分享您的觀點，與其他讀者互動
立即登入尚無評論
成為第一個發表評論的人吧！