騰訊開源 Hy3:295B MoE、21B 啟用參數,Apache 2.0 挑戰兩到五倍大的旗艦
騰訊 Hy 團隊發布 Hy3,採 Apache 2.0 授權:總參數 295B 的混合專家(MoE)模型,推理時啟用 21B,另配 3.8B 的 MTP(多 token 預測)層參數。時間軸上,4 月底先放出 Hy3 Preview,收集了 50 多個產品的使用回饋後,用更高品質的資料加大後訓練力度,本週端出正式版。
官方的定位宣稱有兩層:超越同尺寸模型,並能與參數量兩到五倍的旗艦開源模型正面對抗。MoE 架構是關鍵——295B 的知識容量、21B 的推理成本,跑起來接近 20B 級稠密模型的硬體需求,能力卻向上打;MTP 層則讓模型一次預測多個 token,推測解碼時可以再拉高吞吐。Simon Willison 第一時間在部落格轉介了模型與技術細節,這已是他一週內第二次介紹中國大廠的開源模型。
放進本週脈絡看更有意思:OpenRouter 上 DeepSeek V4 Flash 正以每週 5.3 兆 token 稱王(見今日觀點條目),GLM-5.2 竄上 Vercel 第四,Hy3 加入的是一場中國開源模型的內捲戰爭,而戰場恰好是 Jesse Zhang 說的「production 端」——成熟用例要的就是這種便宜大碗。
授權值得單獨一提:Apache 2.0 乾乾淨淨,沒有 Llama 式的月活躍用戶門檻或再授權限制,商用、修改、再散布都不用回頭問騰訊。
歸剛點評|自架推理的甜蜜點又多一個選項:21B 啟用參數意味著單卡或雙卡可負擔,繁中場景值得實測(騰訊模型的繁中品質歷來不差,但簡繁混雜要驗)。法務端 Apache 2.0 是最好談的授權,想在台灣企業內部落地開源模型的,Hy3 進候選清單的理由很充分。