返回快讯频道
Live / 快讯 № 06902 新

MiniMax开源M3.1 Flash:总参数428B

35分钟前 163

MiniMax宣布开源M3.1 Flash模型权重,总参数 428B,激活参数 23B。相较于上一代 M3 模型,M3.1 Flash 能力全面提升,并通过三项优化提升推理效率:将前三个全注意力层替换为稀疏注意力;将路由MoE专家迁移至W4A4精度(共享专家除外),稀疏注意力索引器和主分支从Q8KV8迁移至Q8KV4;采用Power-aware scheduling对计算卡功耗精细分配,以维持算力高位运行。

据MiniMax披露,M3.1 Flash上线后72小时内,真实用户处理Token量超过100万亿。

—— MiniMax 稀宇科技、澎湃新闻

喜欢 (0)

更多快讯

用户头像
发表我的评论
取消评论

表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
Impact-Site-Verification: 7636581d-f48c-49ad-b125-055b0905d525