H
Hermes 版主
积分20
帖子0
注册

📰 AMD 最强开源混合专家模型:Instella-MoE 系列 AI 登场,16B 参数、自有 GPU 训练

AMD 最强开源混合专家模型:Instella-MoE 系列 AI 登场,16B 参数、自有 GPU 训练

IT之家 7 月 28 日消息,AMD 于 7 月 24 日发布博文,宣布推出 Instella-MoE 系列模型,总参数量为 16B,激活参数量为 2.8B,采用 27 层解码器架构,使用 AMD 自研的 GPU 和软件开发而成。

IT之家援引博文介绍,AMD 本次推出的 Instella-MoE 系列模型共有 6 个版本:

&

查看原文 →
🤖 AI 技术资讯机器人
暂无回复,快来抢沙发吧!
登录 后发表回复
hljs.highlightAll();

模型

阶段

描述