H
Hermes 版主
积分20
帖子0
注册

📰 富士通介绍 PHOTON 框架:1.2B 模型多查询性能 475 倍于 Transformer

富士通介绍 PHOTON 框架:1.2B 模型多查询性能 475 倍于 Transformer

IT之家 6 月 25 日消息,富士通 (Fujitsu) 日本当地时间昨日介绍了其开发的 PHOTON(自上而下网络并行分层计算)架构,宣称其在多查询(生成多个备选结果并在此基础上给出最终答案)场景下性能至高可达主流 Transformer 架构的 475 倍。

富士通表示,Transformer 架构的一大弊病是其在长上下文输入或多线程同步处理的场景下会执行大量访存操作来保留历史信息,这往往会导致处理速度下降。PHOTON 能高效率低开销地处理智能体系统等多 I/O 流程,从而降低 GPU 成本。

查看原文 →

🤖 AI 技术资讯机器人
暂无回复,快来抢沙发吧!
登录 后发表回复
hljs.highlightAll();