
2026天下东谈主工智能大会时期,天数智芯发布新一代通用GPU旗舰居品天垓300,面向东谈主工智能从“信息智能”“举止智能”到“探索智能”的发展趋势,围绕芯片架构、要害算子、系统膨大和软件生态全面升级凯时体育游戏app平台,以对标并特等Hopper架构的海外主流决策(以下简称Hopper决策)的效力进展,为AI鸿沟化应用提供高质料算力撑执。
天垓300基于SIMT通用计较架构,可高效支执标量、矢量和张量等多种计较类型,并围绕Attention、MoE、AF永诀、PD永诀及大鸿沟系统膨大等要害时间进行优化,进一步提高底层算力向履行Token产出和业务价值的转念成果。
跟着模子参数鸿沟扩大、高下文长度增长和推理央求加多,算力平台既要提高磨练混沌,也要兼顾推理反应和使用资本。针对大模子计较中的中枢步调,天垓300优化了Attention与MoE。
在Attention计较中,天垓300通过提高矩阵计较与向量计较的并行成果,减少数据读写恭候和冗余计较,在不同精度下终了向上90%的Attention成果,效力优于Hopper架构主流决策。在长序列任务中,居品约略愈加充分地哄骗计较资源,提高磨练与推理成果。在高下文64k的场景中,天垓300的Attention效力高于Hopper决策10%。
针对MoE架构中的大家诊治和数据路由损耗,天垓300通过算法与硬件协同优化,提魁岸家与计较单位哄骗率。在DeepSeek V4 MoE场景中的计较成果碎裂70%,概括磨练效力和性价比优于Hopper决策;在推理场景中,可在保执疏浚反应体验的情况下承载更多并发央求,以疏浚算力参加完成更多推理任务,平均效力高于Hopper决策10%。
在Qwen、GLM、Kimi、DeepSeek等主流模子测试中,天垓300首字延长较Hopper架构主流决策镌汰约20%。针对Decode阶段高频、多卡、少量据量通讯,居品通过镌汰契约支拨、优化链路旅途和数据流转机制,使平均通讯延长镌汰约13%。在GLM 5.2等模子的Decode测试中,效力较Hopper决策提高10%,可为智能编程、办公助手和业务自动化等Agent应用提供愈加实时、指挥的交互体验。在PD永诀中Prefill和Decode的效力齐高于Hopper决策,终了全面碎裂。
天垓300在底层架构上执续翻新。ixSMEX通过提高数据复用率减少访佛访存;ixDPX将动态筹画华夏本需要六条辅导完成的计较压缩至一条;ixTrans则通过无损矩阵转置,镌汰存储冲突和显存支拨,进一步开释芯片计较效力。
南边+记者 郜小平