同样的模型、同样的GPU,经过你的优化,还能多处理多少Token?一次算子融合、一项显存管理改进、一套更高效的调度策略,都可能成为推理性能提升的关键。现在,把这些想法放到真实的国产GPU环境中,用代码验证,用成绩说话。FlagOS开放计算全球大赛(赛季二)赛道二——MiniCPM模型推理吞吐性能优化挑战赛正在火热报名中。天数智芯携手FlagOS,邀请开发者围绕MiniCPM5-2B展开全栈优化,在国产算力上探索更高的推理效率!本赛道以MiniCPM5-2B为优化对象,采用FlagOS推理框架vllm-plugin-FL与高性能算子库FlagGems,在天数智芯通用GPU产品与另一国产GPU平台上开展性能优化。开发者可围绕KV Cache与显存管理、动态批处理、算子融合、计算内核等方向展开探索,致力于在保持模型精度、不显著增加时延的前提下,提升推理吞吐量(total tokens/s)。赛事设置4K、16K两种输入长度场景,综合考察吞吐提升与技术方案创新性,性能分权重70%、创新分权重30%。报名截至2026年11月10日,每支队伍不超过3人、支持单人组队,高校、企业、科研院所与独立开发者均可参加。“算力+奖金+指导”全方位支持,让优化想法落到实处针对参赛开发与验证需求,天数智芯联合众智FlagOS社区将提供全方位支持:●畅享免费算力:申请天数智芯算力的团队,经审核通过后,即可前往FlagOS线上实验室免费使用天数智芯算力,开展开发、调试与性能验证;●丰厚奖金激励:一等奖3万元、二等奖2万元、三等奖1万元;●全程技术指导:赛事还将由业界专家提供全程技术指导,帮助参赛者推进优化实践。
