Qwen3.5-9B PD 分离 Benchmark 汇总

发布时间:2026/8/20 8:19:39

Qwen3.5-9B PD 分离 Benchmark 汇总
Qwen3.5-9B PD 分离 Benchmark 汇总测试环境:2 × 8×H100 (H100-003 Prefill, H100-004 Decode),TP=1,Mooncake RDMA1. 单条请求 — 不同 Prompt 长度Prompt 长度实际 tokensTTFTTPOT吞吐总耗时短 (~25 tok)1649.1 ms6.4 ms153.5 tok/s3.34 s中 (~500 tok)85066.9 ms6.4 ms152.3 tok/s3.36 s长 (~2.5k tok)6,33080.1 ms6.5 ms150.3 tok/s3.41

相关新闻

Transformers.js:重新定义浏览器端AI开发的颠覆性框架

Transformers.js:重新定义浏览器端AI开发的颠覆性框架

2026/8/18 12:11:27

Transformers.js:重新定义浏览器端AI开发的颠覆性框架 【免费下载链接】transformers.js State-of-the-art Machine Learning for the web. Run 🤗 Transformers directly in your browser, with no need for a server! 项目地址: https://gitcode.com…

Codex 用户集体暴怒!Token疯狂蒸发的 5 个原因终于找到了

Codex 用户集体暴怒!Token疯狂蒸发的 5 个原因终于找到了

2026/8/19 10:20:08

最近不少朋友都有一个感受,就是codex怎么消耗变快了。之前是100刀的Pro会员随便用,根本用不完(额度那个时候有翻倍)。后续发现100刀的Pro开始不够用了,甚至到最后200刀的刀Pro也开始不够用了。就在2026 年 6 月底&…

STM32F072RB与SLO2016构建工业隔离通信系统

STM32F072RB与SLO2016构建工业隔离通信系统

2026/8/17 15:45:28

1. SLO2016与STM32F072RB的通信能力解析SLO2016是一款专为工业通信设计的数字隔离器芯片,而STM32F072RB则是STMicroelectronics推出的基于ARM Cortex-M0内核的微控制器。这两者的组合能够构建高可靠性的信息传输系统,特别适合需要电气隔离和实时处理的场…

基于毫米波雷达与Wi-Fi模组的低功耗智能安防哨兵设计与实现

基于毫米波雷达与Wi-Fi模组的低功耗智能安防哨兵设计与实现

2026/8/20 8:19:05

1. 项目概述:当安防哨兵遇上AIoT 最近在捣鼓一个挺有意思的小项目,我把它叫做“Ai-WB2-12FRd-04 Sentry Check”。这个名字听起来有点技术范儿,其实核心想法很简单:我想做一个智能、低功耗且能主动“看”和“听”的安防哨兵。这个…

Linux系统未激活水印的成因分析与安全去除方案

Linux系统未激活水印的成因分析与安全去除方案

2026/8/20 8:19:05

如果你在 Linux 桌面环境中,看到屏幕角落显示着“未激活”、“试用版”或“评估副本”的水印,会不会觉得既碍眼又有点不专业?这个水印通常出现在某些需要付费许可的 Linux 发行版或桌面环境(如某些商业版的 KDE Plasma&#xff09…

深入解析AI Agent架构:从前端工程化视角拆解Claude Code源码

深入解析AI Agent架构:从前端工程化视角拆解Claude Code源码

2026/8/20 8:19:05

如果你是一名前端架构师,最近一定被各种“AI Agent”和“Claude Code”的消息刷屏了。但你可能也发现了,大多数文章要么停留在“AI很牛”的概念吹捧,要么就是教你如何安装一个桌面版工具,点到即止。真正能让你看清一个AI智能体内部…

技术面试中的常见误区与全栈工程师能力评估

技术面试中的常见误区与全栈工程师能力评估

2026/8/20 8:19:05

1. 一场啼笑皆非的技术面试实录 那天下午三点半,我正喝着第三杯美式咖啡对抗春困,HR突然敲门说临时安排了一场技术面。推开会议室门的瞬间,我就知道今天的故事不简单——候选人谢飞机(是的,他坚持要用这个花名&#xf…

我如何把关注创作者的整份内容存下来:douyin-downloader 命令行上手实录

我如何把关注创作者的整份内容存下来:douyin-downloader 命令行上手实录

2026/8/20 8:19:05

我如何把关注创作者的整份内容存下来:douyin-downloader 命令行上手实录 【免费下载链接】douyin-downloader A practical Douyin downloader for both single-item and profile batch downloads, with progress display, retries, SQLite deduplication, and brows…

深度学习如何解决自动驾驶在雨雪天气的传感器噪声挑战

深度学习如何解决自动驾驶在雨雪天气的传感器噪声挑战

2026/8/20 8:09:05

1. 自动驾驶的“雪盲症”:一个被低估的致命挑战 自动驾驶汽车在晴朗天气下已经能展现出令人惊叹的稳定性,但一旦遇到雨雪天气,其表现往往会大打折扣,甚至直接“罢工”。这背后的核心原因,并非车辆的动力系统或控制算法…

【文章复现】非线性值迭代自适应动态规划(ADP):离散时间非线性系统的策略迭代自适应动态规划算法研究附Matlab代码

【文章复现】非线性值迭代自适应动态规划(ADP):离散时间非线性系统的策略迭代自适应动态规划算法研究附Matlab代码

2026/8/19 3:36:59

✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。🍎 往期回顾关注个人主页:Matlab科研工作室👇 关注我领取海量matlab电子书和…

【双层规划,节点出清价,绿证交易,CVaR方法】两级电力市场环境下计及风险的省间交易商最优购电模型附Matlab代码

【双层规划,节点出清价,绿证交易,CVaR方法】两级电力市场环境下计及风险的省间交易商最优购电模型附Matlab代码

2026/8/19 9:17:18

✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。🍎 往期回顾关注个人主页:Matlab科研工作室👇 关注我领取海量matlab电子书和…

隐式mpc+自适应mpc+时变mpc,线性时变模型预测控制附Simulink仿真

隐式mpc+自适应mpc+时变mpc,线性时变模型预测控制附Simulink仿真

2026/8/19 8:02:16

✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。🍎 往期回顾关注个人主页:Matlab科研工作室👇 关注我领取海量matlab电子书和…

微信聊天记录如何完整导出?WeChatMsg备份指南:HTML/Word/CSV一键转换

微信聊天记录如何完整导出?WeChatMsg备份指南:HTML/Word/CSV一键转换

2026/8/20 0:08:45

微信聊天记录如何完整导出?WeChatMsg备份指南:HTML/Word/CSV一键转换 【免费下载链接】WeChatMsg 提取微信聊天记录,将其导出成HTML、Word、CSV文档永久保存,对聊天记录进行分析生成年度聊天报告 项目地址: https://gitcode.com…

B站缓存m4s打不开?m4s-converter无损合成MP4,实测1.46GB仅5秒

B站缓存m4s打不开?m4s-converter无损合成MP4,实测1.46GB仅5秒

2026/8/20 0:08:45

B站缓存m4s打不开?m4s-converter无损合成MP4,实测1.46GB仅5秒 【免费下载链接】m4s-converter 一个跨平台小工具,将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter 判断你是否…

告别白模时代:Blender3mfFormat 让 3MF 导入导出一次跑通设计到打印

告别白模时代:Blender3mfFormat 让 3MF 导入导出一次跑通设计到打印

2026/8/20 0:08:45

告别白模时代:Blender3mfFormat 让 3MF 导入导出一次跑通设计到打印 【免费下载链接】Blender3mfFormat Blender add-on to import/export 3MF files 项目地址: https://gitcode.com/gh_mirrors/bl/Blender3mfFormat 按 3MF 官方规范的字面意思,一…

摆脱论文困扰!盘点2026年全网爆红的的AI论文写作工具

摆脱论文困扰!盘点2026年全网爆红的的AI论文写作工具

2026/8/17 12:00:53

一天写完毕业论文在2026年已不再是天方夜谭。2026年最炸裂、实测能大幅提速的AI论文写作工具,覆盖选题构思、文献整理、内容生成、格式排版等核心场景,真正帮你高效搞定论文难题。 一、全流程王者:一站式搞定论文全链路(一天定稿首…

导师推荐!2026最新AI论文工具测评与实用推荐

导师推荐!2026最新AI论文工具测评与实用推荐

2026/8/15 10:10:27

2026年真正好用的AI论文工具,核心看生成的论文质量、低AI味、格式正确、学术适配四大指标。综合实测,千笔AI、ThouPen、豆包、DeepSeek、Grammarly 是当前最值得推荐的梯队,覆盖从免费到付费、从中文到英文、从文科到理工的全场景需求。 一、…

告别游戏崩溃:XCOM 2模组管理器的智能革命

告别游戏崩溃:XCOM 2模组管理器的智能革命

2026/8/18 12:20:24

告别游戏崩溃:XCOM 2模组管理器的智能革命 【免费下载链接】xcom2-launcher The Alternative Mod Launcher (AML) is a replacement for the default game launchers from XCOM 2 and XCOM Chimera Squad. 项目地址: https://gitcode.com/gh_mirrors/xc/xcom2-lau…