> 新闻
速度2.6倍提升，TencentOS 支持满血版DeepSeek
发布时间：2025-03-17 10:46:56
TencentOS Server AI全面支持满血版DeepSeek R1，在双机16卡的硬件环境上，分别在短输入场景(如知识问答)以及长输入场景(如企业私有信息的检索增强生成)均获得超过2.6倍的推理性能提升!
本性能评估采用2台8卡服务器，显存总量共1536GB，部署TencentOS Server AI版，2台服务器采用RDMA高速网络互联，测试样本采用通用的数据集。分别测试输入200tokens/输出500tokens以及输入6144tokens/输出1024tokens下的吞吐能力，测试结果如下：
TencentOS Server AI是腾讯云发布的一款针对AI场景的操作系统，提供了从基础架构到AI框架以及模型的全栈式AI环境，一方面简化部署，另一方面通过高性能的AI框架，实现大模型如DeepSeek推理效率成倍的增加。
（责编： admin）
免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
如有疑问请发送邮件至：goldenhorseconnect@gmail.com
- 速度2.6倍提升，TencentOS 支持满血版DeepSeek2025-03-17
- 与虞书欣共度白色情人节！海信电视E8Q客厅雪景开启甜蜜暴击2025-03-17
- 景联文与长望智创达成战略合作，携手推进军事垂域模型创新2025-03-17
- 百世集团接入DeepSeek 深化物流AI场景应用助力质效双升2025-03-17
- 央视《新闻联播》重磅报道，研祥金码AI读码技术彰显智造力量2025-03-17
- 李杰官宣：一加 Ace 5 系列手机激活量破百万台2025-03-17
- 光峰科技激光投影点亮岭南骑楼 光影艺术唤醒侨乡文化记忆2025-03-17
- 安吉尔亮相荷兰水展,空间大师系列全屋净水获欧睿国际权威认证2025-03-17
- 广发银行上海分行以案说险：“ETC失效”短信诈骗，车主需警惕2025-03-17
- 欧盟将取消针对企业燃油车队的税收优惠，促进企业车队电气化2025-03-17
