> 新闻

微软拥抱中国AI新贵!Copilot PC本地运行DeepSeek

发布时间:2025-03-04 21:59:41
OK欧意app

OK欧意app

欧意交易app是全球排名第一的虚拟货币交易所。

APP下载  官网地址

本站3月4日消息,微软今天宣布,通过Azure AI Foundry接入DeepSeek的R1 7B和14B蒸馏模型,Copilot PC可实现本地运行这些模型。

其实早在今年1月,微软就宣布要把DeepSeek-R1模型的NPU优化版本带到搭载高通骁龙X处理器的Copilot PC上。

微软表示,这些模型将首先在搭载高通骁龙X处理器的设备上上线,随后扩展到英特尔酷睿Ultra 200V和AMD锐龙处理器的设备。

这些模型运行在NPU上,可以在减少对PC电池续航和散热性能影响的同时,持续获得AI计算能力,同时CPU和GPU可以执行其他任务,提高设备的整体效率。

微软还强调,他们使用了内部自动量化工具Aqua,将所有DeepSeek模型变体量化为int4权重。

不过目前模型的速度仍然较低,14B模型仅为8 tok/sec,而1.5B模型接近40 tok/sec,微软表示正在进一步优化以提高速度。

开发者可以通过下载AI Toolkit VS Code扩展,在Copilot PC上运行DeepSeek模型的全部蒸馏版本(1.5B、7B和14B)。

(责编: admin)

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:goldenhorseconnect@gmail.com