微软正式升级Windows 11系统的底层AI框架
近期,微软微软正式升级Windows 11系统的正式底层AI框架,实验性原生支持GGUF和ONNX两大主流模型格式的升级本地推理,以后用户不用额外安装复杂的底层第三方软件,直接在系统层面就能运行本地大模型,框架门槛直接降到几乎为零。微软
过去普通玩家在Windows电脑上跑本地大模型,正式流程非常繁琐:首先要先下载专门的升级第三方推理工具,接着从开源社区找对应格式的底层模型文件,还要手动配置环境变量、框架调整硬件加速参数,微软哪怕是正式对技术比较熟悉的用户,第一次折腾也要花好几个小时才能跑通,升级普通用户更是底层根本摸不着门道。而且不同的框架工具适配的模型格式还不一样,想换个不同格式的大模型试试,整个配置流程几乎要重来一遍,很多人折腾到一半就直接放弃了。
这次微软升级的Windows ML本地AI推理框架,直接和开源社区深度合作,在系统底层原生加入了对GGUF和ONNX两大主流模型格式的支持。GGUF是现在本地大模型领域的事实标准格式,几乎所有开源社区的主流本地大模型都采用这种格式封装,ONNX是跨平台通用的开放神经网络交换格式,大量工业级AI应用都基于这套格式开发。现在Windows 11系统原生就能直接识别这两种格式的模型文件,开发者不用再做复杂的格式转换,用户也不用额外安装第三方推理环境,直接就能在本地加载运行模型。
为了进一步提升本地运行的性能,微软还和英伟达深度合作,针对Windows平台的硬件适配贡献了大量底层性能优化代码。升级之后系统新增了专门的Windows ML Runtime API,比过去的推理路径拥有更高的运行性能、更深的系统级集成,开发者可以直接调用这套系统接口,快速给应用添加上文本生成、语音识别这类本地AI功能,不用自己从零搭建复杂的推理引擎,开发效率大幅提升。普通用户最直观的感受就是,大模型在自己的Windows电脑上本地运行的速度明显变快,哪怕是普通配置的家用电脑,也能流畅跑起主流的7B级大模型。
在实际使用的过渡层面,微软也做了非常平滑的兼容设计。过去大家广泛使用的ONNX Runtime API依然得到完整的官方支持,不会出现旧的AI应用突然没法运行的问题,同时微软明确表示,未来针对Windows平台的AI性能优化资源,会优先投向全新的Windows ML Runtime API,开发者可以根据自己的项目进度,自主选择合适的迁移时机,不用被迫仓促完成技术升级。这套新的系统接口还直接自带了封装好的文本生成API和语音识别API,开发者不用再自己处理复杂的底层推理逻辑,几行简单的代码就能给应用添加上本地AI能力。
目前这套实验性的原生本地推理能力已经随最新的Windows 11版本推送,后续微软还会持续迭代优化兼容性和运行性能,逐步把本地AI能力变成Windows系统的基础原生能力,让更多普通用户不用折腾复杂配置,就能轻松在自己的电脑上用上完全离线、数据不会上传云端的本地大模型。
相关文章
记者2月3日从全省教育局长会议上获悉,今年我省中小学将实施德育铸魂、智育提质、体教融合、美育熏陶、劳动促进五项行动来贯彻德智体美劳“五育”并举,全面提升育人质量。构建德智体美劳全面发展的培养体系,是发2026-10-31
2026年青少年科学调查体验活动教师交流活动(第一期)在合肥落幕
近日,由中国科协青少年科技中心主办、安徽省青少年科技活动中心承办的2026年青少年科学调查体验活动教师交流活动第一期)在合肥落幕。本次活动搭建全国科技教师对话互鉴平台,旨在互通经验、凝聚思路,带动各地2026-10-31- 声明:本文系转载自互联网,请读者仅作参考,并自行核实相关内容。若对该稿件内容有任何疑问或质疑,请立即与铁甲网联系,本网将迅速给您回应并做处理,再次感谢您的阅读与关注。2026-10-31
微软于2021年10月5日正式开始推送Windows 11,凡符合条件的Windows 10 PC都可免费升级,同时预装Windows 11的各款PC设备也开始上市发售。虽然TPM 2.0要求等问题曾2026-10-31
玻璃主力合约2309高开上行,收于1648元/吨,环比上涨35元/吨。现货方面,全国均价2011元/吨,环比下降3元/吨。供应方面,企业开工率79.74%,环比下降0.33%。整体来看,近期沙河市场出2026-10-31
世嘉高管说明AI使用边界:业务部门借助AI提效,游戏创意工作不交给AI
世嘉高级执行官兼副首席商务官斋藤刚表示,公司在游戏开发中使用AI时采取“非常谨慎”的态度,不会把游戏的创意工作交给AI。他同时说明,世嘉正在发行和企业部门借助AI提高效率,也会用它生成商业想法。世嘉此2026-10-31

最新评论