Mu - 微软推出的小参数语言模型,支持Windows智能体

吐司AI

Mu是什么

Mu是微软推出的小参数语言模型,参数量仅3.3亿,专为在NPU和边缘设备上高效运行设计。模型基于编码器解码器架构,通过硬件感知优化、模型量化及特定任务微调,实现每秒超100 tokens的响应速度。Mu集成于Windows设置,支持将自然语言指令转化为系统操作,如调整屏幕亮度、鼠标指针大小等。与Phi3.5-mini相比,参数量小10倍但性能相当。Mu创新技术包括双重层归一化、旋转位置嵌入和分组查询注意力等,提升训练稳定性和推理效率。Mu支持多种自然语言,能为视力不佳或操作不便的用户提供语音指令辅助功能,未来有望扩展为更通用的智能助手。

Mu - 微软推出的小参数语言模型,支持Windows智能体

Mu的主要功能

  • 系统设置调整:能将自然语言指令转化为系统操作,如调节屏幕亮度、鼠标指针大小等,让用户无需手动查找设置菜单,操作更便捷。
  • 低延迟响应:响应速度快,超过100 tokens/second,确保实时交互流畅。
  • 集成到Windows设置:用户在Windows设置搜索框输入指令,系统自动识别并执行,使用更自然。
  • 多语言支持:支持多种自然语言,用户能用不同语言输入指令,适用范围广。
  • 辅助功能:帮助视力不佳或操作不便的用户基于语音指令完成系统设置,提升系统可访问性。

Mu的官网地址

  • 项目官网:https://blogs.windows.com/windowsexperience/2025/06/23/introducing-mu-language-model-and-how-it-enabled-the-agent-in-windows-settings/

如何使用Mu

  • 硬件要求:Mu 专为在设备上运行而设计,基于神经处理单元(NPU)实现高效运行。需要一台支持 NPU 的设备,例如搭载 Qualcomm Hexagon NPU 的 Copilot+ PC。
  • 安装和配置:Mu 目前仅对 Windows Insider 计划中的 Dev Channel 用户开放。需要加入 Windows Insider 计划,确保设备运行的是 Dev Channel 的最新版本。确保设备已更新到支持 Mu 的 Windows 版本。
  • 打开设置:基于 Windows 搜索栏或快捷键(Win + I)打开 Windows 设置。
  • 输入自然语言查询:在设置的搜索框中输入自然语言查询。例如,“增加屏幕亮度”或“关闭蓝牙”。
  • 获取响应:Mu 将查询映射到相应的设置功能调用,并返回相应的操作或结果。

Mu的核心优势

  • 高效运行:仅3.3亿参数,基于硬件感知优化与模型量化,能在NPU和边缘设备上高效运行,响应速度超100 tokens/second。
  • 技术创新:基于双重层归一化、旋转位置嵌入和分组查询注意力等创新技术,提升训练稳定性和推理效率。
  • 深度集成:深度集成于Windows设置,用户能在搜索框中直接输入自然语言指令,实现便捷操作。
  • 多语言支持:支持多种自然语言,满足不同地区用户需求,提升适用范围。
  • 辅助功能:帮助视力不佳或操作不便的用户用语音指令完成系统设置,体现科技的人性化。
  • 性能平衡:参数量小但性能与大型模型相当,基于量化减少内存和计算需求,保持准确性。

Mu的适用人群

  • 普通电脑用户:帮助普通用户更快速地调整系统设置,如屏幕亮度、音量大小等,提升日常使用电脑的效率和便捷性。
  • 视力不佳或操作不便的用户:为视力不佳或手部操作不便的用户提供辅助支持,帮助他们用语音指令完成系统设置等操作。
  • 追求高效办公的用户:对于需要快速调整系统设置适应不同工作场景的用户,Mu能够节省时间,提高工作效率。
  • 对新技术感兴趣的用户:喜欢尝试和体验最新科技产品的用户感受微软在小参数语言模型和智能助手领域的最新成果。
  • 多语言用户:Mu的多语言支持功能能满足使用多种语言进行电脑操作的用户需求,减少语言障碍带来的不便。
© 版权声明
AiPPT

相关文章

暂无评论

none
暂无评论...