微软发布 Phi-4-mini-flash-reasoning 端侧 AI 模型,推理性能大幅跃升
7 月 11 日消息,科技媒体 NeoWin 于 7 月 10 日发布博文称,微软推出了 Phi-4-mini-flash-reasoning 小语言模型,旨在显著提升端侧 AI 模型在数学和逻辑推理方面的能力。在当下 AI 技术迅猛发展的时代,边缘设备、移动应用和嵌入式系统等对先进推理功能的需求愈发迫切,而 Phi-4-mini-flash-reasoning 模型的诞生,正好满足了这些资源受限场景的需求。
在架构设计上,Phi-4-mini-flash-reasoning 创新性地引入了 SambaY 架构。其中,名为 Gated Memory Unit(GMU)的组件是一大亮点。该组件能够在模型内部各部分之间高效地共享信息,极大地优化了模型的运行效率。这一特性使得模型在面对超长输入时,也能够迅速生成答案并完成任务,同时还能高效处理大量数据,理解复杂且冗长的文本或对话,为用户带来流畅且智能的交互体验。
性能层面,Phi-4-mini-flash-reasoning 相较于其他 Phi 模型取得了重大突破。其吞吐量最高提升了 10 倍,意味着在相同时间内,该模型可以处理远超以往的请求数量,或生成多达 10 倍的文本内容,大大提高了工作效率。同时,模型延迟降低至其他 Phi 模型的 1/2~1/3.这使得应用响应更加迅速,为实际应用场景带来了质的飞跃,无论是实时交互类应用,还是对响应速度要求严苛的业务,都能从中受益。
目前,Phi-4-mini-flash-reasoning 新型模型已在 Azure AI Foundry、NVIDIA API Catalog 和 Hugging Face 三大平台上线。这为广大开发者和用户提供了便捷的接入途径,助力他们将该模型集成到各类应用中,进一步推动端侧 AI 在不同领域的广泛应用与发展,为智能设备和应用的智能化升级注入强大动力 。
猜你喜欢 Guess you like it
颜值天花板!OPPO A6s Pro发布:首销1999元起 六年流畅
今日,OPPOA6sPro正式发布,首销1999元起,叠加国补后到手价低至1699.15元起。OPPOA6sPro号称颜值天花板,提供青云直上、好运莲莲、夜月生辉三款配色,采用旗舰同款一体冷雕工艺,视
3天前
REDMI K90 Max配置汇总:除了风扇还有不少惊喜
REDMIK90Max将于4月21日发布,这款新机也迅速成为近期性能旗舰市场中讨论度最高的产品之一。原因并不复杂,一方面,这是REDMIK系列第一次引入“Max”命名;另一方面,官方已经明确释放出多个
3天前
iPhone Fold首年销量预计600万至700万 占全球折叠屏市场22%
据Digitimes预测,iPhoneFold首年销量预计600万至700万台,占全球折叠屏手机市场约22%份额。即便其定价约2500美元,高于三星与华为同类产品,苹果仍有望领跑市场。作为苹果首款折叠
3天前
小米商城上架REDMI R70m:水滴屏+国产6nm芯片 1799元起
小米商城最新上架了一款名为REDMIR70m的新机,起售价定在1799元。这款机型在配色上提供了丰富的选择,包括羽雾紫、冷雾蓝、星岩黑以及羽雾白四种时尚配色,满足不同消费者的审美需求。在存储规格上,R
3天前
K90 Max续航拉满!8550mAh+100W快充 边玩边充不发烫
REDMIK90Max将于4月21日发布,目前已进入官方预热阶段。今日,REDMI手机官微宣布,REDMIK90Max将配备8550mAh大电池,采用16%超高含硅量设计。同时支持100W小米澎湃秒充
3天前
REDMI K90 Max官宣搭载天玑9500+独显芯片D2:支持全游戏16
REDMIK90Max将于4月21日19:00发布,定位性能魔王,主打极致游戏体验。今天官方终于官宣核心配置,K90Max搭载天玑9500+独显芯片D2双芯组合,支持全游戏165fps插帧。天玑950
4天前






