03 | Phi model + ONNX Runtime + Olive toolkit
Local Home AI:在 AI Hub 上建立可测量的端云协同参考设计
路由器先判断隐私、复杂度与设备状态:高频任务在本地完成,只有最小必要上下文进入 Azure;评测结果再反向校准模型与策略。
HOME / DEVICE TRUST ZONE
原始数据默认留在家庭网络
MICROSOFT FOUNDRY
被策略选中的最小上下文
MODEL ENGINEERING TOOLCHAIN
开源优化 + 平台评测
EXPERIENCE
本地输入
本地完成
最小上下文
增强结果返回本地策略
统一设备动作 / 回复
优化配方
评测 / 版本 / 路由阈值
家庭输入
摄像头事件 · 语音
设备状态 · 自动化上下文
AI Hub 本地推理
Phi|模型家族
ONNX Runtime|开源推理引擎
策略路由器
隐私 · 置信度 · 复杂度
网络状态 · 用户设置
本地动作
理解 · 自动化 · 回复
低延迟 / 离线可用
Foundry Models
PLATFORM
Azure 托管模型平台
复杂推理 / 多模态增强
Agent + AI Search
MANAGED
托管 Agent + 检索
工具 · 会话 · 企业知识
Microsoft Olive
OPEN SOURCE
开源模型优化工具链
量化 · 图优化 · 目标 SoC
Foundry 评测 / 观测
PLATFORM
平台能力|质量 · 延迟 · 成本
版本与回归报告
统一体验
快速本地路径
必要时云端增强
数据 / 事件 / API 流
控制 / 策略 / 治理
SwitchBot / edge
Microsoft Azure
业务结果
适配说明:Olive 不是 Azure 托管服务;模型、runtime、执行提供程序与加速器仍须针对目标 SoC、OS 和量产版本逐项验证。
Business outcome
降低交互延迟和不必要的云调用,同时为复杂任务保留质量上限。
Azure role
Phi 是模型家族;ONNX Runtime 是开源推理引擎;Olive 是开源优化工具链;Microsoft Foundry 提供云端模型、Agent、评测与治理。