Microsoft Edge 将 23 亿参数 AI 模型置于浏览器中:Web 开发者实际能构建什么
Microsoft Edge 的 Aion Instruct 和 Prompt API 将小模型推理带入网站。关键不在于浏览器能否运行 AI,而在于哪些任务适合端侧处理,以及开发者如何应对兼容性、延迟、隐私和回退路径。
浏览器正在成为 AI 运行时,但仅适合边界明确的任务

Microsoft 在 11 月 19 日宣布,Edge 的 Web 平台迎来一项实际变化:部分 AI 工作如今可以在浏览器内、用户设备上完成,而不必全部发送到远程服务。Edge 内置的小型语言模型正从 Phi-4-mini 切换为 Aion Instruct。这是一个拥有 23 亿参数、面向端侧文本任务的模型。配套的 Prompt API 则为网站和浏览器扩展提供了调用该模型的 JavaScript 接口。Microsoft 表示,Aion 比 Phi-4-mini 更小、更快,并支持文本生成、摘要、遵循指令和结构化输出等常见任务(Microsoft Edge Blog)。
需要明确的是,这并不意味着浏览器将成为云端模型的通用替代品。紧凑的本地模型最适合目标明确、形式可预测、失败后果可接受的任务,例如总结文本、改写句子、将内容提取为已知结构、识别意图,或支持轻量级应用逻辑。网站可以用它判断用户请求最匹配的一小组路径,将长笔记压缩成较短的草稿,或在用户提交文字前建议更清晰的版本。这些操作之所以有用,正是因为产品可以定义什么算作好结果,也能规定结果缺失或不够理想时该怎么处理。
Microsoft 也在将通用提示与更专门的能力分开。Prompt API 正通过 origin trial 进行测试,而 Decisions API 仍处于实验性开发者预览阶段。后者面向文本提出的是非此即彼、多项选择和评分问题,并返回结构化决策,而非生成一段文字。因此,它适用于意图分类、内容路由和排序。同时,这也再次凸显了核心限制:开发者获得的是测试一种新执行路径的方式,而不是一个所有产品从首次发布起都应不可或缺的稳定、通用契约。
同样的边界任务逻辑也适用于 Edge 的 Writing Assistance API。Microsoft 记录了使用浏览器内置小型语言模型进行文本摘要、写作和改写的实验性 API(Microsoft Learn)。这些功能更容易以负责任的方式引入,因为原始输入可以始终保留在界面中。产品可以把摘要或改写结果作为建议展示,保留源文本,并让用户接受、编辑或拒绝结果。如果本地模型不可用,界面还可以回退到服务器路径,或交由用户手动编辑。这比悄悄把生成文本当作权威答案更稳妥。
本地执行会改变工程取舍,但不会消除取舍。Microsoft 表示,Prompt API 会在与输入和输出相同的设备上运行模型,输入不会离开设备,也不会被收集用于训练 AI 模型。模型首次下载完成后,提示请求不再需要承担网络延迟;浏览器提供的模型还会在该 Edge 安装中的各个网站之间共享(Prompt API documentation)。这些特性会让本地改写器或分类器颇具吸引力,尤其是在不希望将文本发送给远程推理服务时。不过,首次使用时的下载、硬件要求、浏览器支持状态和用户设置,仍决定了该功能是否真正可用,以及速度是否足够快。
因此,对 Web 产品而言,更合适的思路是采用分层运行时。Edge 能够提供 Aion Instruct 时,它可以承担小型、边界清晰的操作。需要更广泛的设备覆盖、更强的推理能力或更一致的行为时,云端推理仍有价值。如果团队希望更好地控制模型和执行栈,使用 WebNN、WebGPU 或 ONNX Runtime 的自定义本地部署则是另一类选择。浏览器 API 或许能简化对共享模型的访问,但它不会让兼容性、质量、隐私审查或回退设计凭空消失。
第一个实现问题不应是网站能否调用 Prompt API,而应是某项具体操作是否适合在设备端完成:它是否目标明确?用户能否接受不完美的结果?原始输入能否保留?本地推理不可用时,是否有确定性的替代方案?摘要、改写、结构化提取、意图分类和小规模路由决策,都是自然的候选任务。需要广泛事实覆盖、高风险判断,或要求不同浏览器表现完全一致的任务,则更难证明适合交给设备端处理。Edge 的公告更适合被理解为一次邀请:一次只测试一个边界清晰的任务,把浏览器视为额外的 AI 运行时,而不是唯一的运行环境。
Aion 与 Prompt API 将如何改变 Web 产品
微软提出的实际方案,是把小型语言模型纳入浏览器环境,而不是让每个网站都必须下载、托管模型,或通过网络调用另一项服务。在 11 月 19 日的公告中,微软将 Aion Instruct 描述为 Edge 的新内置模型,并表示它将在这一角色上取代 Phi-4-mini。配套的 Prompt API 为网站和浏览器扩展提供了面向 JavaScript 的接口,可以要求这个本地模型执行范围受限的任务。这个区别很重要:产品团队得到的并不是每个标签页里都自带的通用云端助手,而是一项由浏览器管理的推理能力。只有当输入、输出以及可接受的质量范围都相对受控时,它才真正有用。
最直接的变化发生在架构层面。网站可以创建模型会话、发送提示词、接收生成文本,并在任务完成后释放会话。微软的 Prompt API 文档说明支持流式响应,因此界面可以在输出生成过程中逐步展示内容,而不必等待完整答案。文档还介绍了限制生成结果、查看模型可用性以及监测下载进度的方法。对产品而言,这些都不是表面上的细节。会话生命周期会影响内存使用;流式输出会影响用户感知的延迟;约束条件决定结果能否插入结构化工作流;下载状态则决定产品能否解释首次使用时的等待,而不是让功能看起来像是失灵了。
因此,典型集成更像是“加入一个本地操作”,而不是“加入一个聊天机器人”。写作工具可以把当前段落连同指定语气的改写指令发送给模型。支持界面可以先对用户请求进行分类,再选择处理路径。表单可以要求模型从文本中提取少量字段;无障碍功能则可以生成简短的替代描述或摘要。在这些场景中,浏览器提供模型的执行路径,但应用仍然负责用户界面、提示词设计、结果验证、权限控制,以及模型不可用时的处理方式。微软正是以这种面向任务的框架介绍这些内置 AI API,同时在 Writing Assistance APIs 文档中说明写作、改写和摘要能力。
这种责任划分很重要,因为本地生成并不会让输出变得权威。模型可能生成不完整、别扭,或不符合应用预期格式的文本。如果结果会控制可见标签、搜索路径或结构化操作,页面就应当对其进行验证,并保留清晰的非模型处理路径。一种实用做法是把模型视为现有数据的可选转换层:保留原始文本,让生成版本可预览或撤销;生成失败时,应用仍可直接使用未经修改的输入继续运行。这样既能提高功能的韧性,也能把模型的职责限制在足够狭窄、便于测试的范围内。
浏览器提供的这条路径,也改变了与传统云端 API 相比的部署决策。使用云端模型时,应用会向服务商的端点发送请求,并需要考虑网络往返、服务凭据、使用限额、请求成本,以及设备之外的数据处理方式。通过 Prompt API 使用 Aion 时,预期的推理路径位于用户设备上,并由 Edge 负责中介。微软的公告将其描述为混合方案的一部分:本地执行可以处理适合的操作,而对于超出浏览器模型能力范围的任务,更强大的远程模型仍然合适。它并不是要取代云端 AI 的非此即彼方案,而是为 Web 产品增加了一个执行层,可针对特定交互进行选择。
这一层尤其适合重复性高、复杂度适中的操作。本地改写或分类请求可以避免将同一段文本发送到服务器;当应用希望让某项操作留在设备上时,它也能继续发挥作用。不过,开发者不应想当然地认为“设备端”就意味着每次都即时完成,或在所有运营层面都天然私密。浏览器可能需要在首次使用前下载模型,而页面仍然必须决定哪些内容会放入提示词,以及如何处理返回的文本。因此,产品的隐私行为取决于完整的功能设计,而不只是推理在哪里运行。微软的文档和公告提供了浏览器能力,但并没有消除应用层数据治理的必要性。
主要替代方案,是通过应用自己的技术栈部署或调用模型。团队可以构建云端支持的功能,打包模型或运行时,也可以探索 WebNN、WebGPU 或基于 ONNX 的部署等更底层的路径。这些方案能够让团队更好地控制所选模型、运行时、提示词契约和发布节奏,但也会把更多交付负担转移到团队身上。应用可能需要打包模型资源、管理下载、处理设备差异,并自行维护执行路径。浏览器提供的模型可以减少这类重复工作:当 Edge 已经管理相关模型时,网站可以调用受支持的浏览器接口,而不必为每位用户独立分发同一个模型。
共享的浏览器下载,是这种安排在产品层面最明显的优势。模型与浏览器能力相关联,而不是包含在某个网站的私有资源包中,因此应用无需让用户单独下载一份模型,仅为了启用一个小型本地功能。这可以简化网站的资源流水线,让集成工作集中于能力检测、会话行为、提示词和回退方案。不过,这并不保证特定用户的设备上已经存在模型。首次使用仍可能需要检查可用性并下载模型;在展示看起来可以立即使用的控件之前,体验设计必须考虑这一状态。
API 表面也在浏览器基础设施与产品逻辑之间建立了一个有用的边界。浏览器可以告知应用是否能够创建模型会话,并在模型准备就绪的过程中报告进度。页面随后可以决定是展示增强功能、延后处理,还是采用另一种实现。会话不再需要时,应用可以销毁它,而不是把模型当作一个不可见且永久存在的依赖。这更适合那些在明确交互节点运行的功能,例如“改写”“总结”或“分类”,而不是假定网站的每个部分都应持续调用语言模型。
因此,对开发者而言,关键问题并不是 JavaScript 现在能否调用 AI 模型,而是某项产品操作是否具有边界明确的输入、可测试的输出,以及在浏览器无法提供本地推理时仍然可信的回退方案。Aion 和 Prompt API 由 Edge 提供模型与执行机制,因此让这类功能更容易进行原型验证。但它们并没有消除提示词契约、输出检查、用户控制、下载状态或替代路径方面的工程工作。这些问题也正好引向下一个实现问题:在产品承诺提供 AI 驱动的交互之前,应如何检测浏览器和设备的真实能力。
隐藏的实现成本在于能力检测
第一个工程错误,是把 Prompt API 当成普通的浏览器功能。页面即使包含正确的 JavaScript,也未必能够运行本地请求。功能是否可用,取决于 Edge 渠道和功能状态、操作系统、所需的 Edge 版本、设备的图形处理能力、浏览器设置以及管理策略。Aion Instruct 和 Prompt API 并不是每位访问者都会自动获得的通用基线,而是应用必须在运行时发现的能力。
这种发现应在产品向用户承诺 AI 辅助结果之前完成。目前的要求包括至少 3 GB 显存、用户浏览器配置文件中足够的存储空间,以及首次使用下载模型时可用的非计量网络连接。模型由浏览器提供,但浏览器仍需先获取并存储模型,之后会话才能执行本地推理。因此,设备可能通过表面的浏览器版本检查,却因缺少可用图形内存、配置文件空间或完成设置所需的网络条件而失败。企业策略也可能影响功能是否可用,设备端 AI 设置还可能已被禁用。最终得到的不是一个简单的是或否测试,而是一套能力矩阵。
对于真正的 Web 产品,能力检测应被视为功能用户体验的一部分。先检查相关 API 是否存在,再确认能否创建会话以及模型是否可用,然后才让用户进入依赖该能力的工作流。如果 API 提供模型下载状态或可用性信息,应利用这些信息区分“不支持”和“仍在准备中”。这种区分很重要:正在等待首次下载的用户应看到准备状态;而在受管理设备上、设备端 AI 已被禁用的用户,则应获得另一条路径。应用还应预料到能力可能在不同访问时间或不同设备之间发生变化,因此检查应放在运行中的应用里,而不能只依赖构建时的假设。
时间限制同样重要。本地推理可以避免向远程服务往返请求,但并不意味着每个请求都会即时完成,首次模型设置还会增加额外延迟。应分别为模型准备和实际请求设置有界超时。如果任一阶段超过限制,界面就应停止等待并使用预先定义的回退方案。回退可以是服务端实现、传统的非 AI 工作流,或一条让用户无需辅助也能继续操作的简单提示。关键在于回退必须是确定的:当本地路径不可用、速度过慢或被中断时,用户应清楚接下来会发生什么。
最安全的设计模式,是在每一步都保留原始输入。本地改写应将建议版本显示在用户输入文本旁边,而不是在结果被接受前直接替换原文。摘要、分类结果或提取出的字段应标记为可审核的生成输出,同时保留底层文档或请求,以便恢复。这对常规错误处理很有用;而当模型会话在界面已经改变状态后失败时,尤其重要。如果浏览器无法创建会话、模型下载被阻止,或请求超时,用户不应丢失触发该操作的文本。
能力检查还需要考虑 API 本身的状态。Prompt API 正通过源试用路径逐步开放,相关的浏览器 AI 接口仍处于实验阶段,或仅限于开发者预览场景。这种状态会影响产品应围绕它们构建多少逻辑。团队可以测试体验、衡量其是否有用,并了解哪些任务适合本地执行,但不应假设实验性入口会像稳定的跨浏览器契约一样运行。从 JavaScript 调用到成功返回之间,还隔着浏览器、操作系统、设备硬件、配置文件状态和策略环境。
因此,实际实现应准备三条路径:能力检查成功时使用本地辅助;模型仍在准备时进入有界重试或准备状态;不满足要求时使用可预期的回退方案。记录这些结果时,不要把它们统统视为同一种失败。跟踪设备不受支持、设置被禁用、策略限制、下载失败、超时和成功完成等情况,团队才能了解功能在哪些环境中有效、又在哪些地方增加了阻力。在这些 API 成熟之前,这些证据比假设一个看起来很有前景的演示代表了生产网站必须服务的全部用户,更有价值。
团队应先测试哪些场景,哪些场景应暂缓
最稳妥的起点,是选择一个模型能够改进现有流程、但不是完成任务的唯一途径的功能。本地改写就是一个好例子:用户可以要求把文本改得更短、更清晰或更正式;如果结果不理想,或者浏览器无法运行模型,原文仍然可用。当完整源文本可以继续展示,并且有服务器端或人工处理路径时,摘要也遵循同样的模式。Microsoft 的 Writing Assistance APIs 介绍了这类浏览器辅助任务,而 Prompt API 则为需要向内置语言模型发送提示的应用提供了更通用的接口。
分类和路由也适合作为试点,前提是把输出当作建议,而不是未经质疑的决定。本地模型可以帮助整理收到的消息、建议意图、选择导航路径,或判断应提供哪种无障碍辅助。这些用途之所以有吸引力,是因为应用可以保留输入;当模型不可用或信心不足时,仍可沿用确定性的处理路径。同样的原则也适用于轻量级无障碍功能:浏览器端模型或许能帮助生成通俗易懂的版本、简短描述或替代呈现方式,但产品不应丢弃源内容,也不能假定生成的措辞对每位用户都适用。
在发布这些实验功能之前,团队应使用具有代表性且符合权限要求的输入建立测试样本集。样本应覆盖短文本和长文本、含糊请求、格式错误的内容、多种写作风格,以及嵌入用户控制文本中的对抗性指令。每次运行都不应只检查是否返回了响应。质量测试还应记录输出是否保留原意、遵循指定格式、避免凭空添加细节,以及在模型拒答或只生成不完整答案时是否仍然可用。对于分类和路由,测试集还应包含正确做法是保持输入不变,或将其交给现有服务器路径处理的案例。
运营指标与措辞质量同样重要。团队应测量首次使用延迟、重复会话延迟、失败率、下载行为,以及对电池续航或设备响应速度的影响。Edge 文档所列出的首次模型下载过程和硬件要求意味着,本地 API 可用,并不保证每位访客都能立即使用模型。因此,一项有价值的实验应记录实际选择了哪条能力路径:本地模型、回退实现,还是不启用增强功能。同时还应区分真正的模型响应、超时、请求被拒、浏览器不受支持、企业限制,以及用户关闭设备端 AI 的设置。
隐私审查应从数据流开始,而不是先假定“设备端运行”就会自动让功能安全。应用仍然决定将哪些文本放入提示中、原文和生成结果保存多久,以及是否会为了日志记录或回退处理而把其中任一项发送到服务器。敏感文本应遵循产品现有的处理政策;提示还应清楚区分应用指令与不受信任的用户内容。本地运行的模型可以减少传输部分输入的需要,但并不会免除对数据留存、用户同意、访问控制和滥用测试的谨慎要求。
浏览器回退方案应当是经过设计的产品状态,而不是藏在错误处理里的例外情况。如果模型不可用,界面可以保留原文、提供常规编辑工具、在合适时使用现有的服务器能力,或明确说明该增强功能暂不可用。超时应设定边界,重试不能把用户困在循环中;在用户接受之前,生成文本也应始终与原内容有明显区分。随后,回退遥测数据可以帮助判断失败是否集中出现在某个浏览器版本、操作系统、硬件能力、下载状态、策略限制或特定任务上。
目前,这些证据应当成为采用决策的依据。对于结果可逆、且有可靠非 AI 路径的有限范围试点,团队能够获得大量信息。在 Prompt API、Decisions API 或相关写作功能仍处于实验阶段、预览阶段,或能力门槛可能变化时,不宜让核心工作流依赖它们。实际门槛并不是某项演示能否在一台开发机上运行,而是功能能否在受支持的条件下稳定表现,并在本地模型缺失时继续服务用户。Aion Instruct 和 Prompt API 让浏览器端推理成为值得认真测试的方向,但何时从测试转为生产依赖,仍应由稳定的互操作性、经过衡量的质量以及明确的回退行为来决定。","seo_title":"","seo_description":""}],
Comments
Sign in to comment.
No comments yet.