Браузер становится средой выполнения ИИ — но только для ограниченных задач

Ноутбук с визуализацией локального ИИ в браузере на рабочем месте разработчика.

Анонс Microsoft от 19 ноября вносит практическое изменение в веб-платформу Edge: часть операций с ИИ теперь может выполняться внутри браузера на устройстве пользователя, а не исключительно через удалённый сервис. Встроенная малая языковая модель Edge переходит с Phi-4-mini на Aion Instruct — модель с 2,3 млрд параметров, рассчитанную на текстовые задачи на устройстве. Сопутствующий Prompt API предоставляет сайтам и расширениям браузера интерфейс JavaScript для работы с этой моделью. Microsoft описывает Aion как более компактную и быструю модель по сравнению с Phi-4-mini, поддерживающую распространённые задачи: генерацию текста, суммирование, выполнение инструкций и структурированный вывод (Microsoft Edge Blog).

Важно понимать: браузер не превращается в универсальную замену облачным моделям. Компактная локальная модель особенно полезна, когда у задачи есть чёткая цель, предсказуемая форма и приемлемый сценарий сбоя. Речь может идти о суммировании текста, перефразировании предложения, извлечении полей в заранее заданную структуру, классификации намерения или поддержке несложной логики приложения. Сайт может использовать модель, чтобы определить, какой из небольшого набора маршрутов лучше соответствует запросу пользователя, превратить длинную заметку в короткий черновик или предложить более ясную формулировку перед отправкой текста. Такие операции удобны именно потому, что продукт способен заранее определить, каким должен быть хороший результат, и что делать, если результат отсутствует или оказался неточным.

Платформа Microsoft также разделяет общие запросы к модели и более специализированные возможности. Prompt API тестируется в рамках origin trial, а Decisions API пока остаётся экспериментальной предварительной версией для разработчиков. Последний предназначен для вопросов о тексте, требующих ответа «да» или «нет», выбора из нескольких вариантов либо выставления оценки, и возвращает структурированное решение, а не сгенерированный фрагмент. Это делает его подходящим для классификации намерений, маршрутизации контента и ранжирования. Одновременно он подчёркивает ключевое ограничение: разработчикам предлагают опробовать новый путь выполнения, а не стабильный универсальный контракт, от которого каждый продукт должен зависеть уже в первом релизе.

Та же логика ограниченных задач применима к Writing Assistance API в Edge. Microsoft документирует экспериментальные API для суммирования, написания и перефразирования текста с помощью встроенной малой языковой модели браузера (Microsoft Learn). Эти возможности проще внедрять ответственно, поскольку исходный текст может оставаться перед глазами пользователя. Продукт способен показать результат как предложение, сохранить исходные данные и дать пользователю возможность принять, отредактировать или отклонить его. Если локальная модель недоступна, интерфейс может переключиться на серверный путь или обычное ручное редактирование. Такой дизайн надёжнее, чем незаметно выдавать сгенерированный текст за окончательную истину.

Локальное выполнение меняет инженерный баланс, но не устраняет компромиссы. Microsoft утверждает, что Prompt API запускает модель на том же устройстве, где находятся входные и выходные данные, а введённый текст не покидает устройство и не собирается для обучения моделей ИИ. После первоначальной загрузки модели работа с запросами не требует сетевой задержки, а предоставляемая браузером модель используется всеми сайтами в рамках данной установки Edge (Prompt API documentation). Эти свойства делают локальный рерайт или классификатор привлекательными, особенно когда отправлять текст во внешний сервис инференса нежелательно. Однако доступность и скорость функции по-прежнему зависят от загрузки при первом использовании, требований к оборудованию, статуса браузерного API и пользовательских настроек.

Для веб-продукта правильнее всего мыслить об этом как об иерархии сред выполнения. Aion Instruct — один из вариантов для небольших, хорошо очерченных операций, когда Edge способен её предоставить. Облачный инференс остаётся актуальным, если нужны более широкая поддержка устройств, более сильное рассуждение или стабильное поведение. Отдельным вариантом остаются собственные локальные развёртывания с использованием WebNN, WebGPU или ONNX Runtime — когда команде требуется больше контроля над моделью и стеком выполнения. Браузерный API может упростить доступ к общей модели, но не отменяет вопросы совместимости, качества, проверки приватности и проектирования резервных сценариев.

Первый вопрос при реализации должен заключаться не в том, может ли сайт вызвать Prompt API. Важно понять, подходит ли конкретная операция для выполнения на устройстве: достаточно ли у неё узкая цель, готов ли пользователь мириться с неидеальным результатом, можно ли сохранить исходные данные и существует ли детерминированная альтернатива, если локальный вывод недоступен? Естественными кандидатами будут создание кратких изложений, перефразирование, структурированное извлечение данных, классификация намерений и небольшие решения по маршрутизации. Задачи, требующие широкого охвата фактов, принятия решений с высокими последствиями или одинакового поведения во всех браузерах, обосновать гораздо сложнее. Объявление Edge лучше воспринимать как приглашение проверять по одной ограниченной задаче за раз, рассматривая браузер как дополнительную среду выполнения ИИ, а не как единственную.

Как Aion и Prompt API меняют веб-продукт

Практическое предложение Microsoft заключается в том, чтобы сделать небольшую языковую модель частью браузерной среды, а не ещё одним сервисом, который каждый сайт должен загружать, размещать у себя или вызывать по сети. В объявлении от 19 ноября Microsoft называет Aion Instruct новой встроенной моделью для Edge, заменившей в этой роли Phi-4-mini. Сопутствующий Prompt API предоставляет сайтам и расширениям браузера интерфейс JavaScript для обращения к локальной модели с ограниченными задачами. Это важное различие: команда продукта не получает универсального облачного ассистента в каждой вкладке. Ей предлагается управляемая браузером возможность выполнять вывод, полезную в тех случаях, когда входные данные, результат и допустимый диапазон качества достаточно чётко ограничены.

Самое непосредственное изменение касается архитектуры. Сайт может создать сеанс работы с моделью, отправить запрос, получить сгенерированный текст, а затем освободить сеанс после завершения операции. В документации Microsoft по Prompt API описана поддержка потоковых ответов: интерфейс может показывать результат по мере его создания, не дожидаясь полного ответа. Там же документированы способы ограничить генерацию и отслеживать доступность модели и ход её загрузки. Для продукта это не косметические детали. Жизненный цикл сеанса влияет на использование памяти; потоковая выдача — на воспринимаемую задержку; ограничения — на возможность встроить результат в структурированный рабочий процесс; а статус загрузки позволяет объяснить задержку при первом запуске вместо того, чтобы создавать впечатление неисправности функции.

Поэтому типичная интеграция больше похожа не на «добавить чат-бота», а на «добавить локальную операцию». Инструмент для работы с текстом может отправить текущий абзац с инструкцией переписать его в заданной тональности. Интерфейс поддержки — классифицировать запрос пользователя перед выбором маршрута. Форма может попросить модель извлечь из текста небольшой набор полей, а функция доступности — создать краткое альтернативное описание или резюме. В каждом случае браузер предоставляет путь выполнения модели, но приложение по-прежнему отвечает за интерфейс, структуру запроса, проверку результата, разрешения и решение о том, что делать при недоступности модели. Microsoft описывает встроенные API ИИ именно в этой задачно-ориентированной рамке, наряду с возможностями написания, перефразирования и создания кратких изложений, представленными в документации по Writing Assistance APIs.

Такое разделение ответственности важно, поскольку локальная генерация не делает результат достоверным по умолчанию. Модель может создать неполный, неуклюжий текст или текст, не соответствующий нужному приложению формату. Если результат управляет видимой подписью, маршрутом поиска или структурированным действием, страница должна проверять его и сохранять понятный путь без участия модели. Полезно рассматривать модель как необязательное преобразование уже имеющихся данных: исходный текст остаётся доступным, сгенерированную версию можно предварительно просмотреть или отменить, а при сбое генерации приложение продолжает работу с исходными данными. Такой подход повышает устойчивость функции и одновременно сохраняет роль модели достаточно узкой, чтобы её можно было проверять.

Браузерный вариант также меняет решение о развертывании по сравнению с обычным облачным API. При использовании облачной модели приложение отправляет запрос на конечную точку провайдера и должно учитывать сетевые задержки, учетные данные сервиса, лимиты использования, стоимость запросов и обработку данных за пределами устройства. В случае Aion через Prompt API предполагается, что вывод модели выполняется на устройстве пользователя под управлением Edge. В анонсе Microsoft это описывается как часть гибридного подхода: локальное выполнение подходит для одних операций, а более мощные удаленные модели остаются уместными для задач, выходящих за рамки браузерной модели. Это не замена облачному ИИ по принципу «или — или», а еще один уровень выполнения, который веб-продукт может выбирать для отдельных взаимодействий.

Такой уровень особенно интересен для повторяющихся несложных операций. Локальный запрос на перефразирование или классификацию может избавить от необходимости отправлять один и тот же текст на сервер и оставаться полезным в ситуациях, когда приложению важно выполнять операцию на устройстве. При этом разработчикам не следует считать, что «на устройстве» означает мгновенную работу или абсолютную приватность во всех смыслах. Перед первым использованием браузеру может потребоваться загрузить модель, а страница по-прежнему должна решать, какой контент помещать в промпты и что делать с возвращенным текстом. Поэтому конфиденциальность продукта зависит от всей архитектуры функции, а не только от места выполнения вывода модели. Документация и анонс Microsoft предоставляют браузерную возможность, но не отменяют необходимость управления данными на уровне приложения.

Главная альтернатива — поставлять модель или вызывать ее через собственный стек приложения. Команда может создать облачную функцию, включить модель или среду выполнения в поставку либо изучить низкоуровневые варианты, такие как WebNN, WebGPU или развертывание на базе ONNX. Эти подходы дают больше контроля над выбранной моделью, средой выполнения, контрактом промптов и графиком релизов, но одновременно перекладывают на команду большую часть работы по доставке. Приложению может понадобиться упаковывать файлы модели, управлять загрузками, учитывать различия между устройствами и самостоятельно поддерживать путь выполнения. Браузерная модель способна сократить это дублирование: если Edge уже управляет нужной моделью, сайт может обращаться к поддерживаемому браузерному интерфейсу, не распространяя ту же модель отдельно среди каждого пользователя.

Общая загрузка через браузер — самое очевидное преимущество такой схемы на уровне продукта. Модель связана с возможностью браузера, а не с приватным пакетом одного сайта, поэтому приложению не нужно заставлять собственных пользователей скачивать отдельную копию только ради небольшой локальной функции. Это упрощает конвейер ресурсов сайта и позволяет сосредоточиться на определении возможностей, поведении сессии, промптах и резервных сценариях. Однако это не означает, что модель уже доступна конкретному пользователю. При первом запуске все еще могут потребоваться проверка доступности и загрузка модели, и интерфейс должен учитывать это состояние, прежде чем показывать элемент управления, который выглядит готовым к работе сразу.

API также создает полезную границу между браузерной инфраструктурой и логикой продукта. Браузер может сообщить, удастся ли создать сессию модели, и показывать ход подготовки, пока модель становится доступной. Затем страница решает, показать ли улучшенную функцию, отложить ее или использовать другую реализацию. Когда сессия больше не нужна, приложение может уничтожить ее, вместо того чтобы считать модель невидимой постоянной зависимостью. Такой подход лучше подходит функциям, запускаемым в определенных точках взаимодействия, например «Перефразировать», «Суммировать» или «Классифицировать», чем предположению, что каждая часть сайта должна постоянно обращаться к языковой модели.

Для разработчиков главный вопрос теперь не в том, может ли JavaScript вызывать ИИ-модель. Важно понять, имеет ли конкретное действие продукта ограниченный вход, проверяемый результат и реалистичный запасной вариант на случай, если браузер не сможет выполнить локальный вывод модели. Aion и Prompt API упрощают создание прототипа такого класса функций, поскольку модель и механизм выполнения предоставляет Edge. Но они не устраняют инженерную работу с контрактами промптов, проверкой результатов, контролем со стороны пользователя, состоянием загрузки и альтернативными путями. Именно эти вопросы подводят к следующему этапу реализации: как продукту определить реальные возможности браузера и устройства, прежде чем обещать пользователю взаимодействие на базе ИИ.

Скрытая цена реализации — определение возможностей

Главная инженерная ошибка — обращаться с Prompt API как с обычной функцией браузера. Страница может содержать правильный JavaScript и всё равно не суметь выполнить локальный запрос. Доступность зависит от канала Edge и статуса функции, операционной системы, требуемой версии Edge, графических возможностей устройства, настроек браузера и административных политик. Aion Instruct и Prompt API не являются универсальной базовой возможностью, автоматически доступной каждому посетителю; это функции, наличие которых приложение должно определять во время работы.

Эту проверку нужно выполнять до того, как продукт пообещает пользователю результат с помощью ИИ. Текущие требования включают как минимум 3 ГБ видеопамяти, достаточный объём хранилища в профиле браузера и подключение к сети без ограничений по трафику для первой загрузки модели. Модель поставляется через браузер, но перед локальным выполнением запросов браузер всё равно должен загрузить и сохранить её. Поэтому устройство может пройти поверхностную проверку версии браузера, но не завершить настройку из-за нехватки доступной видеопамяти, места в профиле или подходящих сетевых условий. Корпоративные политики также могут влиять на доступность функции, а настройки ИИ на устройстве могут быть отключены. В итоге получается матрица возможностей, а не один тест с ответом «да» или «нет».

В полноценном веб-продукте определение возможностей должно быть частью пользовательского опыта этой функции. Сначала проверьте наличие нужного API, затем — возможность создать сессию и доступность модели, прежде чем помещать пользователя в сценарий, зависящий от неё. Если API предоставляет сведения о загрузке модели или её доступности, используйте их, чтобы отличать состояние «не поддерживается» от состояния «подготовка продолжается». Это различие важно: пользователю, который ждёт первую загрузку, нужно показать состояние подготовки, а на управляемом устройстве с отключённым ИИ на устройстве предложить другой вариант. Кроме того, приложение должно учитывать, что возможности могут меняться от визита к визиту или от устройства к устройству. Поэтому проверка должна выполняться в работающем приложении, а не основываться только на предположениях, сделанных во время сборки.

Ограничения по времени не менее важны. Локальное выполнение избавляет от обращения к удалённому сервису, но не делает каждый запрос мгновенным, а первоначальная настройка модели добавляет отдельную задержку. Установите ограничение времени и для подготовки модели, и для самого запроса. Если любой из этапов превышает этот предел, интерфейс должен прекратить ожидание и задействовать заранее определённый запасной вариант. Им может быть серверная реализация, обычный сценарий без ИИ или простое сообщение, позволяющее пользователю продолжить работу без помощи. Главное — чтобы запасной путь был предсказуемым: пользователь должен понимать, что произойдёт, если локальный вариант недоступен, работает слишком медленно или прерывается.

Самый безопасный шаблон проектирования — сохранять исходные данные на каждом шаге. Локальная переработка текста должна выводить предложенную версию рядом с введённым пользователем текстом, а не заменять исходник до подтверждения результата. Резюме, классификацию или извлечённое поле следует помечать как сгенерированный результат, который можно проверить, сохраняя возможность восстановить исходный документ или запрос. Это полезно при обычной обработке ошибок, но особенно важно, если сессия модели завершается сбоем после того, как интерфейс уже изменил состояние. Если браузер не может создать сессию, загрузка заблокирована или время ожидания запроса истекло, пользователь не должен потерять текст, запустивший операцию.

При проверке возможностей нужно учитывать и статус самих API. Prompt API предоставляется через механизм origin trial, а связанные с ИИ браузерные интерфейсы остаются экспериментальными или ограничены сценариями предварительного просмотра для разработчиков. Этот статус влияет на то, какую часть логики продукта стоит на них строить. Команда может протестировать взаимодействие, оценить его полезность и выяснить, какие задачи выигрывают от локального выполнения, но не должна считать экспериментальную точку входа стабильным контрактом, одинаково работающим во всех браузерах. Между вызовом JavaScript и успешным результатом находятся браузер, операционная система, аппаратное обеспечение устройства, состояние профиля и среда политик.

Практическая реализация поэтому должна предусматривать три пути: локальную помощь, если проверка возможностей завершается успешно; ограниченную повторную попытку или состояние подготовки, пока модель ещё становится доступной; и предсказуемый резервный сценарий, если требования не выполнены. Такие исходы следует журналировать, не смешивая их в одну категорию ошибок. Учёт неподдерживаемых устройств, отключённых настроек, ограничений политик, сбоев загрузки, тайм-аутов и успешно завершённых операций даст команде понимание того, где функция работает, а где создаёт лишние препятствия. Пока API не достигли зрелости, эти данные ценнее предположения, что удачная демонстрация отражает весь спектр пользователей, которых должен обслуживать рабочий сайт.

Где командам стоит начинать тестирование — и где пока лучше подождать

Безопаснее всего начинать с функции, в которой модель улучшает уже существующий рабочий процесс, но не становится единственным способом его завершить. Хороший пример — локальная переработка текста: пользователь может попросить сделать формулировку короче, понятнее или официальнее, а исходный вариант останется доступным, если результат окажется слабым или браузер не сможет запустить модель. Суммирование работает по тому же принципу, если полный исходный текст остаётся на экране и доступен серверный или ручной вариант. В документации Microsoft Writing Assistance APIs описано это семейство задач с поддержкой браузера, а Prompt API предоставляет более универсальный интерфейс для приложений, которым нужно отправлять запросы встроенной языковой модели.

Классификация и маршрутизация также подходят для первых пилотов, если воспринимать результат как рекомендацию, а не как безусловное решение. Локальная модель может помочь распределить входящее сообщение, предложить намерение, выбрать путь навигации или определить, какую помощь для доступности предложить. Эти сценарии привлекательны тем, что приложение может сохранить исходные данные и перейти к детерминированному маршруту, если модель недоступна или не уверена в ответе. Тот же принцип применим к лёгким функциям доступности: модель на стороне браузера может помочь подготовить версию простым языком, краткое описание или альтернативное представление, но продукт не должен удалять исходное содержимое или считать сгенерированный текст корректным для каждого пользователя.

До выпуска любого из таких экспериментов командам следует собрать набор тестовых примеров из репрезентативных входных данных, безопасных с точки зрения разрешений. В него должны входить короткие и длинные тексты, неоднозначные запросы, некорректное содержимое, разные стили письма и враждебные инструкции, встроенные в текст под контролем пользователя. Каждую попытку нужно оценивать не только по наличию ответа. В тестах качества следует фиксировать, сохраняет ли результат смысл, соблюдает ли запрошенный формат, не выдумывает ли детали и остаётся ли пригодным к использованию, когда модель отказывается отвечать или выдаёт неполный результат. Для классификации и маршрутизации набор должен включать случаи, когда правильное действие — оставить входные данные без изменений или направить их по существующему серверному пути.

Операционные показатели не менее важны, чем качество формулировок. Командам стоит измерять задержку при первом использовании, скорость в повторных сессиях, частоту сбоев, поведение загрузки и влияние на заряд батареи или отзывчивость устройства. Первая загрузка модели и аппаратные требования, задокументированные для Edge, означают, что наличие локального API ещё не гарантирует немедленную доступность модели каждому посетителю. Поэтому полезный эксперимент должен фиксировать выбранный путь: локальная модель, резервная реализация или отсутствие улучшения. Также нужно отличать настоящий ответ модели от тайм-аута, отклонённого запроса, неподдерживаемого браузера, корпоративного ограничения или пользовательской настройки, отключающей ИИ на устройстве.

Проверку конфиденциальности следует начинать с анализа потока данных, а не с предположения, что «на устройстве» автоматически означает безопасность функции. Именно приложение решает, какой текст помещать в запрос, как долго хранить исходные и сгенерированные результаты и отправлять ли какое-либо из этих значений на сервер для журналирования или резервной обработки. С конфиденциальным текстом нужно обращаться в соответствии с действующими политиками продукта, а в запросах следует чётко отделять инструкции приложения от ненадёжного пользовательского содержимого. Локальная работа модели может уменьшить необходимость передавать часть входных данных, но не отменяет требований к срокам хранения, согласию, контролю доступа и проверке злоупотреблений.

Резервный сценарий в браузере должен быть заранее продуманным состоянием продукта, а не исключением, спрятанным в обработке ошибок. Если модель недоступна, интерфейс может сохранить исходный текст, предложить обычный инструмент редактирования, при необходимости задействовать уже имеющуюся серверную возможность или сообщить, что улучшение недоступно. Тайм-ауты должны иметь ограничение, повторные попытки — не загонять пользователя в бесконечный цикл, а сгенерированный текст должен оставаться визуально отличимым, пока пользователь его не примет. Телеметрия резервных сценариев поможет понять, связаны ли сбои с версией браузера, операционной системой, аппаратными возможностями, состоянием загрузки, политиками или конкретной задачей.

Пока эти данные должны определять решение о внедрении. Многое можно выяснить на узких пилотных проектах с обратимым результатом и надёжным не-ИИ-сценарием. Не стоит делать Prompt API, Decisions API или связанные с ними функции письма частью критически важного процесса, пока их интерфейсы остаются экспериментальными, доступны только в предварительном просмотре или зависят от меняющихся ограничений возможностей. Практический критерий — не то, работает ли демонстрация на одной машине разработчика, а то, ведёт ли функция себя предсказуемо в поддерживаемых условиях и продолжает ли помогать пользователям, когда локальная модель отсутствует. Aion Instruct и Prompt API делают выполнение инференса на стороне браузера вполне реалистичным направлением для испытаний, однако момент перехода от тестирования к зависимости производственного продукта должны определять стабильная совместимость, измеренное качество и явно предусмотренные резервные сценарии.