Спор об open-weight AI дошёл до точки, где вопрос “open или closed” уже мало помогает бизнесу. Практический вопрос другой: какие workloads запускать через closed APIs, какие переводить на open-weight models, а где нужен managed inference или self-hosting.

Decision tree для выбора open-weight AI, managed inference, self-hosting and closed APIs

27 июля Dario Amodei из Anthropic опубликовал “Our position on open-weights models” после критики, что компания якобы хочет запретить open-weight AI. HN-тред быстро стал огромным: Firebase показывал 914 points и 1,332 comments. Всё это случилось на фоне Kimi K3, писем стартапов и крупных компаний против broad restrictions, а также developer posts о том, что open models уже становятся практичным инструментом.

Позиция Anthropic уже, чем её пересказ в соцсетях. Amodei прямо написал, что Anthropic never advocated for a ban on open-weights models. Open-weight models без dangerous capabilities он назвал public good. Опасения компании касаются powerful models в руках authoritarian governments, cyber/biological misuse, alignment failures, industrial-scale distillation и released weights, которые нельзя отозвать как closed API.

Для builders open weights решают реальные задачи: стоимость, data routing, latency, customization, меньше зависимость от одного API provider. Managed open-weight endpoint может быть дешевле и гибче. Self-hosted model может держать данные в нужной среде. Небольшая fine-tuned model иногда лучше frontier API на узком workflow, если есть понятная метрика и хорошие examples.

Но open weights не бесплатны. Они переносят работу в MLOps: GPUs, serving stack, quantization, logging, evaluation, security patches, access control, model provenance and fallback. Экономия на API может превратиться в расходы на инфраструктуру и инженеров.

Closed APIs по-прежнему подходят для broad reasoning, general assistants, low-volume experiments, regulated workflows and tasks where managed controls matter. Managed open-weight inference хорош для cost-sensitive products, кастомизации и model portability без собственного GPU-кластера. Self-hosting стоит выбирать только если data residency, latency, privacy or TCO оправдывают operational burden.

Governance checklist должен начинаться с provenance and license. Откуда модель? Разрешено ли commercial use? Это official release или чужая quantization? Затем нужны internal evals: quality, hallucinations, refusal behavior, latency, cost, security behavior and failure modes на ваших задачах, а не только на публичных benchmarks.

Дальше — data policy. Какие данные можно отправлять модели? Где выполняется inference? Логируются ли prompts and outputs? Кто читает logs? Сколько они хранятся? Нужен ли regional provider, private endpoint or self-hosting? Эти вопросы важнее красивой позиции в leaderboard.

Security тоже не опциональна. Для coding, support, cyber workflows or agents нужны red-team tests, review rules, rate limits, anomaly monitoring and kill switch. Если модель вызывает tools, ошибки могут иметь реальные side effects.

Главный вывод: open-weight AI уже не идеология. Это procurement, architecture and operations. Командам нужен не reflexive ban и не вера в любую открытую модель, а workload-by-workload adoption with evidence.