Обновлённая политика Anthropic об использовании сервисов вступает в силу 12 ноября, и её самое важное для бизнеса следствие легко упустить. Это не общий запрет на маркетинговые, политические, исследовательские или издательские материалы, созданные с помощью ИИ. Речь идёт о более чёткой границе вокруг кампаний с обманом: использовании Claude, чтобы скрыть авторство сообщения, создать видимость независимых голосов или искусственно усилить распространение.

Команда коммуникаций проверяет рабочий процесс с ИИ, источниками, проверкой личности и этапами утверждения человеком.

Это различие важно, потому что многие легитимные процессы подготовки контента теперь напоминают отдельные элементы скоординированной операции влияния, если рассматривать каждую задачу по отдельности. Команда может использовать модель ИИ для изучения аудитории, подготовки нескольких вариантов текста, перевода публикаций, планирования распространения и отслеживания реакции. Каждый такой шаг сам по себе может быть обычным. Риск возникает, когда тот же процесс создаёт фиктивные личности, скрывает спонсора, выдумывает независимые издания или создаёт впечатление, будто за одной организацией стоят множество не связанных между собой участников.

Практический ответ — не запрещать сотрудникам использовать Claude для подготовки черновиков. Нужно сделать в самом процессе видимыми идентичность, спонсорство, доказательную базу и согласования. Если команда не может ответить, кто владеет каналом, кто одобрил утверждение, какой источник его подтверждает и мог ли читатель разумно принять материал за независимое высказывание, у неё есть проблема с управлением — даже если ни одно правило использования модели формально не нарушено.

Что изменилось 12 ноября

Anthropic объявила об обновлённой политике 8 октября. Компания сообщила, что большинство изменений уточняют уже действующие правила, а также добавляют примеры более продолжительной и самостоятельной работы моделей. Разрозненные ограничения были объединены в новый раздел под названием «Не участвуйте в обманных кампаниях или искусственной активности». Anthropic уточняет, что этот раздел распространяется на обманные действия как политического, так и коммерческого характера.

Речь идёт не только о создании ложных текстов. В обновлении описываются попытки скрыть, кто стоит за сообщением, усилить контент с помощью фиктивных аккаунтов или публикаций, а также создать инструменты или инфраструктуру для операций влияния. Иными словами, проверке подлежит система кампании в целом, а не только наличие фактической ошибки в отдельном абзаце.

Anthropic также уточнила формулировки, связанные с выборами. Теперь раздел о выборах сосредоточен на введении избирателей в заблуждение и нарушении демократических процессов; при этом общий запрет на персонализированную агитацию и адресное обращение с призывами голосовать был снят. Компания отмечает, что легитимное гражданское применение остаётся возможным — например, перевод информации для избирателей или подготовка уведомлений об исправлении проблем с бюллетенями, — если процесс не опирается на обман, не использует персональные данные ненадлежащим образом и не создаёт неаутентичное усиление.

Для обычного бизнеса главное здесь то, что коммерческое влияние прямо включено в область действия правила. Запуск продукта, кампания по укреплению репутации, программа повышения видимости в поиске или политическая адвокация не становятся допустимыми только потому, что не относятся к избирательной операции. Если план зависит от притворства, будто скоординированные сообщения исходят от независимых людей или организаций, слово «маркетинг» проблему не решает.

Граница проходит между помощью и представлением

Полезный способ оценить задачу по созданию контента с помощью ИИ — отделить помощь от представления.

Помощь означает, что модель помогает известной организации выполнять работу, за которую организация готова отвечать. Модель может суммировать интервью с клиентами, предлагать заголовки, переводить пресс-релиз, готовить первый черновик, классифицировать отзывы в службу поддержки или превращать утверждённое описание продукта в тексты для разных каналов. Организация остаётся узнаваемой, а проверяющий может проследить важные утверждения до подтверждающих их данных.

Представление — другое дело. Оно начинается, когда процесс просит модель создать видимость человека, издания, сообщества или консенсуса, которых на самом деле не существует. Примеры: создание профилей, выдающих себя за реальных людей; подготовка комментариев, чтобы кампания казалась популярной; публикация отзывов, контролируемых компанией, как будто они независимы; или переписывание материалов под вымышленными именами авторов.

Различие не всегда заметно в самом запросе. Фраза «напиши десять постов от имени десяти местных жителей» может означать десять одобренных представителей с раскрытыми связями. Но она же может означать десять выдуманных граждан, призванных создать впечатление низового движения, за которым стоит одна организация. Слова похожи; операционные факты — нет.

Именно поэтому фильтр на уровне модели не может быть единственным средством контроля. Система безопасности может распознать прямой запрос на создание сети фальшивых аккаунтов, но пропустить последовательность, в которой отдельные запросы касаются сегментации аудитории, биографий персонажей, календарей публикаций, ответов и показателей вовлечённости. Собственные испытания Anthropic, посвящённые выборам, описали эту многоэтапную проблему: вредоносную кампанию можно разбить на задачи, которые по отдельности выглядят безобидными.

Поэтому компании следует проверять рабочий процесс целиком, а не только отдельные запросы. Главный вопрос звучит так: что разумная аудитория решит о происхождении, независимости и популярности этого материала?

Практический тест для маркетинговых и коммуникационных команд

Перед запуском кампании с использованием ИИ задайте пять вопросов.

  1. Кто несёт ответственность? Укажите юридическое лицо, отдел, клиента или конкретного человека, отвечающего за контент. Формулировки вроде «команда по работе с сообществом» недостаточно, если никто не может утвердить исправления или ответить на жалобы.

  2. Какую идентичность увидит аудитория? Зафиксируйте аккаунт, издание, автора, представителя или организацию, от имени которых будет опубликован материал. Если идентичность вымышленная, объясните, зачем она нужна и будет ли аудитория об этом уведомлена.

  3. Какие связи нужно раскрыть? Сайт с обзорами под контролем компании, отзыв сотрудника, оплаченный автор контента, рассылка, финансируемая клиентом, или общественная организация могут быть вполне легитимными. Но материал не должен создавать впечатление независимости, которой на самом деле нет.

  4. Какие доказательства подтверждают утверждения? Храните исходный документ, результат тестирования, запись о клиенте, публичную отчётность или другие подтверждения каждого существенного утверждения. Сгенерированный текст доказательством не является.

  5. Может ли распространение создать искусственный консенсус? Ищите дублирующиеся или почти одинаковые публикации, скоординированные ответы, автоматизированную вовлечённость, повторно используемые идентичности или сеть сайтов, которая выглядит независимой, но имеет общего спонсора и единый редакционный процесс.

Ответ «да» на пятый вопрос ещё не означает автоматически, что действия незаконны, но это серьёзный сигнал остановиться. До публикации передайте план на проверку юристам, команде по доверию и безопасности или руководителю коммуникационного направления.

Для чего команды по-прежнему могут использовать Claude

Изменение политики не следует воспринимать как запрет на практическую автоматизацию контента. Прозрачный рабочий процесс по-прежнему способен существенно сэкономить время.

Команда по коммуникациям может предоставить утверждённую справку с фактами и попросить Claude подготовить черновик пресс-релиза, короткое письмо клиентам, раздел часто задаваемых вопросов и версии на нескольких языках. Продуктовая команда может использовать его для преобразования заметок о выпуске в документацию, выявления неоднозначных утверждений или создания чек-листа для проверки. Редакция может применять его для расшифровки, перевода, структурирования справочной информации и подготовки вопросов — при условии, что издание сохраняет редакционную ответственность и не фабрикует источники или подписи авторов.

Кампания или некоммерческая организация может использовать инструмент ИИ для подготовки информации для избирателей, перевода публичных разъяснений, анализа агрегированных данных о явке там, где это разрешено, или составления материалов для коммуникации с чётким указанием отправителя. Сам факт сегментации аудитории не делает сообщение обманным. Опасность возникает при скрытом спонсорстве, выдаче себя за другое лицо, фабрикации доказательств или таргетинге на основе чувствительных персональных данных без законного и этически обоснованного основания.

Команды поддержки клиентов и сообщества также могут использовать ИИ для подготовки вариантов ответов. Им следует не создавать впечатление, будто один сотрудник представляет большую группу никак не связанных между собой клиентов, и не генерировать отзывы от людей, у которых не было заявленного опыта. Помощник, который помогает известному представителю вести коммуникацию, — это другой продукт по сравнению с системой, предназначенной для создания видимости органичного общественного мнения.

Тот же принцип действует и в отношении видимости в поиске. Издатель может использовать ИИ для улучшения ясности, перевода статьи, организации базы знаний или создания явно обозначенного ресурса компании. Но ему не следует строить сеть якобы независимых сайтов, которые повторяют тезисы спонсора, скрывая связь с ним. Поисковые системы и системы ИИ, формирующие ответы, являются частью информационной среды; попытка наполнить их сведениями о ложной независимости всё равно остаётся проблемой происхождения контента.

Почему политика модели — не весь правовой анализ

Политика использования Anthropic — это договорное правило и требование уровня платформы. Она не заменяет местное законодательство, рекламные стандарты, избирательное право, требования к конфиденциальности, трудовые нормы или внутреннюю политику компании в отношении бренда.

В США окончательное правило Федеральной торговой комиссии о поддельных отзывах и рекомендациях охватывает несколько смежных практик. Оно запрещает фальшивые или недостоверные отзывы потребителей, в том числе отзывы от несуществующих людей или людей, которые не сталкивались с описанным в отзыве опытом. Правило также касается нераскрытых рекомендаций инсайдеров, контролируемых компанией сайтов с отзывами, выдаваемых за независимые, а также покупки и продажи поддельных показателей в социальных сетях в коммерческих целях.

Практическое пересечение очевидно. Рабочий процесс может создать риск, даже если команда никогда не использует выражение «операция влияния». Запрос к ИИ-системе придумать довольных клиентов, создать группу выглядящих независимыми сайтов о продукте или искусственно увеличить вовлечённость может затрагивать не только политику поставщика модели, но и нормы о защите потребителей. Применимое право зависит от юрисдикции и конкретных обстоятельств, поэтому здесь следует обратиться за квалифицированной консультацией, а не делать вывод, что любой автоматизированный пост незаконен.

Командам, работающим за пределами США, следует провести такую же оценку с учётом местных правил рекламы, конфиденциальности, платформ и выборов. Трансграничные кампании особенно легко неверно оценить: раскрытие информации, достаточное на одном рынке, может не соответствовать требованиям другого, а у конкретного канала могут быть собственные требования к аутентичности.

Лёгкая система учёта происхождения контента

Большинству небольших команд не нужна крупная платформа для соблюдения требований, чтобы держать ситуацию под контролем. Нужна запись, которая сопровождает работу на всех этапах.

Для каждой кампании или постоянного потока контента ведите краткий лист происхождения, включающий:

  • владельца и редактора, утверждающего материал;
  • аккаунты, домены и названных представителей, от имени которых публикуется контент;
  • цель и предполагаемую аудиторию;
  • связь между издателем и организацией, финансирующей работу;
  • исходные файлы для фактических утверждений, статистики, цитат и отзывов;
  • использованные ИИ-инструменты и порученные им виды задач;
  • проверки человеком, необходимые до публикации;
  • срок хранения промптов, черновиков, согласований и исправлений;
  • правило остановки и эскалации при вопросах об идентичности, конфиденциальности, политике или репутации.

Эта система не должна раскрывать конфиденциальные промпты или данные клиентов. Это рабочий журнал, а не требование хранить каждый фрагмент исходных данных навсегда. Срок хранения следует определять в соответствии с политиками команды в области конфиденциальности и безопасности, особенно если промпты содержат персональные или коммерчески чувствительные сведения.

Используйте обозначения, которые точно описывают рабочий процесс. Пометка «черновик с использованием ИИ» полезна, когда итоговый текст принадлежит человеку, но она не устраняет скрытое спонсорство или фальшивую личность. Аналогично, раскрытие факта генерации контента с помощью ИИ не делает вымышленную рекомендацию правдивой. Происхождение контента связано с источником сообщения и ответственностью за него, а не только с программой, которая помогла сформулировать текст.

Контроль для многоэтапных агентов

Инструменты с агентными возможностями переводят этот вопрос в практическую плоскость. Агент может исследовать тему, писать тексты, создавать файлы, просматривать сайты, публиковать обновления и оценивать вовлечённость. Чем больше действий он выполняет без остановки, тем меньше пользы от одного согласования в самом начале.

Устанавливайте точки согласования там, где меняется внешний мир:

  • перед созданием нового публичного аккаунта, страницы, домена или издания;
  • перед публикацией от имени нового автора или представителя;
  • перед отправкой сообщений новому сегменту аудитории;
  • перед публикацией материала с отзывом, рецензией, политическим утверждением или обвинением;
  • перед массовыми ответами или использованием автоматизированного вовлечения;
  • перед изменением цели кампании на основе данных о результативности;
  • перед подключением агента к клиентским записям, спискам контактов или платному распространению.

Агент должен уметь готовить и ставить материалы в очередь, но система должна затруднять создание новой публичной личности или массовое распространение контента без конкретного человека, несущего ответственность. Ограничивайте права доступа: отделяйте доступ к исследованию от доступа к публикации, используйте списки разрешённых доменов и каналов и требуйте нового согласования, если меняются аудитория, личность или тип утверждения.

В журналах следует фиксировать действие, аккаунт, время, исходные материалы, согласовавшего сотрудника и итоговую опубликованную версию. Эти записи полезны для исправлений и разбора инцидентов, но они также содержат чувствительную операционную информацию. Защищайте их соответствующим образом и ограничивайте доступ тем, кому он действительно необходим.

Тревожные признаки в обычном рабочем процессе

Некоторые схемы заслуживают особого внимания: их можно объединить в обманную систему даже без явно злонамеренного запроса.

Один из таких признаков — размножение идентичностей: проекту внезапно требуются десятки «голосов», «местных экспертов» или «обычных пользователей», чья связь с реальными людьми никак не подтверждена. Другой — инсценировка независимости: несколько сайтов, рассылок или аккаунтов используют одинаковые формулировки, графики публикаций, сведения о владельце домена, аналитические идентификаторы или редакционное руководство, одновременно выдавая себя за разные источники.

Третий признак — управление вовлечённостью. Целью становится уже не информирование реальной аудитории, а создание видимости популярности публикации с помощью скоординированных ответов, репостов, оценок или просмотров. Четвёртый — отмывание источника: подлинный материал переписывают под вымышленной подписью или лишают исходной атрибуции, чтобы он выглядел публикацией независимого издания. Пятый — использование чувствительных данных об аудитории для оценки или таргетинга людей при сокрытии цели такого профилирования.

Ни один из этих признаков сам по себе не доказывает наличие умысла. Франчайзинговая сеть может законно использовать общие шаблоны; компания — вести несколько брендированных каналов; вымышленный персонаж может быть представлен с ясным раскрытием его природы. Важно другое: команда должна уметь прямо объяснить характер связи и зафиксировать принятое решение. Если стратегия работает только до тех пор, пока эта связь остаётся скрытой, вероятно, перед нами не обычный сценарий автоматизации контента.

Что сделать на этой неделе

Правило вступает в силу в определённую дату, но командам стоит воспринять это изменение как повод проверить уже действующие процессы, а не как срок для косметической правки внутренних документов.

Начните с трёх процессов с наибольшим охватом: публикации в социальных сетях, сбора отзывов или рекомендаций и производства контента, ориентированного на поиск. Составьте список всех задействованных аккаунтов, сайтов, авторских имён, автоматизаций и подрядчиков. Для каждого укажите владельца и информацию, которую видит аудитория о его происхождении или связи с организацией.

Затем проверьте выборку недавних материалов. Ищите неподтверждённые утверждения, выдуманный клиентский опыт, переписанные без указания источника тексты или ответы, создающие впечатление личного опыта, которого у отправителя не было. Изучите промпты и правила автоматизации лишь настолько, насколько нужно, чтобы понять происхождение результата; не собирайте персональные данные без необходимости.

После этого установите процедуру утверждения для новых идентичностей и масштабируемой активности. Если команда не может объяснить, зачем нужен новый аккаунт и кто будет за него отвечать, запуск следует приостановить. Если ответ сводится к формуле «чтобы кампания выглядела органичной», процесс нужно остановить.

Наконец, обновите анкеты для подрядчиков. Спросите агентства и поставщиков программного обеспечения, используют ли они генеративный ИИ для создания персонажей, отзывов, обращений или активности; как они раскрывают спонсорство; какие записи сохраняют; и как не допускают, чтобы контент одного клиента выдавался за независимое мнение третьей стороны. В договоре следует закрепить обязанность подрядчика соблюдать применимое законодательство, правила платформ и требования клиента к идентичности и утверждению материалов.

Более широкий операционный вывод

ИИ снизил стоимость производства контента, но одновременно снизил стоимость создания убедительной видимости независимости. Поэтому меняется и вопрос, который нужно задавать при проверке. «Прочитал ли человек финальный текст?» по-прежнему важно, но этого недостаточно, если риск связан с архитектурой распространения.

Человек может утвердить одну фразу и не заметить, что затем её опубликуют двадцать выдуманных аккаунтов. Юридическая проверка может разрешить рекламу, пока отдельный подрядчик создаёт сайт со сравнением продуктов, который преподносится как независимый. Промпт может выглядеть безобидно, хотя окружающий процесс формирует скрытую кампанию.

Более надёжный контроль — прослеживаемость: известный владелец, видимая связь, документированный след, ограниченный набор разрешений и этап проверки до того, как система сможет создавать или усиливать публичные идентичности. Такой подход совместим с полезным использованием ИИ для работы с текстом. Он также позволяет компании дать обоснованный ответ, если клиент, регулятор, платформа или поставщик модели задаст простой вопрос: кто говорил и почему следует верить, что сообщение пришло именно оттуда, откуда оно, судя по всему, исходило?

Обновление Anthropic от 12 ноября делает этот вопрос ещё менее удобным для откладывания. Для команд, работающих с контентом, правильный ответ — не прекращать использовать ИИ, а перестать считать происхождение контента второстепенной деталью.