Anthropic 的欺骗性宣传活动规则改变了 AI 内容团队的检查清单
Anthropic 11 月 12 日更新《使用政策》,将虚假账户、捏造的独立媒体、人工制造的互动,以及隐瞒活动协调行为归入同一规则。营销与传播团队应建立来源追溯和审批流程,而不是禁止日常的 AI 辅助写作。
Anthropic 更新后的《使用政策》将于 11 月 12 日生效,其中最值得企业关注的影响却很容易被忽略。这项变化并不是全面禁止 AI 撰写营销内容、政治传播、研究材料或出版物,而是更清晰地划定了欺骗性宣传活动的边界:利用 Claude 隐瞒信息背后的主体、制造看似独立的声音,或人为制造传播声量。

这一点很重要,因为如今许多合法的内容工作流,如果逐项拆开来看,也会与协调式影响行动的某些环节相似。团队可能会使用 AI 模型研究受众、起草多个版本、翻译帖子、安排发布并监测反馈。每一步单独看都很普通。真正的风险出现在工作流同时制造虚假身份、掩饰赞助关系、捏造独立媒体,或让一个组织看起来像许多互不相关的参与者时。
实际应对方式不是禁止员工使用 Claude 起草内容,而是让身份、赞助关系、证据和审批在工作流中清晰可见。如果团队无法回答某个渠道由谁负责、某项主张由谁批准、它由什么来源支持,以及读者是否可能合理地把材料误认为独立发言,那么即使没有违反任何模型政策,也已经存在治理问题。
11 月 12 日有哪些变化
Anthropic 于 10 月 8 日公布了修订后的政策。公司表示,大多数改动是在澄清现有规则,同时为更长期、更具独立性的模型工作增加示例。此次更新把分散的限制整合到一个名为“不得参与欺骗性宣传活动或人工活动”的新章节中。Anthropic 表示,无论是政治活动还是商业活动,该章节都适用于欺骗性行为。
相关行为的范围不只是生成虚假文本。政策更新描述了隐瞒信息背后主体、通过虚假账户或帖子放大内容,以及搭建影响行动所需工具或基础设施等做法。换句话说,受到审查的对象是整套宣传活动系统,而不只是某个段落是否存在事实错误。
Anthropic 还调整了有关选举的表述。现在,选举章节重点关注欺骗选民或扰乱民主进程,同时删除了对个性化选票和竞选定向的一刀切禁令。公司表示,只要工作流不依赖欺骗、不滥用个人数据,也不制造不真实的传播声量,合法的公民事务用途仍然可行,例如翻译选民信息或准备选票补救通知。
对普通企业而言,关键在于:商业影响活动被明确纳入其中。产品发布、声誉宣传、搜索曝光项目或政治倡导行动,不会因为不是选举行动就自动获得认可。如果计划依赖于假装协调发布的信息来自独立个人或组织,那么贴上“营销”的标签并不能解决问题。
边界在于如何呈现主体,而不是是否提供辅助
评估一项 AI 辅助内容任务时,一个有用的方法是把“辅助”与“呈现主体”分开来看。
辅助,是指模型帮助一个明确的组织完成该组织愿意承担责任的工作。它可以总结客户访谈、提出标题建议、翻译新闻稿、生成初稿、整理客服反馈,或把经过批准的产品简报改写成适合不同渠道的文案。组织的身份仍然清晰可见,审核者也能将重要主张追溯到相应证据。
呈现主体则不同。当工作流要求模型制造一个实际上并不存在的人、出版物、社群或共识的假象时,问题就出现了。例如,生成冒充真实个人的资料,发布评论让宣传活动看起来很受欢迎,把公司控制的评价伪装成独立评价,或用虚构的署名重新发布材料。
这种区别并不总能从提示词中看出来。“为十个本地声音写十篇帖子”可能指十位已获批准、并公开关联关系的发言人,也可能指十名虚构居民,目的是让一个组织看起来像草根运动。措辞相近,但实际操作情况完全不同。
这正是模型层面的过滤器不能成为唯一控制手段的原因。安全系统或许能识别出明确要求运营虚假账号网络的请求,却可能漏掉这样一连串操作:分别要求进行受众细分、撰写人物简介、制定发布日历、生成回复和互动指标。Anthropic 自己对选举场景的测试说明了这种多步骤问题:有害活动可以拆分成若干单独看似无害的任务。
因此,公司应审查端到端的工作流程,而不只是逐条检查提示词。关键问题是:一个理性受众会如何理解这份材料的来源、独立性和受欢迎程度?
面向营销与传播团队的实用测试
在 AI 辅助活动上线前,先回答五个问题。
-
谁是负责主体? 明确负责内容的法律实体、部门、客户或个人。如果没有人能够批准更正或回应投诉,仅写“社区团队”是不够的。
-
受众将看到什么身份? 记录将发布材料的账号、出版物、作者、发言人或组织。如果该身份是虚构的,说明虚构的原因,以及是否会告知受众。
-
哪些关系必须披露? 公司控制的评测网站、员工证言、付费创作者、客户出资的通讯或倡议团体都可能是正当的,但材料不应暗示并不存在的独立性。
-
哪些证据支持这些主张? 为每一项重要主张保留其背后的来源文件、测试结果、客户记录、公开申报文件或其他证据。生成的措辞不是证据。
-
传播是否可能制造虚假的共识? 留意重复或近乎重复的发布、协调式回复、自动化互动、重复使用的身份,或看似彼此独立、实则共享同一出资方和编辑流程的网站网络。
第五个问题的答案为“是”,并不自动意味着违法,但这是一个强烈的暂停信号。在发布前,应将计划提交给法务、信任与安全团队,或负责传播事务的高级负责人审核。
团队仍可用 Claude 做什么
这项政策变化不应被理解为禁止实用的内容自动化。透明的工作流程仍然可以节省大量时间。
传播团队可以提供一份经批准的事实说明,并要求 Claude 起草新闻稿、简短客户邮件、常见问题,以及多个语言版本。产品团队可以用它把发布说明转成文档,找出含义不明确的主张,或创建审核清单。新闻编辑部可以用它进行转录、翻译、背景材料整理和问题草拟,只要出版方保留编辑责任,不捏造来源或署名。
竞选活动或非营利组织可以使用 AI 工具准备选民信息、翻译公共说明、在获准情况下分析汇总的投票率数据,或起草清楚标明发送方的外展材料。受众经过细分,并不会让消息本身变得具有欺骗性。真正的风险在于隐瞒资助关系、冒充他人、捏造证据,或在缺乏合法且合乎伦理依据的情况下,依赖敏感个人信息进行定向传播。
客户支持和社区团队也可以使用 AI 建议回复。但他们应避免让一名员工看起来像一大群互不相关的客户,也不应为没有相应经历的人生成评价。帮助已知代表进行沟通的回复助手,与专门制造公众自然意见假象的系统,是两种不同的产品。
同一原则也适用于搜索可见性。出版方可以使用 AI 改善表达、翻译文章、整理知识库,或创建明确标注的公司资源。但不应建立一个表面上彼此独立的网站网络,在隐瞒关联的同时反复传播出资方的论点。搜索引擎和 AI 回答系统都是信息环境的一部分;试图用虚假的独立性向其中植入内容,仍然属于来源与溯源问题。
为什么模型政策并不能涵盖完整的法律分析
Anthropic 的《使用政策》是一项合同层面和平台层面的规则。它不能替代当地法律、广告标准、选举法、隐私要求、劳动法规或公司自身的品牌政策。
在美国,联邦贸易委员会关于虚假评论和推荐的最终规则涉及若干相近做法。该规则禁止虚假或伪造的消费者评论,包括由不存在的人发布的评论,或由并未有过相关经历的人发布的评论。规则还涉及未披露身份的内部人士推荐、由公司控制却被包装成独立来源的评论网站,以及出于商业目的买卖虚假的社交媒体指标。
这种重叠具有实际意义。即使团队从未使用“影响力行动”这样的说法,工作流程本身也可能带来风险。要求 AI 系统虚构满意的客户、生成一组看似独立的产品网站,或人为抬高互动量,可能同时触及消费者保护规则和模型提供商的政策。适用法律取决于司法管辖区和具体事实,因此应寻求合格的专业意见,而不能据此断定每一条自动发布的内容都属违法。
在美国以外运营的团队,也应根据当地的广告、隐私、平台和选举规则进行同样评估。跨境活动尤其容易被误判,因为在一个市场足够的披露,在另一个市场可能并不符合要求;此外,具体渠道还可能有自己的真实性规定。
一套轻量级溯源系统
大多数小型团队不需要大型合规平台,就能把这件事管理起来。他们需要的是一份能够随内容一起流转的记录。
对于每个活动或持续运营的内容流,维护一份简短的溯源表,记录:
- 负责人和批准编辑;
- 发布账号、域名及具名发言人;
- 内容目的和目标受众;
- 发布方与出资组织之间的关系;
- 事实性主张、统计数据、引语和推荐内容的源文件;
- 使用的 AI 工具,以及交给这些工具处理的任务类型;
- 发布前必须完成的人工检查;
- 提示词、草稿、审批记录和更正记录的保留期限;
- 针对身份、隐私、政治或声誉问题的停止并升级处理规则。
这不意味着必须暴露机密提示词或客户数据。它是一份运营日志,并不是要求永远保存每一条原始输入。保留期限应遵循团队的隐私和安全政策,尤其是在提示词包含个人信息或商业敏感材料时。
使用能够准确描述实际流程的标签。当人工负责最终文案时,“AI 辅助起草”是有用的,但它无法掩盖未披露的赞助关系或虚假身份。同样,披露内容由 AI 生成,也不能让虚构的推荐变得真实。溯源关注的是信息的来源和责任归属,而不仅仅是使用了什么软件来措辞。
多步骤代理的控制措施
具备代理能力的工具让这个问题更偏向运营管理。一个代理可能能够开展研究、撰写内容、创建文件、浏览网站、发布更新并评估互动情况。它无需中断即可执行的步骤越多,起始阶段的一次审批就越不够用。
应在外部世界发生变化的节点设置审批关卡:
- 创建新的公共账号、页面、域名或出版物之前;
- 以新的作者或发言人身份发布内容之前;
- 向新的受众群体发送消息之前;
- 发布包含推荐、评论、政治主张或指控的材料之前;
- 批量回复或使用自动化互动之前;
- 根据表现数据改变活动目标之前;
- 将代理连接到客户记录、联系人列表或付费分发渠道之前。
代理可以起草并排队处理工作,但系统应让它难以在没有可追溯人工负责人的情况下创建新的公共身份,或大规模分发内容。权限应保持狭窄:将研究权限与发布权限分开,为域名和渠道设置允许列表,并在受众、身份或主张类型发生变化时要求重新审批。
日志应记录操作、账号、时间、源材料、审批人以及最终发布版本。这些信息对于更正和事件复盘很有价值,但也包含敏感的运营信息。应采取相应保护措施,并将访问权限限制在确有需要的人员范围内。
看似正常的工作流程中的警示信号
有些模式值得仔细审视,因为它们可以拼装成一个欺骗性系统,即使最初并没有明显恶意的提示词。
其中一种是身份倍增:项目突然需要几十个“声音”“本地专家”或“普通用户”,但这些身份与真实人物之间没有可验证的关系。另一种是独立性表演:多个网站、新闻简报或账号共享措辞、发布时间表、域名所有权、分析标识符或编辑方向,却对外宣称自己是彼此独立的来源。
第三种是参与度操控。目标从向真实受众提供信息,变成通过协调回复、转发、评分或浏览量,让帖子看起来很受欢迎。第四种是来源漂白:把真实报道改写成虚构署名,或删除原始出处,使其看起来像是来自一家独立媒体。第五种是利用敏感受众数据给人评分或定向触达,同时隐藏画像分析的目的。
这些信号单独出现时,都不能证明存在相关意图。特许经营网络可能会正当地共享模板;公司可能运营多个品牌渠道;虚构角色也可以明确披露身份。关键在于,团队应能清楚解释彼此的关系,并记录相关决定。如果一项策略只有在这种关系继续被隐藏时才能奏效,那它可能就不是普通的内容自动化用例。
本周要做什么
政策会在特定日期生效,但团队应把这次变化视为审计现有工作的契机,而不是等待截止日期来做一次表面上的政策改写。
先从影响范围最大的三个流程入手:社交媒体发布、评论或推荐语收集,以及面向搜索的内容生产。列出所有涉及的账号、网站、作者姓名、自动化工具和供应商。对每一项,确认负责人以及受众看到的披露内容。
然后抽查近期产出。检查材料中是否包含没有依据的说法、虚构的客户经历、未注明出处的改写,或暗示发送者拥有其并不具备的亲身经历的回复。查看提示词和自动化规则时,只需了解产出是如何生成的;不要不必要地收集个人数据。
接下来,为新增身份和规模化参与设置审批关卡。如果团队无法解释新账号为何存在,以及谁将对其负责,就暂停上线。如果答案只是“让活动看起来更自然”,就停止该流程。
最后,更新供应商问卷。询问代理机构和软件供应商是否使用生成式 AI 创建人物画像、评论、外联内容或互动;如何披露赞助关系;保留哪些记录;以及如何防止把一个客户的内容呈现为独立第三方意见。合同条款应要求供应商遵守适用法律、平台规则,以及客户关于身份和审批的要求。
更大的运营启示
AI 降低了内容生产成本,也降低了制造“独立性”表象的成本。这改变了审查问题。“最终稿是否经过人工阅读?”仍然有用,但当风险涉及分发架构时,这还不够。
人工审核者可能批准了一句话,却没有注意到同一句话将由二十个虚构账号发布。法律审核可能放行了一则广告,但另一家供应商却制作了一个号称独立的对比网站。一个提示词看起来无害,周围的工作流程却可能由此构建出一场隐蔽活动。
更持久的控制手段是可追溯性:明确的负责人、可见的关系、证据链、边界清晰的权限,以及在系统能够创建或放大公共身份之前设置审核节点。这种做法与有用的 AI 辅助写作并不冲突。当客户、监管机构、平台或模型提供商提出一个简单问题时,它也能让公司给出站得住脚的回答:是谁在发声?为什么人们应相信这条信息确实来自它看起来的来源?
Anthropic 11 月 12 日的更新让这个问题更难继续拖延。对内容团队而言,正确的回应不是停止使用 AI,而是不再把来源追溯当成事后补充。
Comments
Sign in to comment.
No comments yet.