La norma de Anthropic sobre campañas engañosas cambia la lista de verificación de los equipos de contenidos de IA
La actualización de la Política de Uso de Anthropic del 12 de noviembre agrupa las cuentas falsas, los medios independientes inventados, la interacción artificial y la coordinación encubierta bajo una misma norma. La respuesta práctica es un flujo de procedencia y aprobación.
La Política de Uso actualizada de Anthropic entra en vigor el 12 de noviembre, y su implicación empresarial más útil es fácil de pasar por alto. El cambio no prohíbe en general el marketing escrito con IA, la comunicación política, la investigación ni la publicación. Lo que hace es trazar una línea más clara en torno a las campañas engañosas: usar Claude para ocultar quién está detrás de un mensaje, fabricar voces aparentemente independientes o crear una amplificación artificial.

La distinción importa porque muchos flujos legítimos de contenidos se parecen ahora a partes de una operación de influencia coordinada cuando se observa cada tarea por separado. Un equipo puede usar un modelo de IA para investigar a una audiencia, redactar varias versiones, traducir publicaciones, programar su distribución y supervisar las reacciones. Cada paso puede ser normal. El riesgo aparece cuando el flujo también crea identidades falsas, disimula el patrocinio, inventa medios independientes o hace que una organización parezca estar formada por muchos participantes sin relación entre sí.
La respuesta práctica no consiste en prohibir que los empleados usen Claude para preparar borradores. Consiste en hacer visibles dentro del flujo la identidad, el patrocinio, las pruebas y la aprobación. Los equipos que no pueden responder quién es el responsable de un canal, quién aprobó una afirmación, qué fuente la respalda y si un lector podría confundir razonablemente el material con una expresión independiente tienen un problema de gobernanza, aunque no se haya infringido ninguna política del modelo.
Qué cambió el 12 de noviembre
Anthropic anunció la política revisada el 8 de octubre. Señaló que la mayoría de los cambios aclaran normas existentes, al tiempo que añaden ejemplos para trabajos más largos y con mayor independencia del modelo. La actualización reunió restricciones que estaban dispersas en una nueva sección titulada «No participar en campañas engañosas ni en actividades artificiales». Anthropic afirma que la sección se aplica a actividades engañosas tanto políticas como comerciales.
La conducta pertinente va más allá de producir texto falso. La actualización de la política describe los intentos de ocultar quién está detrás de un mensaje, amplificar contenidos mediante cuentas o publicaciones falsas y construir las herramientas o la infraestructura utilizadas en operaciones de influencia. En otras palabras, lo que se examina es el sistema de la campaña, no solo si un párrafo concreto contiene un error factual.
Anthropic también precisó el lenguaje relativo a las elecciones. Ahora centra esa sección en engañar a los votantes o alterar los procesos democráticos, y elimina la prohibición general de personalizar la segmentación de votantes y campañas. La empresa afirma que siguen siendo posibles usos cívicos legítimos, como traducir información para votantes o preparar avisos para subsanar problemas en las papeletas, siempre que el flujo no dependa del engaño, haga un uso indebido de datos personales ni cree una amplificación inauténtica.
Para las empresas comunes, el punto importante es que la influencia comercial está incluida de forma explícita. Un lanzamiento de producto, una campaña de reputación, un programa para ganar visibilidad en buscadores o una iniciativa de defensa política no se vuelve aceptable simplemente porque no sea una operación electoral. Si el plan depende de fingir que unos mensajes coordinados proceden de personas u organizaciones independientes, la etiqueta «marketing» no resuelve el problema.
El límite se refiere a la representación, no a la asistencia
Una forma útil de evaluar una tarea de contenidos asistida por IA es separar la asistencia de la representación.
La asistencia significa que el modelo ayuda a una organización conocida a realizar un trabajo que esa organización está dispuesta a asumir. Puede resumir entrevistas con clientes, sugerir titulares, traducir un comunicado de prensa, producir un primer borrador, clasificar comentarios de soporte o convertir un documento de producto aprobado en textos adaptados a cada canal. La organización sigue siendo identificable y un revisor puede rastrear las afirmaciones importantes hasta llegar a las pruebas que las respaldan.
La representación es distinta. Comienza cuando el flujo pide al modelo que cree la apariencia de una persona, una publicación, una comunidad o un consenso que en realidad no existe. Algunos ejemplos son generar perfiles que se hacen pasar por individuos reales, producir comentarios para que una campaña parezca popular, publicar reseñas controladas por una empresa como si fueran independientes o reescribir material bajo firmas inventadas.
La distinción no siempre resulta visible en la instrucción. «Escribe diez publicaciones para diez voces locales» podría referirse a diez portavoces aprobados cuyas afiliaciones se revelan. También podría significar diez ciudadanos inventados destinados a hacer que una organización parezca un movimiento de base. Las palabras son parecidas; los hechos operativos no.
Por eso, un filtro a nivel de modelo no puede ser el único control. Un sistema de seguridad puede identificar una solicitud explícita para operar una red de cuentas falsas, pero pasar por alto una secuencia en la que distintos prompts piden segmentar audiencias, redactar biografías de personajes, preparar calendarios de publicaciones, escribir respuestas y calcular métricas de interacción. Las propias pruebas electorales de Anthropic describieron este problema de varias etapas: una campaña dañina puede dividirse en tareas que, tomadas por separado, parecen inofensivas.
Por tanto, una empresa debería revisar el flujo de trabajo completo, no solo los prompts individuales. La pregunta clave es: ¿qué creerá razonablemente la audiencia sobre el origen, la independencia y la popularidad de este material?
Una prueba práctica para equipos de marketing y comunicación
Antes de publicar una campaña asistida por IA, plantea estas cinco preguntas.
-
¿Quién es el responsable? Identifica la entidad legal, el departamento, el cliente o la persona responsable del contenido. “El equipo de comunidad” no basta si nadie puede aprobar correcciones ni responder a las quejas.
-
¿Qué identidad verá la audiencia? Registra la cuenta, publicación, autor, portavoz u organización que difundirá el material. Si la identidad es ficticia, explica por qué lo es y si se informará de ello a la audiencia.
-
¿Qué relación debe declararse? Un sitio de reseñas controlado por una empresa, el testimonio de un empleado, un creador remunerado, un boletín financiado por un cliente o un grupo de defensa pueden ser legítimos, pero el material no debería sugerir una independencia que no existe.
-
¿Qué pruebas respaldan las afirmaciones? Conserva el documento fuente, el resultado de una prueba, el registro de un cliente, una presentación pública u otra evidencia que sustente cada afirmación relevante. El texto generado no es una prueba.
-
¿Podría la distribución crear un consenso artificial? Busca publicaciones duplicadas o casi idénticas, respuestas coordinadas, interacción automatizada, identidades reutilizadas o una red de sitios que parezca independiente, pero comparta un patrocinador y un proceso editorial.
Responder “sí” a la quinta pregunta no significa automáticamente que la práctica sea ilegal, pero sí constituye una señal clara para detenerse. Antes de publicar, eleva el plan al equipo jurídico, al área de confianza y seguridad o a un responsable sénior de comunicación.
Para qué pueden seguir usando Claude los equipos
El cambio de política no debe interpretarse como una prohibición de la automatización práctica de contenidos. Un flujo de trabajo transparente aún puede ahorrar mucho tiempo.
Un equipo de comunicación puede proporcionar una ficha de datos aprobada y pedir a Claude que prepare un borrador de comunicado de prensa, un correo breve para clientes, una sección de preguntas frecuentes y versiones en varios idiomas. Un equipo de producto puede usarlo para convertir notas de lanzamiento en documentación, detectar afirmaciones ambiguas o crear una lista de verificación para revisiones. Una redacción puede emplearlo para transcribir, traducir, organizar información de contexto y preparar preguntas preliminares, siempre que la publicación conserve la responsabilidad editorial y no fabrique fuentes ni firmas.
Una campaña o una organización sin ánimo de lucro puede usar una herramienta de IA para preparar información dirigida a votantes, traducir explicaciones públicas, analizar datos agregados de participación cuando esté permitido o redactar materiales de contacto que identifiquen claramente a quien los envía. El hecho de segmentar a una audiencia no convierte un mensaje en engañoso. El riesgo está en el patrocinio oculto, la suplantación, las pruebas fabricadas o una segmentación basada en información personal sensible sin una base legal y ética.
Los equipos de atención al cliente y de comunidad también pueden usar la IA para sugerir respuestas. Deben evitar que un empleado parezca representar a un grupo numeroso de clientes no relacionados entre sí, y no deberían generar reseñas de personas que no tuvieron la experiencia que se afirma. Un asistente de respuestas que ayuda a comunicarse a un representante identificado es un producto distinto de un sistema diseñado para fabricar la apariencia de una opinión pública espontánea.
El mismo principio se aplica a la visibilidad en buscadores. Un editor puede usar IA para mejorar la claridad, traducir un artículo, organizar una base de conocimientos o crear un recurso de la empresa claramente identificado. No debería construir una red de sitios supuestamente independientes que repitan los argumentos de un patrocinador mientras ocultan la relación. Los buscadores y los sistemas de respuestas de IA forman parte del entorno informativo; intentar introducir en ellos una falsa independencia sigue siendo un problema de trazabilidad.
Por qué la política del modelo no agota el análisis jurídico
La Política de Uso de Anthropic es una norma contractual y de plataforma. No sustituye a la legislación local, las normas publicitarias, la legislación electoral, los requisitos de privacidad, la normativa laboral ni la política de marca de la propia empresa.
En Estados Unidos, la norma definitiva de la Comisión Federal de Comercio sobre reseñas y testimonios falsos aborda varias prácticas relacionadas. Prohíbe las reseñas de consumidores falsas o ficticias, incluidas las publicadas por personas que no existen o que no vivieron la experiencia descrita. También contempla los testimonios de personas internas cuya relación no se revela, los sitios web de reseñas controlados por una empresa y presentados como independientes, y la compra o venta de indicadores falsos en redes sociales con fines comerciales.
El solapamiento es práctico. Un flujo de trabajo puede generar riesgos aunque el equipo nunca use la expresión «operación de influencia». Pedir a un sistema de IA que invente clientes satisfechos, genere un conjunto de sitios de productos con apariencia independiente o infle la interacción puede activar normas de protección al consumidor, además de infringir la política del proveedor del modelo. La legislación aplicable dependerá de la jurisdicción y de los hechos, así que esto es un motivo para buscar asesoramiento cualificado, no una conclusión de que toda publicación automatizada sea ilegal.
Los equipos que operan fuera de Estados Unidos deben hacer la misma evaluación conforme a las normas locales de publicidad, privacidad, plataformas y elecciones. Las campañas transfronterizas son especialmente fáciles de interpretar mal: una divulgación adecuada en un mercado puede no cumplir los requisitos de otro, y un canal puede tener sus propias exigencias de autenticidad.
Un sistema ligero de procedencia
La mayoría de los equipos pequeños no necesitan una gran plataforma de cumplimiento para gestionar esto. Necesitan un registro que acompañe al trabajo.
Para cada campaña o flujo recurrente de contenidos, mantén una ficha breve de procedencia con:
- la persona responsable y el editor que aprueba;
- las cuentas de publicación, los dominios y los portavoces identificados;
- el propósito y la audiencia prevista;
- la relación entre quien publica y la organización que financia el trabajo;
- los archivos fuente de las afirmaciones fácticas, estadísticas, citas y testimonios;
- las herramientas de IA utilizadas y los tipos de tareas que se les asignaron;
- las comprobaciones humanas exigidas antes de publicar;
- el periodo de conservación de prompts, borradores, aprobaciones y correcciones;
- una regla de detenerse y escalar el asunto ante dudas sobre identidad, privacidad, política o reputación.
Esto no exige revelar prompts confidenciales ni datos de clientes. Es un registro operativo, no una obligación de conservar para siempre cada fragmento de entrada sin procesar. La decisión sobre la conservación debe seguir la política de privacidad y seguridad del equipo, sobre todo cuando los prompts contienen material personal o información comercial sensible.
Usa etiquetas que describan el flujo real. «Borrador asistido por IA» resulta útil cuando una persona se responsabiliza del texto final, pero no corrige un patrocinio oculto ni una identidad falsa. Del mismo modo, revelar que un contenido se generó con IA no convierte en veraz un testimonio inventado. La procedencia trata del origen y la responsabilidad del mensaje, no solo del software empleado para redactarlo.
Controles para agentes de varios pasos
Las herramientas agénticas vuelven el asunto más operativo. Un agente puede investigar, escribir, crear archivos, navegar por sitios web, publicar actualizaciones y evaluar la interacción. Cuantos más pasos pueda ejecutar sin interrupción, menos útil será una única aprobación al principio.
Establece puntos de aprobación allí donde cambie el mundo externo:
- antes de crear una cuenta pública, página, dominio o publicación nuevos;
- antes de publicar bajo una identidad nueva de autor o portavoz;
- antes de enviar mensajes a un segmento de audiencia nuevo;
- antes de publicar material que contenga un testimonio, una reseña, una afirmación política o una acusación;
- antes de responder a gran escala o utilizar interacción automatizada;
- antes de cambiar el objetivo de una campaña basándose en datos de rendimiento;
- antes de conectar el agente con registros de clientes, listas de contactos o distribución de pago.
El agente debe poder redactar y poner trabajos en cola, pero el sistema debería dificultar la creación de una identidad pública nueva o la distribución de contenidos a gran escala sin una persona responsable identificable. Mantén los permisos limitados: separa el acceso de investigación del acceso de publicación, utiliza listas de permitidos para dominios y canales, y exige una aprobación nueva cuando cambien la audiencia, la identidad o el tipo de afirmación.
Los registros deben recoger la acción, la cuenta, la hora, el material de origen, la persona que aprobó y la versión publicada definitiva. Son valiosos para corregir errores y revisar incidentes, pero también contienen información operativa sensible. Protégelos en consecuencia y limita el acceso a quienes lo necesiten.
Señales de alerta en un flujo de trabajo aparentemente normal
Varios patrones merecen un examen detenido porque pueden combinarse para formar un sistema engañoso sin necesidad de una instrucción abiertamente maliciosa.
Uno de ellos es la multiplicación de identidades: de pronto, un proyecto necesita decenas de «voces», «expertos locales» o «usuarios corrientes» que no tienen una relación verificable con personas reales. Otro es el teatro de la independencia: varios sitios web, boletines o cuentas comparten lenguaje, calendarios de publicación, titularidad de dominios, identificadores analíticos o dirección editorial, aunque se presentan como fuentes independientes.
El tercero es la ingeniería de la interacción. El objetivo deja de ser informar a una audiencia real y pasa a ser que una publicación parezca popular mediante respuestas, republicaciones, valoraciones o visualizaciones coordinadas. El cuarto es el blanqueo de fuentes: una información real se reescribe con una firma inventada o se elimina su atribución original para que parezca procedente de un medio independiente. El quinto consiste en utilizar datos sensibles de la audiencia para puntuar o dirigir contenidos a personas mientras se oculta el propósito de esa clasificación.
Ninguna de estas señales demuestra por sí sola la intención. Una red de franquicias puede compartir plantillas legítimamente; una empresa puede gestionar varios canales de marca; un personaje ficticio puede estar claramente identificado como tal. La advertencia es que el equipo debe poder explicar la relación con claridad y documentar la decisión. Si la estrategia solo funciona mientras esa relación permanece oculta, probablemente no se trata de un uso normal de la automatización de contenidos.
Qué hacer esta semana
La política entra en vigor en una fecha concreta, pero los equipos deberían tratar el cambio como una señal para auditar el trabajo existente, no como una fecha límite para reescribir la política de forma cosmética.
Empiece por los tres flujos de trabajo con mayor alcance: la publicación en redes sociales, la recopilación de reseñas o testimonios y la producción de contenidos orientados a buscadores. Haga una lista de todas las cuentas, sitios, nombres de autor, automatizaciones y proveedores implicados. En cada caso, identifique al responsable y la información que se muestra a la audiencia sobre la relación existente.
Después, revise una muestra de los contenidos recientes. Compruebe si incluyen afirmaciones sin respaldo, experiencias de clientes inventadas, reescrituras sin atribución o respuestas que den a entender que quien las envía vivió algo que en realidad no vivió. Revise las instrucciones y las reglas de automatización solo hasta entender cómo se produjo el resultado; no recopile datos personales innecesariamente.
A continuación, establezca una aprobación previa para las nuevas identidades y para la interacción a gran escala. Si un equipo no puede explicar por qué existe una cuenta nueva y quién responderá por ella, ponga el lanzamiento en pausa. Si la respuesta es simplemente «para que la campaña parezca orgánica», detenga el flujo de trabajo.
Por último, actualice los cuestionarios para proveedores. Pregunte a las agencias y a los proveedores de software si utilizan IA generativa para crear personajes, reseñas, acciones de contacto o interacciones; cómo informan del patrocinio; qué registros conservan; y cómo evitan que el contenido de un cliente se presente como la opinión independiente de un tercero. El contrato debe exigir al proveedor que cumpla la legislación aplicable, las normas de las plataformas y los requisitos del cliente sobre identidad y aprobación.
La lección operativa de fondo
La IA ha reducido el coste de producir contenidos, pero también ha reducido el coste de crear una apariencia convincente de independencia. Eso cambia la pregunta que debe hacerse en la revisión. «¿Leyó una persona el borrador final?» sigue siendo útil, pero no basta cuando el riesgo está en la arquitectura de distribución.
Una persona puede aprobar una frase sin advertir que esa misma frase se publicará desde veinte cuentas inventadas. Una revisión jurídica puede dar el visto bueno a un anuncio mientras otro proveedor crea un supuesto sitio independiente de comparativas. Una instrucción puede parecer inofensiva mientras el flujo de trabajo que la rodea construye una campaña encubierta.
El control más duradero es la trazabilidad: un responsable conocido, una relación visible, un rastro documental, un conjunto delimitado de permisos y un punto de revisión antes de que el sistema pueda crear o amplificar identidades públicas. Este enfoque es compatible con una redacción útil asistida por IA. También permite a una empresa ofrecer una respuesta defendible cuando un cliente, un regulador, una plataforma o un proveedor de modelos formula una pregunta sencilla: ¿quién hablaba y por qué debería alguien creer que el mensaje procedía del lugar del que parecía proceder?
La actualización de Anthropic del 12 de noviembre hace más difícil seguir aplazando esa pregunta. Para los equipos de contenidos, la respuesta adecuada no es dejar de utilizar la IA. Es dejar de tratar la procedencia como un asunto secundario.
Comments
Sign in to comment.
No comments yet.