---
service: "Publicasta"
schema_version: "1.0"
article_id: 1268
title: "Las conversaciones de Ginebra sobre armas autónomas ponen a prueba qué debe significar el «control humano» en la práctica"
language: "es"
default_language: "en"
canonical_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=es"
json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=es"
api_url: "https://publicasta.com/api/public/v1/channels/robots/articles/geneva_autonomous_weapons_talks_human_control_test?lang=es"
channel_url: "https://publicasta.com/api/public/v1/channels/robots"
channel_articles: "https://publicasta.com/api/public/v1/channels/robots/articles"
search_url: "https://publicasta.com/api/public/v1/search"
documentation_url: "https://publicasta.com/api-docs#reading-publicasta"
openapi_url: "https://publicasta.com/api-docs/openapi.json"
published_at: "2026-11-16T17:22:13+00:00"
updated_at: "2026-11-16T17:22:13+00:00"
translations:
  - language: "ar"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=ar"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=ar"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=ar"
  - language: "de"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=de"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=de"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=de"
  - language: "en"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=en"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=en"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=en"
  - language: "es"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=es"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=es"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=es"
  - language: "fr"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=fr"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=fr"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=fr"
  - language: "pl"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=pl"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=pl"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=pl"
  - language: "ru"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=ru"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=ru"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=ru"
  - language: "zh"
    html_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test?lang=zh"
    markdown_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.md?lang=zh"
    json_url: "https://publicasta.com/robots/geneva_autonomous_weapons_talks_human_control_test.json?lang=zh"
---

# Las conversaciones de Ginebra sobre armas autónomas ponen a prueba qué debe significar el «control humano» en la práctica

> La conferencia de revisión de la ONU de noviembre de 2026 evalúa si deben comenzar las negociaciones sobre armas autónomas. La pregunta decisiva no es si un dron puede volar solo, sino quién elige el objetivo, fija los límites y responde cuando el software aplica la fuerza.

## Qué se decide realmente en Ginebra esta semana

 ![Diplomáticos reunidos en Ginebra junto a una pantalla abstracta de sistemas automatizados](https://publicasta.com/storage/projects/11/pages/1268/2026/11/0a2c00b7-f57e-4f71-8046-dae27e50be63.webp)

 La Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales se reúne en Ginebra del 16 al 20 de noviembre de 2026, con los sistemas de armas autónomas letales entre los asuntos de su programa. La conferencia no es una prueba en el campo de batalla ni una demostración tecnológica. Es una prueba diplomática para determinar si los gobiernos pueden pasar de la preocupación general por las armas que aplican la fuerza mediante software a una decisión más precisa sobre los próximos pasos. El programa preparado por la Oficina de Asuntos de Desarme de la ONU incluye el tema en el orden del día y prevé trabajar hacia un documento final, ofreciendo a los Estados un marco formal para evaluar si los debates existentes deben desembocar en negociaciones.

 La distinción importa porque la cuestión central no es si un dron puede volar, navegar o mantenerse en el aire sin recibir continuamente órdenes desde un joystick. Es si un sistema, una vez activado, puede seleccionar objetivos y aplicarles fuerza sin intervención humana posterior, y si las normas adoptadas por los Estados son lo bastante específicas para controlar ese proceso. Por eso, Ginebra sopesa tanto el fondo como el procedimiento: qué tipo de instrumento podría negociarse y si la conferencia puede acordar siquiera iniciar ese trabajo.

 Según informó Associated Press, Austria, Bélgica, Brasil, Irlanda, México, Nueva Zelanda y Panamá han propuesto iniciar negociaciones para crear un instrumento jurídicamente vinculante. Una propuesta así llevaría el debate más allá de las declaraciones generales de preocupación y lo acercaría al difícil trabajo de definir obligaciones. Un instrumento vinculante obligaría a los gobiernos a resolver cuestiones que a menudo se dejan deliberadamente vagas en las declaraciones políticas: qué sistemas o funciones quedarían incluidos, qué límites deberían aplicarse a su uso y cómo preservar la responsabilidad cuando el comportamiento de un arma es generado en parte por sensores, software y parámetros preestablecidos.

 La propuesta no garantiza que comiencen las negociaciones. La conferencia funciona según reglas de consenso, de modo que el resultado final aún podría ser una decisión de procedimiento o un texto basado en el mínimo común denominador, en lugar de un acuerdo para negociar restricciones detalladas. Esa posibilidad no es una nota técnica al margen. Forma parte del asunto que se decide esta semana. Una conferencia puede reconocer los riesgos, dejar constancia del desacuerdo persistente y encargar a los Estados que sigan hablando sin crear un nuevo instrumento jurídico. También puede abrir un proceso de negociación cuyo resultado final siga siendo incierto. Son desenlaces sustancialmente distintos, aunque públicamente cada uno se describa como un avance.

 El lenguaje del «control humano» se encuentra en el centro de esa incertidumbre. Puede sonar como una salvaguardia sencilla: una persona permanece en algún punto de la cadena antes de que se utilice un arma. Pero una norma significativa tendría que decir mucho más. Debería abordar quién elige la categoría de objetivo, quién fija los límites geográficos y operativos, durante cuánto tiempo puede buscar el sistema, de qué información dispone el operador y si el sistema puede ser interrumpido o detenido cuando cambian las circunstancias. Estas preguntas explican por qué el debate de Ginebra no puede reducirse a elegir entre seres humanos y máquinas. Los sistemas militares modernos pueden combinar de distintas maneras la operación remota, la navegación automatizada, el procesamiento de sensores y los efectos de las armas. Una norma futura tendrá que distinguir esas funciones en lugar de tratar cada característica autónoma como si planteara el mismo problema jurídico.

 Por consiguiente, la decisión inmediata de la conferencia es más limitada que las afirmaciones generales que suelen asociarse con las armas autónomas. Los Estados no están votando simplemente sobre si debe existir la inteligencia artificial en la guerra, ni decidiendo si todo dron que emplee automatización es un arma prohibida. Están decidiendo si el proceso internacional debe comenzar a negociar normas para sistemas capaces de seleccionar objetivos y aplicar la fuerza con una intervención reducida o inexistente en el momento del ataque. La respuesta determinará la siguiente etapa del debate, pero por sí sola no resolverá qué prohibiría, permitiría u obligaría a hacer un tratado final.

 Por eso, el documento final merece leerse por su lenguaje operativo y no por sus titulares. Una referencia a negociaciones, un mandato para continuar el trabajo y una afirmación general del derecho internacional humanitario tienen consecuencias prácticas diferentes. La conferencia puede generar impulso, pero la política del consenso puede acotar el resultado. Para quienes intentan entender qué cambia Ginebra, la primera prueba es sencilla: ¿los Estados acordaron negociar un instrumento jurídicamente vinculante o solo continuar debatiendo el problema?

 ## El límite de la autonomía está en la selección de objetivos, no simplemente en el vuelo

 Un dron capaz de navegar sin piloto no es automáticamente un arma autónoma. La distinción importante es qué hace el sistema después de activarse. Un dron armado pilotado a distancia puede usar software para estabilizar el vuelo, seguir una ruta, evitar obstáculos o regresar a la base, mientras un operador humano sigue decidiendo qué objeto atacar y cuándo aplicar la fuerza. Esas funciones automatizadas pueden ser relevantes, pero por sí solas no responden a la pregunta central: ¿quién selecciona el objetivo y quién autoriza el uso de la fuerza?

 El Comité Internacional de la Cruz Roja define un sistema de armas autónomo atendiendo a sus efectos después de la activación. En el sentido pertinente, el sistema puede seleccionar objetivos y aplicar la fuerza contra ellos sin una intervención humana posterior. Esto desplaza la atención de la imagen de una máquina que «piensa» como una persona. Un arma no tiene que tomar decisiones estratégicas amplias para plantear el problema jurídico y operativo. Basta con que un software, mediante sensores y reglas programadas, determine qué objeto encaja en una clase de objetivos permitida y lo ataque sin que una persona haga la selección final en cada ataque. ([CICR, «Preguntas frecuentes sobre los sistemas de armas autónomos»](https://www.icrc.org/en/article/faq-autonomous-weapon-systems))

 Por tanto, tres sistemas pueden parecer similares y, sin embargo, plantear preguntas distintas. Un dron armado pilotado a distancia sigue formando parte de una cadena humana de decisiones, aunque sus sistemas de navegación y cámaras estén muy automatizados. Una función de navegación autónoma puede permitir que una aeronave o una munición atraviese por sí sola un entorno, pero desplazarse no equivale a seleccionar objetivos. El límite relevante se cruza cuando se permite que un sistema, después de activarse, identifique y ataque objetivos sin una intervención humana adicional. La prueba no es si la plataforma puede volar sola, sino si su autonomía alcanza la decisión de aplicar la fuerza.

 La palabra «autónomo» puede describir varias funciones diferentes. Un vehículo puede mantener la altitud, reconocer el terreno, calcular una ruta o evitar una colisión. Un sistema defensivo puede detectar e interceptar una amenaza entrante. Una munición puede combinar información de varios sensores y decidir que un objeto coincide con una firma preestablecida. Un arma merodeadora puede buscar en una zona y atacar algo que corresponda a un perfil general de objetivo. Estos sistemas no presentan riesgos idénticos y no pueden evaluarse responsablemente preguntando solo si hubo una persona implicada al comienzo de la misión.

 Los ejemplos del CICR muestran por qué los usos defensivos y ofensivos siguen requiriendo un examen minucioso. Los sistemas diseñados para interceptar cohetes o aeronaves entrantes pueden operar a velocidades que dejan poco tiempo para intervenir. Las municiones que fusionan datos de sensores pueden ser lanzadas antes de que el arma haya identificado el objeto concreto que alcanzará. Las armas merodeadoras pueden permanecer en una zona, procesar datos de sensores y atacar un objetivo que coincida con una descripción general, en lugar de una persona designada o un vehículo identificado de manera inequívoca. En cada caso, la cuestión clave es la relación entre la decisión humana inicial y la acción posterior de la máquina: ¿qué autorizó exactamente la persona y cuánto del uso final de la fuerza quedó en manos del sistema? ([CICR, «Sistemas de armas autónomos y derecho internacional humanitario»](https://www.icrc.org/en/article/autonomous-weapon-systems-and-international-humanitarian-law-selected-issues))

 Por eso, describir cada dron autónomo como un «robot asesino» oculta el problema técnico y jurídico. La etiqueta mezcla navegación, vigilancia, reconocimiento de objetivos y lanzamiento de armas en una sola categoría. Puede hacer que una aeronave con asistencia automatizada de vuelo parezca equivalente a un arma que busca y ataca objetivos por sí misma. A la inversa, puede ocultar la autonomía importante en una munición o un interceptor defensivo, porque la plataforma visible parece seguir bajo control humano. Un debate preciso debe identificar qué función es autónoma, no solo el hardware que la transporta.

 El atajo contrario es igual de engañoso. Llamar a un sistema «controlado por humanos» no resuelve la cuestión si el papel de la persona se limita a pulsar el botón de inicio antes de que el arma busque, seleccione y ataque dentro de una zona amplia. Tampoco la presencia de un operador en una sala de control demuestra que exista un control significativo sobre cada resultado. Las preguntas prácticas son más concretas: ¿qué clase de objetivo se definió?, ¿qué información pueden distinguir los sensores?, ¿qué zona geográfica y ventana temporal se establecieron?, y ¿puede el sistema detenerse o ser redirigido antes de aplicar la fuerza? Esas preguntas determinan si la decisión humana sigue conectada con el uso concreto de la fuerza.

 Para los debates de Ginebra, esta frontera tiene consecuencias. Unas reglas centradas en las plataformas —drones, misiles o torretas— podrían pasar por alto la misma función de selección de objetivos cuando se traslada a otro sistema. Unas reglas formuladas en torno a la «autonomía» podrían abarcar funciones de navegación inofensivas y, al mismo tiempo, no precisar qué uso de la fuerza genera la preocupación. La prueba operativa comienza con la secuencia de acciones: una persona activa el sistema; el sistema reúne e interpreta información; selecciona un objetivo conforme a su programación; y aplica la fuerza. El punto decisivo es si sigue siendo necesaria la intervención humana entre la selección y el ataque, y si los límites impuestos al activarlo son lo bastante específicos como para evaluar esa delegación.

 ## Por qué es difícil convertir el control humano en un requisito técnico

 El «control humano» parece una salvaguarda clara hasta que se traduce en las condiciones bajo las cuales un arma puede buscar, seleccionar y atacar un objetivo. Una persona puede activar un sistema, aprobar una misión o permanecer cerca mientras el software ejecuta los pasos decisivos. Esas formas de participación no son necesariamente equivalentes. La cuestión práctica es si el papel humano resulta significativo en el momento en que se aplica la fuerza y si la persona dispone de información, autoridad y tiempo suficientes para impedir un ataque ilícito o equivocado.

 Eso convierte la autonomía en un problema de diseño del sistema, además de una cuestión sobre quién pulsa el botón de lanzamiento. Cualquier norma futura tendría que examinar hasta qué punto son previsibles los resultados del sistema en el entorno donde se utiliza. Un arma que opera contra una clase de objetivos definida con precisión y en una zona limitada plantea un problema de control distinto al de otra que busca, en un entorno cambiante, objetos que coincidan con un perfil amplio o generalizado. Cuanto más reducidos sean el conjunto de objetivos permitidos y el área de operación, más fácil puede resultar establecer de antemano qué puede encontrar el sistema y qué está autorizado a hacer. Pero unos parámetros limitados no eliminan la necesidad de comprobar si el sistema puede distinguir el objetivo autorizado de las personas, los bienes civiles u otros objetos protegidos cercanos.

 La duración de la operación también importa. Un sistema que actúa durante un intervalo breve y controlado puede ser más fácil de supervisar que otro capaz de seguir buscando después de que hayan cambiado las circunstancias. El paso del tiempo puede modificar el significado de la firma de un objetivo, la presencia de civiles y la necesidad militar de un ataque. Por tanto, una decisión humana tomada antes de la activación no puede sustituir automáticamente al juicio continuado. Entre las salvaguardas pertinentes pueden figurar límites sobre dónde puede operar el arma, cuánto tiempo puede permanecer activa y qué ocurre cuando encuentra condiciones ajenas a las hipótesis utilizadas para autorizarla.

 La previsibilidad también es fundamental para la rendición de cuentas. El operador necesita comprender, a un nivel útil, qué está diseñado para detectar el sistema, cómo puede responder y qué incertidumbres podrían afectar a su comportamiento. Esto no exige que una persona calcule cada paso del software durante una operación. Sí exige que los efectos previsibles del sistema estén suficientemente acotados para poder evaluar la decisión de utilizarlo antes de aplicar la fuerza. Si los resultados son opacos, inestables o difíciles de anticipar, una autorización formal puede ofrecer poco control práctico sobre el resultado.

 La misma cuestión afecta a la posibilidad de intervenir. No basta con afirmar que una persona puede interrumpir técnicamente un arma si el operador no puede reconocer que debe hacerlo, carece de comunicaciones fiables, recibe la información demasiado tarde o no tiene autoridad efectiva para cancelar el ataque. La interrupción debe analizarse junto con la velocidad del arma, la comprensión que el operador tiene de la situación y el comportamiento del sistema cuando una orden se retrasa o se pierde. Un mecanismo de control que existe sobre el papel, pero no puede funcionar en condiciones operativas, no responde a la preocupación jurídica y ética de fondo.

 El derecho internacional humanitario ya establece las obligaciones aplicables. Las partes en un conflicto deben distinguir entre civiles y combatientes, y entre bienes civiles y objetivos militares; deben evitar los ataques que previsiblemente causen daños excesivos a la población civil en relación con la ventaja militar prevista; y deben adoptar precauciones factibles durante el ataque. La dificultad no reside en que la autonomía cree un universo jurídico aparte. Reside en que una selección de objetivos opaca o adaptativa puede hacer más difícil evaluar esas obligaciones antes del ataque, cuando deben tomarse las decisiones pertinentes.

 El principio de distinción muestra el problema. Un sistema puede identificar un patrón técnico asociado a un objetivo permitido y, aun así, tener dificultades cuando cambia el contexto circundante o cuando se superponen la presencia civil y la actividad militar. La proporcionalidad exige valorar los daños civiles previstos frente a la ventaja militar anticipada, no limitarse a clasificar un objeto. Las precauciones requieren una planificación y una verificación adecuadas a las circunstancias. Si el usuario no puede saber de forma fiable cómo interpretará el sistema su entorno, la decisión humana puede quedar desvinculada de los efectos que el derecho obliga al atacante a prever.

 Por eso, la rendición de cuentas no puede terminar con la autorización inicial. Los investigadores deben poder reconstruir qué percibió el sistema, qué clasificó, qué restricciones estaban activas, qué sabía el operador y qué posibilidades de intervención existían. Los registros y la explicabilidad no hacen lícito un ataque por sí solos, pero sin ellos resulta más difícil determinar si el fallo se debió al diseño del arma, a los parámetros de la misión, a la decisión del operador o a la cadena de mando en su conjunto. Una norma que exija control humano debe abordar, por tanto, no solo la supervisión en tiempo real, sino también las pruebas necesarias después de un incidente.

 La autonomía de navegación, por sí sola, no resuelve estas cuestiones. Un dron puede desplazarse sin pilotaje continuo y dejar en manos de una persona la selección del objetivo y la aplicación de la fuerza. Ese es un mecanismo distinto del de un arma que selecciona y ataca objetivos de manera independiente después de ser activada. El límite decisivo es la función que permanece autónoma cuando se emplea la fuerza. Una prueba significativa del control humano debe seguir, por tanto, toda la cadena: desde el objetivo autorizado y la zona de operaciones, pasando por la búsqueda y la identificación, hasta la decisión de aplicar la fuerza y la capacidad de detener el resultado o investigarlo.

 ## La prueba práctica para cualquier norma futura

 La forma más útil de evaluar un futuro acuerdo sobre armas autónomas es ignorar las garantías generales sobre mantener a las personas «en el circuito» y preguntar qué controla realmente esa persona. ¿Elige cada objetivo o solo define un perfil general de objetivos? ¿La autonomía del sistema se limita a la navegación o también identifica y ataca objetos después de su activación? ¿Puede el operador fijar antes del lanzamiento una zona de operaciones clara, un límite temporal y el efecto de las armas? Estas diferencias importan porque un dron que llega a un lugar sin que un piloto lo dirija continuamente no está tomando automáticamente la decisión jurídicamente y operativamente determinante. La cuestión más difícil es si el software selecciona un objetivo y aplica la fuerza contra él sin una intervención humana posterior.

 Esto ofrece una prueba práctica para evaluar los anuncios de Estados, fuerzas armadas y empresas tecnológicas. Primero, hay que identificar la función autónoma. Las afirmaciones sobre «autonomía» pueden referirse a la planificación de rutas, la evasión de obstáculos, el procesamiento de sensores, el reconocimiento de objetivos o la secuencia completa de ataque; son capacidades distintas, con riesgos diferentes. Segundo, hay que preguntar qué objetivos están permitidos. Un sistema limitado a un objeto definido con precisión en un entorno controlado plantea preguntas distintas de las de uno que opera contra una clase general de objetivos en un entorno poblado o cambiante. Tercero, hay que preguntar dónde y durante cuánto tiempo puede el sistema buscar y actuar. Un área estrecha y un periodo breve pueden limitar la incertidumbre; un área amplia y una búsqueda abierta pueden dificultar la predicción de aquello con lo que se encontrará el sistema y de cómo lo clasificará.

 La siguiente cuestión es si la intervención humana es significativa y no meramente formal. Un operador puede disponer técnicamente de un botón de cancelación, pero eso no demuestra que exista un control efectivo si el sistema se mueve más rápido de lo que el operador puede comprender sus resultados, si las comunicaciones no son fiables o si el operador no puede saber por qué un objeto concreto fue clasificado como objetivo. El control humano también depende de la información disponible antes de la activación: la calidad de los sensores, la claridad de la descripción del objetivo, la presencia prevista de civiles y los límites conocidos del sistema. Si el operador no puede anticipar razonablemente las situaciones en las que el arma aplicará la fuerza, la responsabilidad no puede restablecerse simplemente señalando a una persona en algún punto de la cadena de mando.

 Por tanto, una norma creíble tendría que abordar algo más que un eslogan. Debería aclarar qué nivel de previsibilidad se exige, cuán precisa debe ser la clase de objetivos, qué límites geográficos y temporales se aplican y en qué momento una persona debe poder supervisar, interrumpir o cancelar un ataque. También tendría que preservar los requisitos ordinarios del derecho internacional humanitario: la distinción entre civiles y combatientes u objetivos militares, la proporcionalidad respecto del daño civil previsto y las precauciones factibles durante el ataque. Esas normas ya se aplican. La dificultad es que una selección de objetivos opaca, adaptativa o basada en la fusión de sensores puede dificultar la evaluación del cumplimiento antes de un ataque, cuando deben tomarse las decisiones cruciales sobre el riesgo y la autorización.

 Por último, hay que preguntar quién asume la responsabilidad después de un error y si los investigadores podrían reconstruir lo sucedido. Un sistema no debería convertirse en una brecha de rendición de cuentas porque su decisión surgiera de un programa informático, sensores y datos cambiantes del campo de batalla. Una revisión significativa exige conservar registros de la configuración del sistema, la información que recibió, las órdenes dadas por los operadores y el momento en que se seleccionó y aplicó la fuerza. La prueba práctica no es si una máquina puede explicarse en lenguaje corriente, sino si las autoridades pueden determinar quién autorizó la operación, qué restricciones se impusieron, qué hizo el sistema y por qué se produjo un resultado ilícito o inesperado.

 Estas preguntas también aclaran qué puede y qué no puede conseguir Ginebra. La Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales puede iniciar trabajos encaminados a unas negociaciones, y la propuesta respaldada por Austria, Bélgica, Brasil, Irlanda, México, Nueva Zelanda y Panamá ofrece a la reunión una prueba política concreta. Pero la decisión de negociar no constituye por sí misma una prohibición mundial exigible ni una norma completa sobre el despliegue. La política del consenso puede producir un resultado de procedimiento o dejar sin resolver las cuestiones más difíciles. Por eso, las futuras declaraciones deben leerse a la luz de los detalles operativos: qué función es autónoma, qué objetivos están permitidos, dónde y durante cuánto tiempo puede actuar el sistema, qué intervención sigue siendo posible y quién responde cuando el programa se equivoca. Hasta que esas respuestas sean concretas, el «control humano» seguirá siendo un principio, no una salvaguardia fiable.
