 |
| Fuente de la imagen: mvc realizada con el recurso notebook |
M. Velasco, 2026 (*). Estructuración y Evaluación del Marco Normativo Internacional de Inteligencia Artificial Generativa: Análisis Sistemático de ISO/IEC 23053/prA1 y Estándares Armonizados Complementarios - Structuring and Evaluating the International Regulatory Framework for Generative Artificial Intelligence: A Systematic Analysis of ISO/IEC 23053/prA1 and Complementary Harmonized Standards
Resumen: El acelerado avance del aprendizaje automático y la adopción industrial de modelos capaces de sintetizar contenido textual, visual y multimodal exigen esquemas de normalización técnica rígidos y operacionalizables. Se examina de forma exhaustiva la Modificación 1 de la norma ISO/IEC 23053 (ISO/IEC, 2025), integrando sus disposiciones con el conjunto de estándares armonizados desarrollados para la gobernanza, el ciclo de vida, la gestión de riesgos, el registro de eventos y la ciberseguridad en inteligencia artificial. A través de un análisis interpretativo y documental, se analizan los mecanismos de atención en arquitecturas Transformer, la formalización probabilística y no probabilística de los modelos generativos, y la degradación del rendimiento conocida como colapso del modelo provocada por el reentrenamiento en datos sintéticos. De igual forma, se evalúa la articulación con los proyectos de normas europeas prEN 18286 (CEN-CENELEC, 2025), prEN 18228 (CEN-CENELEC, 2026a), prEN 18282 (CEN-CENELEC, 2026), ISO/IEC DIS 24970 (ISO/IEC, 2025) e ISO/IEC DIS 42102 (ISO/IEC, 2026). Se concluye ofreciendo un esquema técnico unificado que permite a los proveedores y evaluadores de conformidad operativizar los requisitos reglamentarios y técnicos exigidos a escala internacional.
Palabras clave: Inteligencia artificial generativa, ISO/IEC 23053, arquitecturas Transformer, colapso del modelo, gestión de riesgos, ciberseguridad en IA, trazabilidad.
Abstract: The rapid advancement of machine learning and the industrial adoption of models capable of synthesizing textual, visual, and multimodal content necessitate rigorous and operationalizable technical standardization schemes. This examines Amendment 1 to the ISO/IEC 23053 standard (ISO/IEC, 2025), integrating its provisions with the suite of harmonized standards developed for governance, the lifecycle, risk management, logging, and cybersecurity in artificial intelligence. Through an interpretive and documentary analysis, the study examines attention mechanisms in Transformer architectures, the probabilistic and non-probabilistic formalization of generative models, and the performance degradation known as "Model Collapse" caused by retraining on synthetic data. Furthermore, it evaluates the alignment with the European draft standards prEN 18286 (CEN-CENELEC, 2025), prEN 18228 (CEN-CENELEC, 2026), prEN 18282 (CEN-CENELEC, 2026), ISO/IEC DIS 24970 (ISO/IEC, 2025), and ISO/IEC DIS 42102 (ISO/IEC, 2026). The research concludes by offering a unified technical framework that enables providers and conformity assessment bodies to operationalize the regulatory and technical requirements mandated at an international level.
Keywords: Generative artificial intelligence, ISO/IEC 23053, Transformer architectures, model collapse, risk management, AI cybersecurity, traceability.
(*) Manuel Velasco Carretero, miembro del Registro de Expertos en Cumplimiento Normativo y Digitalización del Consejo General de Economistas de España (CGE)., doctor en Ciencias jurídicas y sociales por la Universidad de Málaga (UMA), la Universidad Complutense de Madrid, la Universidad Antonio de Nebrija, la Universidad de Alicante, la Universidad de Cádiz, la Universidad de Extremadura, la Universidad de La Laguna, la Universidad de Santiago de Compostela, la Universidad de Sevilla, la Universidad de Vigo, la Universidad Rey Juan Carlos y la Universitat Oberta de Catalunya. Es experto universitario en cumplimiento normativo – compliance por la Universidad Internacional de la Rioja (UNIR), diplomado en empresariales por la UMA, licenciado en ciencias económicas y empresariales, economista, por la UMA , graduado en derecho por la UNIR, máster jurídico oficial por la UMA, máster económico-financiero oficial convalidado por el Ministerio de Educación del Gobierno de España, abogado por el Ministerio de Justicia del Gobierno de España, colegiado no ejerciente en el Ilustre Colegio de la Abogacía de Málaga, gestor administrativo por el Ministerio de la Función Pública del Gobierno de España, administrador de fincas por el Ministerio de Obras Públicas y Transportes del Gobierno de España, experto universitario en peritaje judicial por la Universidad Europea Miguel de Cervantes (UEMC).
1. Introducción y Contexto Internacional de Normalización
La formalización de los sistemas de inteligencia artificial basados en aprendizaje automático ha experimentado una evolución acelerada debido al surgimiento de arquitecturas capaces de generar nuevos conjuntos de datos a partir de distribuciones aprendidas. En este escenario, las entidades internacionales de normalización como el Comité Técnico Conjunto ISO/IEC JTC 1/SC 42 y el Comité Europeo de Normalización (CEN-CENELEC) han iniciado un esfuerzo sistemático para actualizar los marcos conceptuales previos. La norma ISO/IEC 23053, concebida originalmente como una descripción general de los sistemas que emplean aprendizaje automático, requería una adaptación específica para abordar las particularidades operativas, estocásticas y computacionales de los modelos generativos modernos (ISO/IEC, 2025).
El desarrollo de la Modificación 1 de dicha norma, identificada en su fase de proyecto como ISO/IEC 23053:2022/DAM 1:2025, responde a la necesidad de categorizar de forma precisa algoritmos como los Transformers, los modelos autorregresivos, los modelos de difusión y los sistemas basados en energía. Paralelamente, la promulgación de reglamentaciones de alto impacto, como el Reglamento de Inteligencia Artificial de la Unión Europea (Reglamento UE 2024/1689), exige que las especificaciones técnicas internacionales se vinculen directamente con sistemas de gestión de la calidad, evaluaciones de riesgos para la salud, la seguridad y los derechos de las personas, así como mecanismos estrictos de ciberseguridad y registro de eventos (CEN-CENELEC, 2025; CEN-CENELEC, 2026).
1.1 Contexto de la normalización técnica e internacional de la inteligencia artificial
La normalización técnica en el ámbito de la inteligencia artificial cumple un propósito orientador al establecer nomenclaturas unificadas y criterios de prueba verificables que trascienden las fronteras jurisdiccionales. De forma histórica, la caracterización de los sistemas algorítmicos se centraba en tareas de clasificación supervisada, regresión y agrupación estadística (ISO/IEC, 2026). Por contraposición, la expansión masiva de modelos de lenguaje de gran escala (LLMs) y sistemas multimodales ha desplazado el foco hacia la capacidad de inferir representaciones complejas y sintetizar información inédita a partir de patrones probabilísticos aprendidos durante la fase de entrenamiento (Cao et al., 2024).
Frente a esta transformación tecnológica, los organismos de normalización han diseñado un entramado normativo interconectado. En esta estructura, la norma ISO/IEC 23053 actúa como marco conceptual de referencia para los sistemas de aprendizaje automático, mientras que estándares como prEN 18286 traducen dichos conceptos en requisitos de gestión de la calidad para los proveedores que introducen sistemas de IA en el mercado (CEN-CENELEC, 2025). La interoperabilidad entre estos documentos resulta indispensable para garantizar que las evaluaciones de conformidad sean objetivas, reproducibles y alineadas con el estado del arte científico y tecnológico acumulado.
1.2 Objetivos, justificación y metodología del estudio
Estos apuntes tienen por objetivo central analizar, interpretar y sistematizar las adiciones conceptuales e ingenieriles introducidas por la Modificación 1 a la norma ISO/IEC 23053 (ISO/IEC, 2025), evaluando su integración funcional con los estándares armonizados de la serie prEN elaborados para dar soporte al marco regulatorio europeo. El estudio abarca la caracterización técnica de los modelos generativos, el fenómeno del colapso funcional por recirculación de datos sintéticos, los requisitos de control de cambios en los sistemas de gestión de la calidad y los esquemas de gestión de riesgos orientados a la protección de las libertades de los individuos.
Para alcanzar dicho objetivo, se adopta una metodología de análisis cualitativo-documental e interpretativo sobre los borradores de norma y textos finales emanados de ISO/IEC y CEN-CENELEC. A través de este examen, se desglosan las implicaciones operativas para los proveedores, desarrolladores y evaluadores de conformidad, construyendo una estructura integrada que conecta la arquitectura matemática subyacente de los modelos con los procesos organizativos de supervisión, trazabilidad y ciberseguridad exigidos por la estandarización contemporánea (CEN-CENELEC, 2026; ISO/IEC, 2025).
2. Arquitectura y Modelos en la Modificación
Se abordan las modificaciones específicas incorporadas en el texto de la norma ISO/IEC 23053 a través del proyecto de enmienda DAM 1 (ISO/IEC, 2025). En esta sección se analiza en detalle la caracterización matemática y arquitectónica de los algoritmos Transformer, la clasificación de los modelos generativos probabilísticos y no probabilísticos, y el estudio del colapso del modelo resultante del entrenamiento autosupervisado sobre datos generados sintéticamente.
2.1 Arquitecturas Transformer y mecanismos de autoatención
La incorporación del numeral 6.5.3.2.9 en la norma ISO/IEC 23053 formaliza la arquitectura Transformer como un diseño basado originalmente en esquemas de codificador-decodificador, orientado primariamente al procesamiento de datos secuenciales y la traducción automática (ISO/IEC, 2025). Esta arquitectura utiliza un algoritmo especializado que integra mecanismos de autoatención (self-attention), los cuales evalúan de forma simultánea las relaciones de dependencia entre todos los elementos de una secuencia de entrada. A diferencia de las redes neuronales recurrentes convencionales, el mecanismo de autoatención asigna pesos diferenciados a cada elemento en función de su relevancia relativa respecto a los demás componentes del conjunto de entrada.
La enmienda distingue de manera explícita entre las configuraciones basadas únicamente en codificadores, aquellas basadas de forma exclusiva en decodificadores y las estructuras híbridas (ISO/IEC, 2025). Los modelos basados exclusivamente en codificadores se utilizan para el aprendizaje de representaciones robustas y la generación de vectores de incrustación (embeddings), siendo idóneos para tareas de recuperación de información y análisis semántico. Por contraposición, los modelos basados exclusivamente en decodificadores están diseñados para tareas generativas adaptadas a soluciones específicas, tales como la generación de texto, el resumen automático y la respuesta a preguntas.
La capacidad de paralelización masiva de los algoritmos Transformer constituye el factor determinante que facilita el entrenamiento y despliegue de modelos de lenguaje de gran escala. Aun así, la norma enfatiza que tanto el codificador como el decodificador se construyen mediante múltiples capas compuestas por redes de autoatención y redes neuronales de alimentación hacia adelante (feed-forward). Por ejemplo, en un sistema de procesamiento de lenguaje natural destinado a la interpretación de documentos legales, la autoatención permite relacionar cláusulas distantes dentro de un mismo texto, asignando un peso numérico elevado a las referencias cruzadas y mitigando la pérdida de contexto observada en arquitecturas secuenciales anteriores (ISO/IEC, 2025; Cao et al., 2024).
2.2 Formalización de modelos generativos probabilísticos y no probabilísticos
A través de la adición de la cláusula 6.5.3.2.10, la norma define a un modelo generativo como aquél capaz de producir nuevos datos a partir de la distribución sobre la cual ha sido entrenado o construido (ISO/IEC, 2025). Aunque gran parte de estos modelos se estructuran bajo un marco probabilístico en el que las observaciones se tratan como muestras derivadas de una distribución de probabilidad conjunta, el estándar aclara que existen enfoques no probabilísticos. Entre los ejemplos que no emplean el marco probabilístico tradicional se encuentran los modelos basados en energía (Energy-Based Models, EBM), los algoritmos de síntesis de textura y los autómatas celulares generativos.
Dentro de la categoría probabilística, la norma rastrea la evolución histórica desde los modelos de Markov ocultos (HMM) y los modelos de mezcla gaussiana (GMM) hasta las técnicas modernas de aprendizaje automático. Entre estas últimas se incluyen los codificadores automáticos variacionales (VAE), las redes generativas adversarias (GAN), los modelos de flujos de normalización, las arquitecturas basadas en difusión y los modelos autorregresivos (ISO/IEC, 2025; Cao et al., 2024). Por ejemplo, en un modelo probabilístico autorregresivo utilizado en la predicción de series temporales médicas, el algoritmo calcula la distribución de probabilidad del siguiente valor en función de la secuencia de valores previos, permitiendo sintetizar registros fisiológicos plausibles para la simulación de escenarios clínicos.
2.3 Degradación del rendimiento y el fenómeno del colapso del modelo
Una de las adiciones técnicas de mayor trascendencia en la norma se ubica en la Cláusula 7.5, donde se introduce el concepto de colapso del modelo (Model Collapse). La enmienda establece de forma taxativa que si un modelo se entrena mediante aprendizaje automático utilizando datos producidos previamente por un sistema de IA generativa, el modelo entrenado resultante puede sufrir una degradación progresiva e irreversible en su rendimiento (ISO/IEC, 2025). Este fenómeno se manifiesta en la pérdida de variabilidad de la distribución de salida y en la acumulación de desviaciones y errores algorítmicos.
La norma advierte que, si bien las imprecisiones y desviaciones pueden hacerse evidentes desde la primera iteración, el colapso del modelo se agrava de forma acumulativa cuando el proceso de entrenamiento se repite en sucesivas generaciones de modelos, alimentándose cada iteración de las salidas del sistema anterior (ISO/IEC, 2025). Por ejemplo, en el desarrollo de un modelo generativo de imágenes médicas, si el conjunto de datos de entrenamiento se contamina masivamente con imágenes sintéticas generadas por versiones previas del algoritmo, el nuevo modelo comenzará a omitir patrones patológicos poco frecuentes, homogenizando las salidas hacia el promedio estadístico y perdiendo la capacidad de detectar anomalías raras pero valiosas para el diagnóstico clínico.
3. Gestión de la Calidad y Ciclo de Vida Sistemático
Se examina la estructura del borrador de norma europea prEN 18286, el cual especifica los requisitos para los sistemas de gestión de la calidad en organizaciones proveedoras de sistemas de inteligencia artificial (CEN-CENELEC, 2025). Se analizan las fases del ciclo de vida del sistema, los procedimientos de control de cambios y modificaciones sustanciales, así como las exigencias de trazabilidad, documentación técnica y supervisión en la fase posterior a la comercialización.
3.1 Estructura del sistema de gestión de la calidad y ciclo de vida de la IA
El proyecto de norma prEN 18286 establece una correspondencia directa entre los principios generales de gestión de la calidad (compatibles con la norma ISO 9001 e ISO/IEC 42001) y las obligaciones legales dispuestas en la reglamentación sobre inteligencia artificial (CEN-CENELEC, 2025). El estándar define al proveedor como la entidad física o jurídica que desarrolla un sistema de IA o un modelo de IA de propósito general, con miras a introducirlo en el mercado o ponerlo en servicio bajo su propio nombre o marca. Para ello, la organización debe diseñar, implementar y mantener un sistema de gestión documental capaz de demostrar el cumplimiento sistemático de los requisitos funcionales y de seguridad.
La norma explicita que las actividades del sistema de gestión de la calidad deben abarcar la totalidad del ciclo de vida del sistema de IA, entendiéndose este como la evolución completa desde la concepción inicial hasta el retiro definitivo del servicio (CEN-CENELEC, 2025). Las fases identificadas incluyen la concepción, el diseño y desarrollo, la verificación y validación, el despliegue, la operación y supervisión, la reevaluación continua y, finalmente, la desactivación. Cada una de estas etapas requiere la definición clara de responsabilidades, la asignación de recursos competentes y la aplicación de criterios de evaluación proporcionales al nivel de riesgo del sistema.
3.2 Especificación de requisitos y gestión de modificaciones sustanciales
Dentro de la fase de diseño y desarrollo regulada en el apartado 8.3 de prEN 18286, el proveedor tiene la obligación de traducir los requisitos reglamentarios en especificaciones técnicas explícitas del sistema de IA (CEN-CENELEC, 2025). Estas especificaciones deben incorporar parámetros medibles de precisión, robustez, ciberseguridad, transparencia, supervisión humana y gobernanza de datos. Adicionalmente, el estándar exige la implementación de procedimientos rigurosos para la gestión de datos, abarcando la adquisición, filtrado, etiquetado, almacenamiento, retención y depuración de los conjuntos de entrenamiento, validación y prueba.
Un aspecto relevante de la norma radica en la gestión de modificaciones en el numeral 9.3. La norma exige controlar tanto los cambios planificados como las variaciones no intencionadas que puedan derivar en una modificación sustancial del sistema de IA (CEN-CENELEC, 2025). Se entiende por modificación sustancial cualquier cambio posterior a la puesta en el mercado que afecte el cumplimiento de los requisitos regulatorios o altere la finalidad prevista del sistema. En los casos en que se utilicen modelos de aprendizaje continuo, la norma permite predeterminar procedimientos de actualización en la documentación técnica, validando previamente los límites de variación algorítmica para evitar reevaluaciones de conformidad repetitivas.
3.3 Trazabilidad, documentación técnica y supervisión poscomercialización
La trazabilidad se posiciona en prEN 18286 como una capacidad organizativa que permite reconstruir la historia operativa y de desarrollo de un sistema de IA (CEN-CENELEC, 2025). Para asegurar esta trazabilidad, el proveedor debe elaborar y mantener una documentación técnica exhaustiva que incluya la lista detallada de componentes de software (Software Bill of Materials), las versiones de los modelos, los hiperparámetros de entrenamiento y la procedencia de los conjuntos de datos. Esta documentación debe ponerse a disposición de las autoridades competentes y organismos notificados para verificar la conformidad continua.
Complementariamente, la norma regula la supervisión poscomercialización en la cláusula 9.4, exigiendo establecer un sistema activo y documentado para recolectar, analizar y evaluar datos sobre el rendimiento del sistema durante su uso real en el mercado (CEN-CENELEC, 2025). Este proceso debe alimentarse de los registros automáticos de eventos (logs), las quejas de los usuarios, la retroalimentación de los "desplegadores" y los reportes de incidentes. Por ejemplo, si un sistema de IA generativa implementado en la atención ciudadana comienza a generar respuestas erróneas debido a una deriva en los datos de entrada, el sistema de supervisión poscomercialización debe detectar esta desviación y activar un protocolo de reevaluación y reentrenamiento controlado.
4. Gestión de Riesgos y Loggin (journalisation) de Eventos
Se aborda la convergencia entre la gestión de riesgos orientada a la seguridad y los derechos de las personas, regulada en el borrador de norma prEN 18228, y los requisitos técnicos del registro de eventos. de actividad o trazabilidad operativa (loggin en inglés y journalisation en francés) y registro de eventos especificados en ISO/IEC DIS 24970 (CEN-CENELEC, 2026; ISO/IEC, 2025). Se analizan la jerarquía de controles de riesgo, el diseño inherentemente seguro y los mecanismos de auditoría continua necesarios para garantizar la transparencia operativa.
4.1 Proceso de gestión de riesgos aplicable al ciclo de vida de la IA
El proyecto de norma europea prEN 18228 especifica un proceso continuo e iterativo de gestión de riesgos aplicable a lo largo de todo el ciclo de vida del sistema de IA (CEN-CENELEC, 2026). El marco conceptual de este estándar define el riesgo como la combinación de la probabilidad de ocurrencia de un daño y la severidad de dicho daño, extendiendo el concepto tradicional de seguridad física para incluir de manera explícita los impactos adversos sobre la salud, la seguridad y los derechos garantizados a los individuos. El proveedor debe establecer de forma previa una política de aceptabilidad del riesgo que considere el estado del arte técnico y las expectativas sociales.
El proceso de análisis de riesgos estructurado en prEN 18228 requiere identificar las características del sistema que puedan generar situaciones peligrosas, contemplando además de la finalidad prevista por el fabricante, el mal uso razonablemente previsible (CEN-CENELEC, 2026). Para ello, la organización debe recopilar información tanto en la fase previa a la comercialización (mediante ensayos, revisiones de expertos y pruebas de red teaming) como en la fase posterior (a través de bases de datos de incidentes y registros de auditoría). Toda la evidencia reunida debe consignarse en un expediente de gestión de riesgos (Risk Management File), el cual debe mantenerse actualizado de forma permanente.
4.2 Jerarquía de medidas de control de riesgos y diseño inherentemente seguro
En cuanto al tratamiento y control de los riesgos identificados, prEN 18228 impone la aplicación estricta de una jerarquía de medidas de control (CEN-CENELEC, 2026). En el nivel más alto de esta jerarquía se sitúa el diseño y desarrollo inherentemente seguro. Si la eliminación completa del peligro no resulta técnicamente factible, el proveedor debe aplicar medidas de protección y guardia de segundo nivel. Únicamente de forma final, y como complemento a las medidas anteriores, se recurrirá a la entrega de información para el usuario, instrucciones de uso y capacitación para los desplegadores.
El concepto de diseño inherentemente seguro adquiere una dimensión particular cuando se aplica a la protección de los derechos de las personas (CEN-CENELEC, 2026). En este escenario, el diseño seguro implica traducir principios éticos y legales —tales como la no discriminación, la privacidad y la equidad— en requisitos técnicos integrados en la arquitectura del código y en la preparación de los datos. Por ejemplo, en un sistema de IA generativa destinado a la preselección de candidaturas laborales, el diseño inherentemente seguro exige aplicar técnicas de atenuación de sesgos en los datos de entrenamiento y restringir algorítmicamente el uso de variables protegidas, garantizando que el modelo no genere evaluaciones discriminatorias de forma automatizada.
4.3 journalisation de eventos, marcas de tiempo y auditabilidad del sistema
La efectividad de la gestión de riesgos y la supervisión poscomercialización depende de la capacidad de auditar el comportamiento del sistema de IA en tiempo real. El proyecto de norma ISO/IEC DIS 24970 proporciona las especificaciones técnicas para la journalisation de eventos en sistemas de IA (ISO/IEC, 202b). Un registro de eventos representa información vinculada al funcionamiento, entradas, salidas y contexto operativo del sistema, almacenada para respaldar la recuperación, el análisis y la rendición de cuentas. Los registros pueden ser estructurados, semiestructurados o no estructurados, y deben contar con marcas de tiempo de alta precisión.
La norma ISO/IEC DIS 24970 especifica que los activadores para la generación de registros deben incluir interacciones del usuario, transacciones procesadas, fallos del sistema, detección de sesgos no deseados, entradas fuera de dominio (out-of-domain) y desviaciones del modelo (model drift) (ISO/IEC, 2025). De igual manera, para modelos de aprendizaje automático sujetos a auditoría, el sistema de journalisation debe registrar métricas determinantes en puntos repetidos del entrenamiento (como después de cada época sobre el conjunto de datos). Esta información resulta indispensable para que los auditores internos y externos evalúen la auditabilidad del sistema y verifiquen si las medidas de control de riesgos implementadas mantienen su eficacia a lo largo del tiempo.
5. Ciberseguridad y Caracterización Multidimensional
Se examinan los requisitos de ciberseguridad contemplados en la propuesta de norma prEN 18282 y el marco de caracterización de métodos y capacidades definido en ISO/IEC DIS 42102 (CEN-CENELEC, 2026; ISO/IEC, 2026). En este bloque se analizan las amenazas específicas que afectan a los modelos generativos, la protección contra ataques de inyección de instrucciones y la taxonomía multidimensional empleada para evaluar el comportamiento algorítmico.
5.1 Identificación de activos y amenazas de ciberseguridad en IA
El borrador de norma prEN 18282 aborda las soluciones técnicas y organizativas para garantizar la ciberseguridad de los sistemas de IA de alto riesgo, complementando las medidas tradicionales de seguridad de la información (CEN-CENELEC, 2026). El estándar exige que los proveedores identifiquen los activos específicos de IA que requieren protección, entre los cuales se incluyen los conjuntos de datos, los parámetros y pesos del modelo, la configuración de hiperparámetros, los entornos de entrenamiento, las interfaces API y las instrucciones del sistema (system prompts). La exposición de estos activos puede derivar en ataques contra la confidencialidad, la integridad o la disponibilidad del sistema.
En el ámbito particular de la IA generativa y los modelos de lenguaje de gran escala, prEN 18282 dedica atención prioritaria a las amenazas emergentes (CEN-CENELEC, 2026). Entre estas destacan los ataques de envenenamiento de datos (data poisoning), la evasión del modelo, las agresiones contra la confidencialidad (como la inversión del modelo y la inferencia de pertenencia) y las técnicas de inyección de instrucciones (prompt injection), tanto directas como indirectas. En la inyección de instrucciones indirecta, el atacante introduce comandos maliciosos dentro de datos externos que posteriormente son procesados por el sistema, alterando su comportamiento previsto de manera imperceptible para el usuario.
Para atenuar estas vulnerabilidades en sistemas generativos, la norma prEN 18282 prescribe la implementación de medidas preventivas, detectivas y de respuesta (CEN-CENELEC, 2026). Estas incluyen la separación estricta entre los canales de instrucciones confiables y las entradas de datos no verificadas, el saneamiento de conjuntos de datos, el hardening de componentes de inferencia y la limitación de acciones automatizadas desencadenadas por el modelo. Por ejemplo, en un asistente virtual corporativo que analiza correos electrónicos, la inyección indirecta podría intentar extraer credenciales; la aplicación de los controles de prEN 18282 exige filtrar las entradas externas y requerir confirmación humana antes de ejecutar operaciones sensibles de exportación de datos.
5.2 Caracterización de métodos y capacidades de IA según ISO/IEC DIS 42102
De forma complementaria a la ciberseguridad y la gestión de la calidad, el borrador de norma ISO/IEC DIS 42102 establece una taxonomía estructurada para caracterizar los métodos y las capacidades de los sistemas de IA (ISO/IEC, 2026). La norma define un método de IA como el procedimiento o algoritmo matemático utilizado por un componente (como el aprendizaje supervisado o por refuerzo), mientras que una capacidad de IA describe la habilidad funcional del sistema para ejecutar una tarea determinada (como el procesamiento sensorial, el procesamiento de conocimientos o la generación de texto e imágenes).
La interconexión de las dimensiones de métodos y capacidades en ISO/IEC DIS 42102 proporciona un lenguaje común para todos los actores implicados en el ciclo de vida de la IA (ISO/IEC, 2026). Al aplicar los descriptores normalizados, las organizaciones pueden determinar con precisión la idoneidad de un modelo para un uso concreto, definir regímenes de prueba adecuados y establecer las métricas de evaluación necesarias para el cumplimiento normativo. Esta caracterización uniforme resulta determinante para comparar el desempeño de diferentes modelos en el mercado y para fundamentar las evaluaciones de impacto requeridas por las autoridades reguladoras.
6. Límites Operativos y Fricciones Estructurales en la Normalización de la Inteligencia Artificial Generativa
6.1. La ilusión de la estandarización determinista frente a la estocasticidad algorítmica
El esfuerzo internacional por encuadrar la inteligencia artificial generativa dentro de esquemas de normalización técnica padece una tensión insalvable entre la naturaleza de los modelos estocásticos y la rigidez de los sistemas de gestión de la calidad. Documentos como la Modificación 1 de la norma ISO/IEC 23053 y el proyecto de norma europea prEN 18286 intentan trasladar la lógica de la manufactura industrial y del software convencional hacia arquitecturas basadas en probabilidades. Esta transferencia conceptual asume de forma errónea que un modelo Transformer o de difusión puede ser sometido a controles de verificación estáticos idénticos a los aplicados en cadenas de producción físicas.
La variabilidad inherente a la generación de contenido multimodal desborda las métricas de precisión prefijadas. Un sistema generativo no responde a reglas lógicas deterministas; sus salidas varían en función de cambios infinitesimales en las instrucciones de entrada o en la temperatura de muestreo. Pretender que un expediente de gestión de la calidad garantice la predictibilidad de un algoritmo de lenguaje de gran escala equivale a intentar medir la fluidez de un líquido mediante estructuras rígidas.
6.2. La burocratización documental como sustituto de la seguridad real
La arquitectura normativa propuesta por los comités ISO/IEC JTC 1/SC 42 y CEN-CENELEC deposita un peso desproporcionado en la elaboración de expedientes técnicos, listas de componentes de software y registros de eventos. El borrador prEN 18228 y la especificación ISO/IEC DIS 24970 presuponen que la acumulación masiva de datos de auditoría se traduce de forma automática en una reducción de los riesgos para la sociedad. Esta premisa ignora la realidad operativa de las organizaciones desarrolladoras, donde el cumplimiento regulatorio corre el riesgo de convertirse en un mero ejercicio administrativo de marcas de verificación.
La generación continua de registros de auditoría ante cada inferencia algorítmica produce volúmenes de datos inmanejables para los propios auditores internos y autoridades de supervisión. Se crea así una falsa sensación de control apoyada en montañosos archivos de trazabilidad que nadie examina en tiempo real. La seguridad efectiva del sistema queda desplazada por la urgencia de satisfacer formalidades burocráticas orientadas a eludir sanciones administrativas.
6.3. El desacople entre la velocidad normativa y la evolución arquitectónica
Existe una asimetría insuperable entre los plazos de redacción de los estándares internacionales y el ritmo de desarrollo de la investigación científica en inteligencia artificial. Cuando una norma técnica alcanza la fase de aprobación o publicación, los supuestos algorítmicos sobre los cuales fue concebida han sido sobrepasados por la industria. La caracterización de métodos descrita en ISO/IEC DIS 42102 o la categorización de amenazas de ciberseguridad en prEN 18282 reaccionan ante esquemas conocidos como la inyección de instrucciones o el envenenamiento de datos tradicionales.
La velocidad a la cual surgen nuevas técnicas de vulneración, modelos híbridos no basados en Transformers o arquitecturas neuro-simbólicas vuelve obsoletos los listados rígidos de activos y peligros antes de su implementación formal. El marco regulatorio persigue sombras de tecnologías pasadas, forzando a los evaluadores de conformidad a aplicar criterios concebidos para herramientas que ya no representan el estado del arte.
6.4. La inaccesibilidad económica y la consolidación del oligopolio tecnológico
La complejidad técnica y la carga procedimental impuestas por el entramado de normas prEN e ISO/IEC configuran una barrera de entrada casi infranqueable para pequeñas empresas, emergentes e investigadores independientes. Cumplir con los requerimientos de auditoría continua, pruebas de penetración en ciberseguridad, planes de supervisión poscomercialización y certificaciones bajo ISO/IEC 42006 exige recursos financieros y equipos jurídicos que únicamente las corporaciones multinacionales pueden sostener.
Este diseño normativo, aunque justificado en la protección de los ciudadanos, produce un efecto secundario indeseado: la concentración del mercado en un reducido número de gigantes tecnológicos que disponen del capital necesario para absorber el costo del cumplimiento. Las normativas terminan blindando la posición de los actores dominantes, asfixiando la innovación abierta y condenando a los pequeños desarrolladores a la dependencia de las API proporcionadas por las grandes plataformas.
6.5. La inoperatividad de traducir principios éticos a ecuaciones matemáticas
El intento del borrador prEN 18228 de operacionalizar la protección de los derechos de las personas mediante el concepto de diseño inherentemente seguro presenta fallas metodológicas difícilmente superables. Principios como la equidad, la no discriminación, la dignidad o la justicia son construcciones socio-jurídicas altamente contextuales que carecen de formulación matemática unívoca. Exigir que los desarrolladores traduzcan estos conceptos en parámetros de código o filtros de datos equivale a formalizar una visión sesgada de la ética.
La atenuación de sesgos en conjuntos de entrenamiento frecuentemente elimina la representatividad de minorías o altera la distribución real de los datos, introduciendo nuevas formas de distorsión no intencionadas. La norma pretende mecanizar juicios de valor que requieren deliberación humana continua, convirtiendo dilemas sociales complejos en simples problemas de optimización algorítmica.
7. Arquitectura de Gobernanza Dinámica y Verificación Probabilística Continuada para Sistemas Algorítmicos Generativos
7.1. Entornos de Verificación Estocástica Automatizada en Tiempo Real
Para superar la rigidez de las auditorías documentales estáticas, se plantea la creación de sandboxes de certificación automatizada continuada. Este esquema sustituye las revisiones teóricas de expedientes por la ejecución de pruebas algorítmicas continuas dentro de contenedores aislados de prueba.
Los modelos generativos desplegados se someten a la interacción ininterrumpida con agentes sintéticos diseñados para formular instrucciones complejas, detectar sesgos incipientes y evaluar la estabilidad estocástica de las salidas.
En lugar de emitir un certificado estático previo a la comercialización, el sistema obtiene una credencial digital de operación dinámica que se actualiza automáticamente según el desempeño medido en tiempo real. Si el modelo supera ciertos umbrales de desviación probabilística o muestra comportamientos anómalos, la credencial ajusta de inmediato los permisos de inferencia o restringe las capacidades operativas sin intervención humana manual.
7.2. Red Descentralizada de Huellas Criptográficas para Trazabilidad de Datos Sintéticos
Con el propósito de evitar la degradación funcional provocada por la recirculación no controlada de datos generados por inteligencia artificial, se propone la implementación de un registro distribuido de marcas de agua estocásticas y firmas algorítmicas de origen.
Cada sistema generativo en producción debe incorporar una firma criptográfica imperceptible en el contenido sintetizado. Los pipelines de entrenamiento de nuevos modelos utilizan nodos de validación descentralizados que escanean los conjuntos de datos de entrada, calculando la proporción de contenido sintético antes de iniciar la fase de aprendizaje.
Si el volumen de datos producidos artificialmente excede los límites definidos para preservar la variabilidad de la distribución, el proceso de entrenamiento se detiene automáticamente. Esta medida garantiza la pureza de los conjuntos de datos sin depender de declaraciones juradas o auditorías documentales tradicionales.
7.3. Umbrales Adaptativos Contingentes Mediante Firmware Normativo
La divergencia entre la velocidad del desarrollo técnico y la lentitud de la redacción de normas se resuelve mediante la adopción de un esquema de especificaciones operativas dinámicas denominado firmware normativo.
Los organismos de estandarización emiten directrices de prueba en formato de código ejecutable directamente interpretable por los entornos de despliegue. En vez de esperar años por la actualización de un texto ISO o CEN-CENELEC, los parámetros de ciberseguridad y los límites de tolerancia a la inyección de instrucciones se distribuyen como actualizaciones de código normativo en tiempo real.
Los sistemas en operación reciben estas reglas de forma automatizada, reajustando sus filtros de entrada y capas de protección sin necesidad de alterar la regulación legal de base.
7.4. Régimen Proporcional Acumulativo de Auditoría Basado en Capacidad e Impacto
Para impedir la concentración del mercado en corporaciones multinacionales y proteger el desarrollo de software de código abierto, se establece una estructura de cumplimiento por niveles diferenciados. El nivel de exigencia formal no se determina por la categoría teórica del sistema, atendiendo más bien a la combinación del número diario de inferencias procesadas y el grado de impacto potencial sobre los individuos.
Las empresas emergentes y los desarrolladores independientes que operan modelos de pequeña escala quedan exentos de la elaboración de expedientes de gestión de la calidad extensos. En su lugar, aplican certificaciones técnicas simplificadas basadas en herramientas de evaluación automatizadas de libre acceso.
Las obligaciones de auditoría externa y verificación de ciberseguridad de alto nivel se activan de forma progresiva únicamente cuando el sistema alcanza volúmenes de despliegue masivo o interactúa con sectores de infraestructura crítica.
7.5. Formalización de Invariantes Matemáticas de Equidad en la Función de Pérdida
La traducción de valores sociales y derechos a requisitos técnicos se realiza mediante la integración de invariantes matemáticas de equidad dentro del algoritmo de entrenamiento. En vez de evaluar la conformidad respecto a conceptos éticos abstractos en etapas posteriores al desarrollo, los diseñadores especifican restricciones algebraicas estrictas en la función de pérdida del modelo (loss function).
Estas restricciones actúan como barreras matemáticas inquebrantables que impiden que el gradiente de optimización avance hacia zonas de espacio vectorial donde se generen discrepancias numéricas en el tratamiento de grupos protegidos.
La auditoría posterior se limita a verificar cuantitativamente que las invariantes algebraicas se mantuvieron activas durante todas las épocas del entrenamiento, convirtiendo la evaluación de equidad en una comprobación matemática verificable y reproducible.
8. Discusión e Implicaciones para la Gobernanza de la Inteligencia Artificial
Se esboza una discusión analítica sobre la integración funcional de los estándares estudiados y evalúa sus implicaciones prácticas para la gobernanza global de la inteligencia artificial generativa. Se reflexiona sobre la articulación entre los marcos ISO/IEC y las exigencias de la regulación europea, proponiendo directrices organizativas para los proveedores y evaluadores de conformidad.
8.1 Integración funcional de los estándares y perspectiva del marco regulatorio
El análisis de la Modificación 1 de ISO/IEC 23053 y su interacción con los proyectos de normas armonizadas evidencia que la estandarización técnica ha dejado de ser una actividad puramente descriptiva para convertirse en un instrumento operativo de cumplimiento regulatorio (ISO/IEC, 2025; CEN-CENELEC, 2025). La caracterización precisa de arquitecturas como los Transformers y los modelos generativos probabilísticos proporciona el sustento conceptual sobre el cual se construyen los requisitos de gestión de la calidad, trazabilidad y ciberseguridad. Sin esta base terminológica rigurosa, la evaluación de la conformidad de sistemas complejos resultaría arbitraria e inconsistente.
De forma paralela, los hallazgos técnicos examinados —especialmente el riesgo de colapso del modelo por recirculación de datos sintéticos y la vulnerabilidad ante la inyección de instrucciones— demuestran que los modelos generativos presentan propiedades estocásticas que exigen controles continuamente actualizados (ISO/IEC, 2025; CEN-CENELEC, 2026). La gestión de calidad descrita en prEN 18286 y la evaluación de riesgos de prEN 18228 no deben concebirse como trámites estáticos cumplimentados antes de la comercialización, antes bien como procesos dinámicos respaldados por la journalisation automatizada en tiempo real que prescribe ISO/IEC DIS 24970 (ISO/IEC, 202).
8.2 Recomendaciones operativas para proveedores y evaluadores de conformidad
Para las organizaciones desarrolladoras y proveedoras de inteligencia artificial, la adopción de esta familia de normas representa la vía más sólida para asegurar la presunción de conformidad bajo marcos legales exigentes como el Reglamento de IA de la Unión Europea (CEN-CENELEC, 2025; CEN-CENELEC, 2026). La implementación integrada de un Sistema de Gestión de la Calidad (QMS) en conjunto con un Sistema de Gestión de Riesgos (RMS) permite traducir las exigencias legales en especificaciones de diseño, controles de ciberseguridad y protocolos de supervisión poscomercialización claramente documentados.
A modo de recomendación operativa para la industria y los auditores, resulta indispensable estructurar expedientes de gestión de riesgos que vinculen directamente cada peligro identificado con los registros de prueba de ciberseguridad de prEN 18282 y con los eventos de journalisation de ISO/IEC DIS 24970. Esta arquitectura de cumplimiento de extremo a extremo minimiza la exposición a sanciones administrativas, al tiempo que garantiza que los sistemas generativos desplegados en la sociedad operen bajo márgenes verificables de seguridad, precisión y respeto por las libertades individuales de los usuarios (ISO/IEC, 2025; CEN-CENELEC, 2026).
9. Conclusiones
9.1. Determinación de la Arquitectura Matemática y Límites de la Autosupervisión
Las especificaciones contenidas en el borrador ISO/IEC 23053/prA1 establecen que la arquitectura Transformer opera mediante mecanismos de autoatención que asignan pesos numéricos de importancia a los elementos de una secuencia de manera simultánea. La norma diferencia las configuraciones compuestas exclusivamente por codificadores, orientadas al aprendizaje de representaciones y vectores de incrustación, de aquellas estructuradas únicamente mediante decodificadores, diseñadas para tareas generativas adaptadas como la respuesta a preguntas.
Los modelos generativos pueden formalizarse bajo estructuras probabilísticas o no probabilísticas, abarcando desde codificadores automáticos variacionales y redes de difusión hasta modelos basados en energía. La reutilización consecutiva de salidas producidas por inteligencia artificial en ciclos de entrenamiento autosupervisado genera la degradación de rendimiento identificada como colapso del modelo, provocando la pérdida de variabilidad en la distribución de salida y la acumulación progresiva de errores.
9.2. Articulación de los Sistemas de Gestión de la Calidad y Ciclo de Vida
El borrador prEN 18286 exige a los proveedores implementar un sistema de gestión de la calidad aplicable a la totalidad del ciclo de vida del sistema de IA, abarcando desde la concepción inicial hasta la desactivación. La norma requiere traducir los mandatos reglamentarios en especificaciones de requisitos verificables y mantener procedimientos documentados para la gestión de datos de entrenamiento, validación y prueba.
Las variaciones en los modelos de aprendizaje continuo pueden ser gestionadas mediante procedimientos de modificación predeterminados, siempre que los límites de variación algorítmica hayan sido validados previa evaluación de conformidad. La trazabilidad exige la conservación de la documentación técnica y el listado de componentes de software para permitir la reconstrucción del historial de desarrollo del sistema.
9.3. Integración Sistemática de la Gestión de Riesgos y journalisation
El proyecto de norma prEN 18228 establece un proceso continuo de gestión de riesgos orientado a cuantificar la probabilidad de ocurrencia de un daño y su severidad, incluyendo interferencias con la salud, la seguridad y los derechos garantizados a las personas. El control de riesgos exige aplicar prioritariamente medidas de diseño inherentemente seguro antes de recurrir a guardias de protección o a la entrega de instrucciones de uso.
La norma ISO/IEC DIS 24970 define que la journalisation debe registrar eventos marcados con fecha y hora mediante activadores como errores de software, entradas anómalas, violaciones de integridad y desviaciones del modelo. La combinación de la evaluación de riesgos con el registro de eventos fundamenta la auditabilidad continua y la supervisión en la fase posterior a la comercialización.
9.4. Exigencias de Ciberseguridad y Caracterización de Métodos
El borrador prEN 18282 requiere que los proveedores identifiquen los activos específicos de inteligencia artificial, como conjuntos de datos, pesos de modelos e instrucciones del sistema, aplicando defensas contra envenenamiento de datos, evasión e inyección directas e indirectas de instrucciones.
La verificación exige la realización de pruebas de ciberseguridad que abarquen la resistencia al envenenamiento, la evaluación de robustez adversaria y la extracción de datos confidenciales antes del primer despliegue y tras modificaciones sustanciales.
De forma complementaria, el proyecto ISO/IEC DIS 42102 categoriza las capacidades de procesamiento sensorial, procesamiento de conocimiento y acción de control, ofreciendo una taxonomía uniforme para comparar el rendimiento algorítmico y determinar la idoneidad del sistema.
_________
Bibliografía
Act E.U.A.I. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.
Cao, Y., Li, S., Liu, Y., Yan, Z., Dai, Y., Chen, P. S., & Sun, L. (2024). A survey of AI-generated content (AIGC): History, generative building blocks, and survey. ACM Computing Surveys, 56(8), 1-38. https://doi.org/10.1145/3704262
CEN-CENELEC. (2025). Quality management system for EU AI Act regulatory purposes (Draft Standard prEN 18286:2025). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.
CEN-CENELEC. (2026). Artificial intelligence - Risk management (Draft Standard prEN 18228:2026). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.
CEN-CENELEC. (2026). Artificial intelligence - Cybersecurity specifications for AI systems (Draft Standard prEN 18282:2026). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.
ISO/IEC. (2022). Information technology - Artificial intelligence - Framework for artificial intelligence (AI) systems using machine learning (ML) (Standard No. ISO/IEC 23053:2022). International Organization for Standardization / International Electrotechnical Commission.
ISO/IEC. (2025). Framework for artificial intelligence (AI) systems using machine learning (ML) - Amendment 1: Generative AI (Draft Amendment ISO/IEC 23053:2022/DAM 1:2025). International Organization for Standardization / International Electrotechnical Commission.
ISO/IEC. (2025). Artificial intelligence - AI system logging (Draft International Standard ISO/IEC DIS 24970:2025). International Organization for Standardization / International Electrotechnical Commission.
ISO/IEC. (2025). Information technology - Artificial intelligence - Requirements for bodies auditing and certifying artificial intelligence management systems (Standard No. ISO/IEC 42006:2025). International Organization for Standardization / International Electrotechnical Commission.
ISO/IEC. (2026). Information technology - Artificial intelligence - Framework for characterizing AI system methods and capabilities (Draft International Standard ISO/IEC DIS 42102:2026). International Organization for Standardization / International Electrotechnical Commission.
Recursos Generativos utilizados en la redacción de este artículo
Teniendo en cuenta que se ha seguido la estructura de un artículo científico, formato conocido por la IAG, para la elaboración de este contenido se ha utilizado IAG en la fase de búsqueda de información, así como en la mejora de la redacción y adaptación de ésta a un lenguaje coloquial. Asimismo, antes de editarlo se ha pasado el filtro de plagio (5% de coincidencias) y de lenguaje IAG (6% de coincidencias), considerando ambos ratios razonables y asumibles.
