Gobernanza · AI Blocks

Salvaguardas DPI de la ONU
como AI Blocks Invocables

El Marco Universal de Salvaguardas DPI identifica 18 principios y 13 riesgos a lo largo del ciclo de vida de la DPI. Esta página los mapea a funciones de IA invocables — salvaguardas que pueden insertarse en cualquier DPI Workflow, auditarse y reemplazarse sin reconstruir la lógica del servicio.

Explorar bloques de salvaguarda Marco ONU ↗ Probar en el Compositor →
🇺🇳 Fuente: Marco Universal de Salvaguardas DPI — Oficina de las Naciones Unidas para las Tecnologías Digitales y Emergentes (ODET) y PNUD, 2023–2025. Utilizado bajo principios de conocimiento abierto.
⚠️ Ejercicio teórico — Los AI Blocks de salvaguarda en esta página son un mapeo conceptual del marco de la ONU en funciones invocables. Aún no son implementaciones de producción. Invitamos a las Naciones Unidas, al PNUD, a ODET y a la comunidad DPI en general a construir sobre este modelo y desarrollar estos bloques como componentes abiertos y globalmente reutilizables.
13 Riesgos Interrelacionados

Lo que protege el marco de la ONU

El marco identifica 13 riesgos interrelacionados en tres categorías. Cada AI Block de salvaguarda está diseñado para detectar o mitigar uno o más de estos riesgos en tiempo de ejecución del flujo de trabajo — no como documento de política, sino como función invocable y auditable.

🔴 Seguridad
Vulnerabilidad a la privacidad
Inseguridad digital
Inseguridad física
Falta de recursos de reparación
🟣 Inclusión
Discriminación
Acceso desigual
Exclusión
Despoderar a las personas
🟡 Vulnerabilidades Estructurales
Desconfianza digital
Estado de derecho débil
Instituciones débiles
Deficiencias técnicas
Insostenibilidad
El enfoque DPI-IA: En lugar de abordar estos riesgos solo a través de documentos de política y marcos de gobernanza, el Marco DPI-IA trata cada salvaguarda como una función invocable — que puede llamarse en cualquier paso de un DPI Workflow, devuelve salidas estructuradas y registra en una trazabilidad de auditoría inmutable.
Catálogo de AI Blocks de Salvaguarda

9 funciones de salvaguarda invocables

Cada bloque se mapea a uno o más Principios de Salvaguarda DPI de la ONU. Los bloques marcados como NUEVO se derivan directamente de los 18 principios y 13 categorías de riesgo del marco de la ONU.

NUEVO
🔐
privacy_check()
Evalúa los campos de datos contra los principios de privacidad por diseño — verifica la minimización de datos, la limitación de propósito, el período de retención y las restricciones de observabilidad antes de que continúe el procesamiento.
Entradasdata_fieldspurposeretention_period
Salidasprivacy_risk_scoreviolationsproceed
📐 Principio ONU O3 — Garantizar la privacidad por diseño · Mitiga: Vulnerabilidad a la privacidad
NUEVO
🌍
exclusion_audit()
Verifica si el resultado de un servicio o la configuración de un canal arriesga excluir o discriminar a grupos demográficos específicos, usuarios con baja conectividad o personas con discapacidad.
Entradasservice_outputchannel_configpopulation_context
Salidasexclusion_riskaffected_groupschannel_gaps
📐 Principios ONU F2 & F3 — No discriminar · No excluir · Mitiga: Discriminación, Exclusión, Acceso desigual
NUEVO
⚖️
recourse_check()
Verifica que exista una vía de queja, apelación o reparación accesible para el ciudadano antes de que se finalice una decisión del flujo de trabajo. Emite una referencia de recurso y la registra en la trazabilidad de auditoría.
Entradasservice_idcitizen_iddecision_ref
Salidasrecourse_availableappeal_pathrecourse_ref
📐 Principio ONU F8 — Garantizar recursos efectivos y reparación · Mitiga: Falta de recursos de reparación, Despoderar a las personas
NUEVO
📜
legal_basis_verify()
Confirma que el servicio cuenta con un mandato legal o regulatorio claro antes de que se procesen los datos. Verifica la jurisdicción, la ley aplicable y la autoridad de uso de datos. Bloquea la ejecución del flujo de trabajo si no se encuentra una base jurídica válida.
Entradasservice_idjurisdictiondata_use_purpose
Salidaslegal_basis_confirmedapplicable_lawcompliance_status
📐 Principio ONU F5 — Mantener el estado de derecho · Mitiga: Estado de derecho débil, Desconfianza digital
NUEVO
♻️
sustainability_assess()
Evalúa las señales de sostenibilidad operativa y financiera a largo plazo del servicio — incluyendo el riesgo de dependencia, el bloqueo de proveedores, el impacto ambiental y los indicadores de capacidad institucional.
Entradasservice_iddependency_mapcost_model
Salidassustainability_scorerisk_flagsrecommendations
📐 Principios ONU F9 & O8 — Sostenibilidad futura · Viabilidad financiera · Mitiga: Insostenibilidad, Deficiencias técnicas
🤝
consent_verify()
Verifica que el consentimiento del ciudadano esté registrado, sea válido y tenga el alcance correcto antes de que se procesen los datos. Bloquea el procesamiento si el consentimiento está ausente o vencido.
Entradassession_iddata_types
Salidasconsent_validscopetimestamp
📐 Principio ONU O5 — Protección de datos durante el uso · F6 — Promover la autonomía y la agencia
👤
human_review()
Deriva una decisión de baja confianza o alto riesgo a un gestor de casos humano. Emite un ID de caso, pausa el flujo de trabajo y lo reanuda al completar la revisión.
Entradasdecision_contextconfidence_scorecitizen_id
Salidascase_idreview_statusreviewer_decision
📐 Principio ONU F8 — Recurso efectivo · F6 — Autonomía y agencia · Supervisión humana por defecto
🔬
bias_check()
Detecta y marca sesgos algorítmicos o disparidades demográficas en las decisiones de IA. Devuelve un puntaje de sesgo, los atributos marcados y una explicación en lenguaje sencillo.
Entradasdecision_outputdemographic_attrs
Salidasbias_scoreflaggedexplanation
📐 Principios ONU F2 — No discriminar · O6 — Responder al género, capacidad o edad
🚩
anomaly_flag()
Marca patrones anómalos en las salidas del flujo de trabajo y los deriva a revisión humana. Apoya la mejora continua basada en evidencia según el principio O2.
Entradasoutput_databaseline_rules
Salidasis_anomalyrisk_scoreescalate
📐 Principio ONU O2 — Evolucionar con evidencia · Mitiga: Desconfianza digital, Instituciones débiles
5 Etapas del Ciclo de Vida

Cuándo invocar cada salvaguarda

El marco de la ONU mapea las salvaguardas a cinco etapas iterativas del ciclo de vida de la DPI. En un flujo de trabajo DPI-IA, cada etapa corresponde a bloques invocables específicos que deben activarse antes de continuar.

Etapa 1
Concepción y Alcance
legal_basis_verify() sustainability_assess() exclusion_audit()
Etapa 2
Estrategia y Diseño
privacy_check() exclusion_audit() bias_check()
Etapa 3
Desarrollo
consent_verify() privacy_check() anomaly_flag()
Etapa 4
Despliegue
recourse_check() human_review() legal_basis_verify()
Etapa 5
Operaciones y Mantenimiento
anomaly_flag() bias_check() sustainability_assess()
18 Principios

Fundacionales y Operacionales

Los 18 principios del marco de la ONU se dividen en Fundacionales (la base no negociable para cualquier DPI) y Operacionales (principios sensibles al contexto que varían según las implementaciones). Cada AI Block de salvaguarda está anclado en uno o más de estos principios.

Principios Fundacionales — F1 a F9
F1
No causar daño
Anticipar, evaluar y mitigar los daños a los derechos humanos a lo largo de todo el ciclo de vida de la DPI.
F2
No discriminar
Garantizar acceso sin sesgos e igualdad de oportunidades para todas las personas, independientemente de sus identidades entrecruzadas.
F3
No excluir
Ofrecer una variedad de canales — digitales y no digitales — según la capacidad individual. El acceso no debe ser condicional ni obligatorio.
F4
Reforzar la transparencia y la rendición de cuentas
Desarrollar la DPI con participación democrática, supervisión pública y competencia equitativa de mercado. Evitar la dependencia de proveedores.
F5
Mantener el estado de derecho
Introducir la DPI con una base jurídica clara e integrar los aspectos regulatorios en su diseño desde el principio.
F6
Promover la autonomía y la agencia
Permitir que todas las personas controlen sus datos, ejerzan su elección y contribuyan al bienestar de su sociedad.
F7
Fomentar la participación comunitaria
Centrar todas las etapas del ciclo de vida en las necesidades e intereses de las personas y comunidades en situación de riesgo.
F8
Garantizar recursos efectivos y reparación
La respuesta a quejas, las vías de apelación y los mecanismos de reparación deben ser accesibles para todas las personas, de manera equitativa.
F9
Enfocarse en la sostenibilidad futura
Anticipar y limitar los daños a largo plazo. Mitigar el impacto ambiental y minimizar las necesidades de recursos.
Principios Operacionales — O1 a O9
O1
Aprovechar la dinámica del mercado
Fomentar la innovación pública y privada inclusiva para que los actores del mercado puedan competir y satisfacer las necesidades emergentes.
O2
Evolucionar con evidencia
Evaluaciones y auditorías independientes, transparentes y continuas — cesar o iniciar actividades rápidamente según la evidencia.
O3
Garantizar la privacidad por diseño
Integrar la minimización de datos, disposiciones para desvinculación y la capacidad de limitar la observabilidad en la arquitectura legal y técnica.
O4
Asegurar la seguridad de los datos por diseño
Incorporar cifrado y seudonimización. Los marcos legales deben llenar los vacíos donde el diseño técnico sea insuficiente.
O5
Garantizar la protección de datos durante el uso
Procesar o conservar datos personales de forma legal y transparente, únicamente por personal autorizado dentro de un marco legal.
O6
Responder al género, la capacidad o la edad
La DPI no debe agravar los desafíos existentes ni introducir nuevas barreras para quienes enfrentan desigualdades estructurales.
O7
Practicar la gobernanza inclusiva
Establecer un marco legal, regulatorio e institucional sólido que promueva una gobernanza transparente y multisectorial.
O8
Mantener la viabilidad financiera
Establecer modelos de financiamiento diversificados, escalonados y sostenibles. Los gobiernos lideran la construcción; los socios lideran las operaciones.
O9
Construir y compartir activos abiertos
Compartir y reutilizar protocolos abiertos, especificaciones y DPGs para evitar que los sistemas propietarios limiten la seguridad.

Agrega salvaguardas a tu flujo de trabajo

Usa el Compositor de AI Blocks para agregar privacy_check(), recourse_check() y otros bloques de salvaguarda a cualquier DPI Workflow. O abre el Arquitecto de Servicios para ver cómo las salvaguardas se preseleccionan para cada caso de uso.

Abrir el Compositor de AI Blocks → Arquitecto de Servicios → Guía de Implementación →
Fuente y Atribución
Los principios de salvaguarda y la taxonomía de riesgos en esta página se derivan del Marco Universal de Salvaguardas DPI, publicado por la Oficina de las Naciones Unidas para las Tecnologías Digitales y Emergentes (ODET) y el Programa de las Naciones Unidas para el Desarrollo (PNUD). El marco se construye mediante consultas globales y se utiliza aquí bajo principios de conocimiento abierto. La traducción de estos principios a especificaciones de AI Blocks invocables es una contribución original del Marco DPI-IA de CDPI y no representa una posición oficial de las Naciones Unidas.