De la declaración ética a una arquitectura práctica de gobernanza, responsabilidad y dignidad humana
Introducción
La Inteligencia Artificial (IA) ha dejado de ser únicamente una herramienta informática para convertirse en una tecnología transversal capaz de intervenir en decisiones educativas, laborales, financieras, sanitarias, comerciales y administrativas. Su incorporación ofrece oportunidades extraordinarias, pero también introduce una cuestión que ninguna organización debería eludir: ¿bajo qué condiciones es responsable utilizar IA?
La pregunta es más profunda que determinar si un algoritmo funciona correctamente. Un sistema puede ser técnicamente eficiente y, sin embargo, utilizar datos indebidamente, reproducir discriminaciones, proporcionar información falsa o trasladar a una máquina decisiones que deberían permanecer bajo responsabilidad humana.
La UNESCO advierte que los sistemas de IA pueden reproducir y reforzar sesgos, afectar derechos humanos y generar consecuencias ambientales y sociales. Por ello, su Recomendación sobre la ética de la inteligencia artificial, adoptada en 2021 por sus Estados miembros, sitúa en el centro la dignidad humana, los derechos humanos, la transparencia, la equidad y la supervisión humana (UNESCO, 2021).
El NIST estadounidense propone, desde una perspectiva operacional, gestionar los riesgos durante el diseño, desarrollo, despliegue y utilización de los sistemas de IA (Tabassi, 2023). La OCDE complementa esta visión mediante principios orientados hacia una IA innovadora y confiable que respete los derechos humanos y los valores democráticos (Organisation for Economic Co-operation and Development [OECD], 2024).
A estos marcos puede incorporarse una perspectiva antropológica particularmente relevante: Antiqua et nova, publicada en 2025 por los Dicasterios para la Doctrina de la Fe y para la Cultura y la Educación, propone comprender la IA desde una visión integral de la inteligencia y de la dignidad humana.
De esta convergencia puede construirse un Marco de Trabajo para el Uso Responsable de la IA que transforme los principios éticos en procedimientos verificables.
La dignidad humana como punto de partida
Un marco responsable no debería comenzar preguntando qué puede hacer una determinada tecnología, sino qué finalidad humana pretende alcanzar.
La UNESCO define la ética de la IA como una reflexión normativa capaz de orientar responsablemente sus efectos conocidos y desconocidos, tomando como referencia «la dignidad humana, el bienestar y la prevención de daños» (UNESCO, 2021, párr. 1).
Desde otra tradición intelectual, Antiqua et nova establece una idea convergente: la capacidad técnica debe ejercerse «al servicio del mundo creado» (Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación, 2025, n. 1).
Esto introduce un cambio fundamental. La eficiencia deja de ser el criterio último de evaluación.
Reducir costos, aumentar productividad o acelerar procesos constituyen objetivos legítimos, pero resultan insuficientes para justificar una aplicación de IA. También es necesario evaluar sus efectos sobre la autonomía, privacidad, igualdad, libertad y dignidad de las personas.
Propósito: no todo lo automatizable debe automatizarse
Antes de implementar una IA deberían formularse preguntas elementales: ¿qué problema queremos resolver?, ¿por qué necesitamos IA?, ¿quién obtiene los beneficios?, ¿quién soporta los riesgos?, ¿existe una alternativa menos invasiva?
La UNESCO incorpora los principios de proporcionalidad y de no causar daño dentro de su arquitectura ética (UNESCO, 2021).
De ahí puede derivarse un criterio operativo:
No utilizar IA simplemente porque sea posible utilizarla, sino porque existe una finalidad legítima, necesaria y proporcionada.
La distinción resulta especialmente importante cuando la automatización afecta personas. Una herramienta para organizar documentos y un algoritmo para seleccionar trabajadores no deberían estar sometidos a los mismos controles.
Riesgo: a mayores consecuencias, mayores salvaguardas
El Artificial Intelligence Risk Management Framework (AI RMF 1.0) constituye una referencia especialmente útil. El NIST explica que su objetivo consiste en ayudar a las organizaciones que diseñan, desarrollan, despliegan o utilizan IA a gestionar sus riesgos y promover sistemas confiables y responsables (Tabassi, 2023).
Esto permite establecer cuatro categorías operativas: riesgo mínimo, moderado, alto e inadmisible.
Una IA utilizada para generar ideas preliminares puede requerir controles mínimos. Una utilizada para evaluar alumnos o seleccionar personal necesita controles superiores. Las aplicaciones sanitarias, biométricas, financieras o relacionadas con derechos fundamentales exigen supervisión especialmente rigurosa. Finalmente, deberían excluirse aquellas aplicaciones cuya finalidad implique daño deliberado, manipulación ilegítima o discriminación incompatible con la dignidad humana.
El principio general sería: A mayor impacto potencial sobre las personas, mayor exigencia de supervisión, explicación, documentación y responsabilidad humana.
Responsabilidad: el algoritmo nunca debe convertirse en coartada
Uno de los peligros de la automatización consiste en diluir responsabilidades. «Lo decidió el algoritmo» puede parecer una explicación técnica, pero constituye una respuesta ética insuficiente.
Antiqua et nova sostiene que «sólo la persona humana es verdaderamente un agente moral» (Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación, 2025, n. 39).
Esta afirmación permite formular uno de los pilares del marco: toda aplicación de IA con consecuencias relevantes debe tener responsables humanos identificables.
Alguien debe autorizarla, alguien supervisarla y alguien responder por sus consecuencias.
La supervisión humana tampoco puede ser simbólica. El responsable necesita autoridad y conocimientos suficientes para cuestionar, modificar, suspender o rechazar la recomendación automatizada.
Datos: minimizar antes que acumular
La IA contemporánea depende enormemente de los datos. Pero que una organización pueda técnicamente procesarlos no significa automáticamente que deba hacerlo.
La Recomendación de la UNESCO incorpora explícitamente la privacidad y protección de datos dentro de su arquitectura ética (UNESCO, 2021).
Esto justifica aplicar el principio de minimización: utilizar solamente aquellos datos necesarios para cumplir una finalidad previamente establecida.
Información médica, financiera, biométrica, académica, empresarial confidencial o perteneciente a menores merece salvaguardas reforzadas.
Además, debemos evitar una reducción antropológica particularmente peligrosa: una persona es siempre más que los datos que pueden recopilarse sobre ella.
Verificación: una respuesta convincente puede ser falsa
La IA generativa introduce un riesgo adicional: produce lenguaje con extraordinaria apariencia de autoridad. Una respuesta puede ser clara, coherente y falsa. Por ello, utilizar responsablemente IA exige separar dos operaciones que frecuentemente confundimos: generar y verificar.
Una referencia bibliográfica producida por IA debe comprobarse. Una cita textual necesita contrastarse con el documento original. Una interpretación jurídica debe verificarse contra la legislación vigente. Un dato médico requiere una fuente competente. Esta exigencia aumenta proporcionalmente a las consecuencias del error. El principio sería: cuanto mayor sea el daño potencial de una información incorrecta, mayor deberá ser la verificación independiente.
Justicia: precisión matemática no significa equidad
Los algoritmos aprenden de datos provenientes de sociedades reales y, por tanto, pueden reproducir sus desigualdades.
La OCDE señala que una IA confiable debe respetar los derechos humanos y los valores democráticos, incluyendo equidad, privacidad y garantías de intervención humana (OECD, 2024). Sus principios, adoptados originalmente en 2019, fueron actualizados en 2024 para responder mejor a los desafíos de la IA generativa y de propósito general, incluyendo privacidad, seguridad e integridad de la información.
El NIST, a su vez, considera que la confiabilidad comprende múltiples características, entre ellas validez, seguridad, transparencia, explicabilidad, privacidad y gestión de sesgos perjudiciales (Tabassi, 2023). La consecuencia es fundamental: una auditoría técnica no sustituye una auditoría ética.
Trazabilidad: poder reconstruir qué ocurrió
Cuando una IA participa en una decisión importante debería quedar una huella suficientemente clara ¿Qué sistema se utilizó? ¿Para qué finalidad? ¿Qué datos recibió? ¿Qué resultado produjo? ¿Quién lo verificó? ¿Qué modificaciones humanas se realizaron? ¿Quién adoptó finalmente la decisión?
No todos los usos requieren el mismo registro. La documentación debe ser proporcional al riesgo. Pero en las aplicaciones relevantes, la trazabilidad permite auditar, detectar errores, corregir daños y asignar responsabilidades.
El NIST organiza precisamente su marco alrededor de cuatro funciones: Govern, Map, Measure y Manage —gobernar, mapear, medir y gestionar—, concebidas para integrar la gestión de riesgos en las organizaciones (Tabassi, 2023).
De ellas podemos derivar un ciclo práctico: Gobernar → identificar → evaluar → autorizar → utilizar → verificar → documentar → supervisar → corregir.
El Marco DIGNIDAD
Para transformar estos principios en una herramienta aplicable, propongo integrarlos en una matriz denominada DIGNIDAD. No se presenta como un estándar de la UNESCO, NIST u OCDE, sino como una propuesta de síntesis que articula sus principios con una concepción humanista del desarrollo tecnológico.
D — Dignidad: ¿respeta a cada persona como un fin y no únicamente como dato o recurso?
I — Intención: ¿existe una finalidad legítima, necesaria y proporcionada?
G — Gobernanza: ¿sabemos quién autoriza, supervisa y responde?
N — No discriminación: ¿se evaluaron sesgos y efectos injustos?
I — Información: ¿los datos son necesarios, legítimos, pertinentes y están protegidos?
D — Decisión humana: ¿una persona conserva control efectivo sobre las decisiones importantes?
A — Auditabilidad: ¿podemos reconstruir, verificar y explicar el proceso?
D — Desarrollo humano: ¿la aplicación contribuye realmente al bienestar de las personas y al bien común?
Estas ocho dimensiones convierten la ética en una puerta de decisión. Una aplicación que incumpla criterios relevantes no debería avanzar automáticamente: debe revisarse, corregirse, limitarse o, ante riesgos incompatibles con derechos fundamentales y dignidad humana, descartarse.
Conclusión: gobernar la IA significa gobernar nuestras decisiones
El uso responsable de la Inteligencia Artificial no consiste en frenar la innovación. Consiste en determinar qué innovación merece ser desarrollada y bajo qué condiciones.
El NIST concibe expresamente su AI RMF como un instrumento voluntario, adaptable y orientado a permitir que la sociedad aproveche los beneficios de la IA mientras se protege frente a sus daños potenciales (Tabassi, 2023). La UNESCO sitúa dignidad y derechos humanos como fundamentos de la ética de la IA (UNESCO, 2021). La OCDE reclama una IA confiable compatible con derechos humanos y valores democráticos (OECD, 2024). Y Antiqua et nova recuerda que el progreso tecnológico debe insertarse dentro de una comprensión integral de la persona humana (Dicasterio para la Doctrina de la Fe & Dicasterio para la Cultura y la Educación, 2025).
Existe, por tanto, una convergencia significativa entre perspectivas técnicas, jurídicas y humanistas: la innovación necesita permanecer bajo responsabilidad humana.
Una organización responsable no debería preguntarse únicamente cuántas horas ahorró gracias a la IA. Tendría que medir también cuántos riesgos evitó, cómo protegió los datos, si puede explicar sus decisiones, qué sesgos detectó, quién asumió la responsabilidad y qué beneficios humanos produjo.
El futuro de la Inteligencia Artificial no dependerá exclusivamente de modelos más potentes. Dependerá también de las instituciones, reglas y personas que determinen cómo utilizarlos.
Por eso, el principio rector del Marco de Trabajo para el Uso Responsable de la IA puede expresarse en una sola frase: A mayor poder delegado a la Inteligencia Artificial, mayor debe ser la responsabilidad humana que permanece detrás de ella.
La tecnología puede ayudarnos a calcular, predecir y generar. Pero establecer los fines, discernir lo justo y responder por las consecuencias continúa siendo una tarea esencialmente humana.
Te invitamos a ver el video sobre el tema:
Así como la presentación:
Marco de trabajo para el uso responsable de la Inteligencia Artificial – Google Drive
Referencias
Dicasterio para la Doctrina de la Fe, & Dicasterio para la Cultura y la Educación. (2025, 28 de enero). Antiqua et nova: Nota sobre la relación entre la inteligencia artificial y la inteligencia humana. Santa Sede. Antiqua et nova – Nota sobre la relación entre la inteligencia artificial y la inteligencia humana(28 de enero de 2025)
Organisation for Economic Co-operation and Development. (2024). OECD AI Principles. OECD. Los principios fueron adoptados originalmente en 2019 y actualizados en mayo de 2024. Principios de IA | OCDE
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Marco de Gestión de Riesgos de Inteligencia Artificial (IA RMF 1.0) | NIST
UNESCO. (2021, 23 de noviembre). Recomendación sobre la ética de la inteligencia artificial. UNESCO. 381137spa.pdf