RESOLUCIÓN 459 DE 2025

 

(Octubre 14)

 

Por la cual se establece el uso responsable, transparente y ético de la Inteligencia Artificial de la Unidad Administrativa Especial de Catastro Distrital -UAECD-

 

LA DIRECTORA DE LA UNIDAD ADMINISTRATIVA ESPECIAL DE CATASTRO DISTRITAL (UAECD) en uso de sus atribuciones legales, en especial las conferidas por los numerales 9 y 15 del artículo 16 del capítulo IV del Acuerdo 004 de 2021 expedido por la UAECD y,

 

CONSIDERANDO:

 

Que la UNESCO ha subrayado la necesidad de un desarrollo ético de la IA, destacando principios fundamentales como la transparencia, la equidad y la no discriminación. La "Recomendación sobre la Ética de la Inteligencia Artificial" de la UNESCO, establece el primer estándar global para la ética en IA.  Esta recomendación se centra en asegurar que la IA beneficie a toda la humanidad y no exacerbar las desigualdades existentes.[1] 

 

Que la Organización para la Cooperación y el Desarrollo Económico (OCDE) ha desarrollado un conjunto de principios para guiar el desarrollo y uso de la IA. Estos principios destacan la importancia de la IA inclusiva y responsable, la transparencia y explicabilidad, la robustez, seguridad y responsabilidad, así como el respeto por los derechos humanos y la justicia social. Razón por la cual enfatiza que los sistemas de IA deben diseñarse y operarse de manera ética, promoviendo el bienestar social y minimizando los riesgos.[2] 

 

Que el Documento CONPES 4144 de 2025, mediante el cual se define la Política Nacional de Inteligencia Artificial, determina acciones estratégicas para fortalecer la gobernanza, promover la adopción responsable y mitigar los riesgos asociados al uso de la IA en entidades públicas, fijando lineamientos que deben orientar la implementación de soluciones basadas en dicha tecnología hasta el año 2030.

 

Que el Acuerdo Distrital 927 de 2024, mediante el cual se adopta el Plan Distrital de Desarrollo 2024–2027 “Bogotá Camina Segura”, en su Programa 35 “Bogotá Ciudad Inteligente”, establece como prioridad la incorporación de tecnologías emergentes para fortalecer la gestión pública, promover la innovación y garantizar servicios más eficientes, inclusivos y transparentes. 

 

Que el Acuerdo 002 de 2023 de la Alcaldía Mayor de Bogotá, expedido por la Comisión Distrital de Transformación Digital, adoptó los lineamientos para la realización de las Evaluaciones de Impacto a la Privacidad (PIA), como instrumento preventivo para identificar y mitigar los riesgos asociados al tratamiento de datos personales en proyectos tecnológicos distritales. 

 

Que la Unidad Administrativa Especial de Catastro Distrital, en adelante UAECD, reconoce el papel de la Inteligencia Artificial (IA) como herramienta estratégica para fortalecer la gestión catastral y optimizar los servicios ofrecidos a la ciudadanía.

 

Que, en consecuencia, al momento de implementar y hacer uso de herramientas basadas en IA, resulta indispensable incorporar principios éticos que orienten su utilización, de manera que se mitiguen los sesgos propios de los algoritmos y se eviten resultados injustos o discriminatorios. 

 

Que en cumplimiento de lo señalado en el artículo 8 de la ley 1437 de 2011, el Decreto Distrital 474 de 2022, el proyecto de la presente resolución se publicó en el Sistema Legalbog, del 3 al 10 de octubre del 2025, sin que se hubieran recibido observaciones o sugerencias por parte de la ciudadanía, conforme la consulta efectuada a dicho sistema.

 

Que con ocasión a lo anterior, resulta necesario que la UAECD adopte lineamientos específicos de transparencia y uso responsable de la Inteligencia Artificial, en armonía con los objetivos estratégicos de la ciudad, que garanticen la protección de datos, la confianza ciudadana y la observancia de los derechos fundamentales, razón por la cual, 

 

RESUELVE:

 

Artículo 1°. Objeto. La presente resolución tiene por objeto adoptar el marco de principios y directrices que regirá el diseño, implementación y utilización de soluciones de Inteligencia Artificial en la Unidad Administrativa Especial de Catastro Distrital – UAECD, con el propósito de garantizar su observancia en condiciones de legalidad, integridad, transparencia y respeto por los derechos fundamentales.

 

Artículo 2°. Ámbito de aplicación. La presente resolución aplica a todas las dependencias, así como al desarrollo de proyectos, y actividades adelantadas por contratistas, proveedores y terceros que diseñen, adquieran, adapten, integren, operen o evalúen sistemas de IA para la UAECD.

 

Artículo 3°. Definiciones y glosario.  Para efectos de esta resolución, se adoptan, entre otras, las siguientes definiciones:

 

Control humano significativo: Intervención humana con autoridad y capacidad para entender, supervisar, corregir o anular decisiones de IA.

 

Datos sensibles: Datos que afectan la intimidad o cuya divulgación indebida puede generar discriminación.

 

DPIA / PIA: Estudio o evaluaciones de impacto en privacidad que permiten medir el impacto en la privacidad y emplear sistemas de seguridad digital para una protección adecuada de los datos personales.

 

NNA: Niñas, niños y adolescentes; se garantiza prevalencia de sus derechos e interés superior.

 

Privacidad desde el diseño: Implica incorporar la privacidad de la información como eje central de los procesos de diseño, operación y gestión de soluciones o herramientas tecnológicas para lograr una protección adecuada en materia de datos personales.

 

Privacidad por defecto: Implica el uso de mecanismos que garanticen que se traten únicamente lo datos que sean necesarios, adecuados y pertinentes para los fines del tratamiento y se garantice que la extensión de dicho tratamiento sea la estrictamente necesaria, al igual que el tiempo o periodo de conservación de los datos debe estar justificado objetivamente en la finalidad del tratamiento.

 

Registro Ético de Algoritmos: Repositorio institucional con campos mínimos sobre proyecto, datos, riesgos, mitigaciones, control humano y publicación.

 

Responsabilidad demostrada (accountability): Deber que obliga al responsable y/o encargado del tratamiento de datos personales a demostrar, a petición de la Superintendencia de Industria y Comercio-SIC, haber implementado medidas apropiadas y efectivas para cumplir con las obligaciones del régimen de protección de datos personales.

 

Sesgo algorítmico: Desviación sistemática que genera resultados injustos o discriminatorios para grupos o personas.

 

Sistema de IA: Sistema basado en máquinas que, mediante aprendizaje automático y modelos fundacionales (p. ej., modelos predictivos/prescriptivos, generativos y multimodales), procesa datos de una o varias modalidades (texto, audio, imagen, video, sensores) para generar predicciones, clasificaciones, contenido, recomendaciones o decisiones, con distintos niveles de autonomía y adaptabilidad.

 

Subcomité de Gobernanza de Inteligencia Artificial (IA): Instancia que se creará para apoyar al Comité Institucional de Gestión y Desempeño – CIGD, en el diseño, despliegue, seguimiento y mejora de la gobernanza de IA, asegurando la alineación con el MIPG, la política de Gobierno Digital, la protección de datos personales, la seguridad de la información y los principios éticos de IA aplicables.

 

Artículo 4°. Principios para el uso de IA.  La UAECD, en concordancia con el Marco Ético para el Uso de la Inteligencia Artificial en Colombia, adopta los siguientes principios: 

 

- Transparencia y explicabilidad: Implica apertura para brindar información significativa y comprensible sobre el diseño, funcionamiento e impacto de los sistemas de IA, dirigida tanto a desarrolladores/usuarios como a las personas potencialmente afectadas. La información debe ser accesible y adaptada al contexto y a la audiencia (incluidas poblaciones diversas), sin comprometer la confidencialidad del modelo de gestión o la innovación; la  explicación es prioritaria en aplicaciones de alto riesgo. En la ética de los datos conlleva informar la procedencia, características y fines del uso de los datos (en especial, personales); en la ética de los algoritmos supone conocer objetivos, resultados esperados y obtenidos, así como transparentar insumos y salidas (incluidos falsos positivos/negativos e indicadores de desempeño.

 

- Privacidad: El diseño de los algoritmos debe respetar la intimidad: limitar el uso de datos personales a lo estrictamente necesario; evitar perfilamientos con criterios no conocidos y no autorizados; e informar a los titulares cuando se use su información para mejorar el desempeño. En las prácticas institucionales, se exigen procedimientos internos de buenas prácticas, responsabilidad demostrada (accountability), gestión del riesgo de privacidad y la realización de DPIA; también se debe prevenir la generación de clasificaciones o perfilamientos sociales no deseados (dimensión de privacidad colectiva).

- No discriminación: Los resultados de los sistemas de IA deben ser no discriminatorios y justos; las entidades deben comprender y gestionar los sesgos de las bases de datos y del modelo, evaluando y mitigando imprecisiones o sesgos durante el entrenamiento y el despliegue.

 

- Inclusión: Las explicaciones e interacciones con los sistemas deben considerar las perspectivas y características de poblaciones diversas, asegurando su comprensión; para NNA y juventud, el Marco Ético destaca su empoderamiento mediante educación, participación y co-diseño, evitando sobrecargarles responsabilidades y promoviendo un enfoque multiactor.

- Seguridad: Énfasis en la seguridad de los datos (en particular, los sensibles) y en una gestión coherente de riesgos y controles internos para el despliegue de IA: monitoreo y reporte de desempeño, posibilidad de monitoreo autónomo que escale la supervisión humana, y medidas de gobernanza como transferencia de conocimiento y revisión de estructuras ante cambios organizacionales.

- Beneficio social: El uso de la IA debe orientarse a generar valor público y contribuir a resolver problemas sociales estructurales, garantizando una implementación ética y confiable que mitigue efectos negativos como desinformación, sesgos, discriminación, riesgos de seguridad y afectaciones a la privacidad.

- Responsabilidad: Deben existir responsabilidades rastreables a lo largo del diseño y desarrollo del sistema, con claridad sobre quiénes intervienen y sobre cómo se asumen las obligaciones; esto se operacionaliza con medidas de responsabilidad demostrada (p. ej., DPIA, gestión de riesgos, procedimientos de atención y explicación a usuarios), monitoreo y reportes sobre desempeño y explicabilidad del modelo.

 

- Prevalencia de derechos de niñas, niños y adolescentes (NNA): Debe garantizarse la primacía de sus derechos y un enfoque reforzado en todas las fases: contextualizar los principios a sus percepciones y realidades; empoderar y educar a NNA, familias y cuidadores; y equilibrar la necesidad de datos para evitar imprecisiones con su seguridad, mediante mecanismos como sandboxes (entornos experimentales controlados), participación de jóvenes y evaluación continua.

 

Artículo 5°. Ciclo de vida de los sistemas de IA. Todo Sistema de IA en la entidad, se desarrollará con las siguientes fases mínimas: 

 

(i) Ideación y ponderación (idoneidad, necesidad, razonabilidad, proporcionalidad estricta): En esta fase se evalúa si el uso de IA es realmente adecuado y necesario para el problema identificado, considerando alternativas y asegurando que la solución propuesta sea proporcional al objetivo institucional.

 

(ii) Estudio de impacto a la Privacidad (DPIA) cuando exista riesgo de exposición de datos personales: Se realiza una evaluación formal para identificar, analizar y mitigar los riesgos que el sistema de IA pueda representar para la privacidad y protección de los datos personales de los ciudadanos.

 

(iii) Diseño considerando la privacidad desde el inicio y por defecto y seguridad: El sistema se diseña incorporando principios de privacidad y seguridad desde las etapas iniciales, asegurando que solo se recolecten y procesen los datos estrictamente necesarios y que existan salvaguardas técnicas y organizacionales.

 

(iv) Adquisición/desarrollo con requisitos éticos y contractuales adecuados: Durante la adquisición o desarrollo del sistema, se establecen cláusulas y requisitos que garanticen el cumplimiento de principios éticos, legales y contractuales, tanto para proveedores como para desarrolladores internos.

 

(v) Validación y pruebas: Se realizan pruebas técnicas y funcionales para verificar que el sistema cumple con los requisitos definidos, es robusto ante posibles fallos y no genera resultados discriminatorios o sesgados.

 

(vi) Despliegue controlado: El sistema se implementa de manera gradual y supervisada, permitiendo detectar y corregir posibles problemas antes de su uso generalizado.

 

(vii) Monitoreo, auditoría y mejora: Se establecen mecanismos de seguimiento continuo y auditoría para evaluar el desempeño, identificar riesgos o desviaciones, y aplicar mejoras de manera oportuna.

 

(viii) Retiro y cierre responsable: Cuando el sistema deja de ser útil o seguro, se planifica y ejecuta su retiro, asegurando la protección de los datos y la documentación de las lecciones aprendidas. 

 

Artículo 6°. Clasificación de riesgos y medidas mínimas. Para la implementación de los proyectos de inteligencia artificial en la UAECD, se debe considerar diferentes niveles de riesgo, cada uno con medidas mínimas específicas que deben implementarse. 

 

Nivel de riesgo bajo: En este nivel de riesgo, basta con registrar el sistema en el repositorio institucional, proporcionar información básica sobre su alcance y el uso de datos, y aplicar controles estándar recomendados por la Gerencia de Tecnología. Esto busca mantener una trazabilidad básica y asegurar que el sistema cumple con los requisitos mínimos de seguridad y transparencia.

 

Nivel de riesgo medio: Cuando el riesgo es medio, se exige una evaluación más detallada. Se requiere analizar posibles sesgos en los datos y en el funcionamiento del sistema, documentar cómo se explica el funcionamiento del algoritmo y realizar pruebas de robustez para verificar que el sistema opera correctamente en diferentes escenarios. Estas medidas buscan prevenir errores y garantizar que el sistema sea justo y confiable.

 

Nivel de riesgo alto: Para los sistemas considerados de alto riesgo, la exigencia es mayor. Se debe realizar un Estudio de Impacto en la Privacidad (DPIA / PIA), que evalúe cómo el sistema puede afectar la privacidad de las personas. Además, se deben establecer mecanismos de control humano significativo, reforzar las auditorías y aplicar medidas avanzadas de privacidad desde el diseño. Esto asegura que, ante cualquier decisión automatizada relevante, exista supervisión humana y protección reforzada de los derechos de los ciudadanos.

 

Nivel de riesgo críticos: Para aquellos sistemas de riesgo de nivel crítico, se requieren aún más precauciones. En estos casos, se exige una acreditación externa, la realización de pilotos limitados antes de su despliegue total, una revisión exhaustiva por parte del Subcomité de Gobernanza de IA y, si es necesario, la opción de no implementar el sistema bajo el principio de precaución. Estas medidas buscan evitar cualquier impacto negativo significativo y garantizar que la tecnología se utilice de manera ética y responsable.

 

Artículo 7°. Gestión de datos en proyectos de IA.  La UAECD considerará los siguientes aspectos en materia de gestión de datos en proyectos de IA:

 

Calidad de los datos: La calidad de los datos es fundamental en los proyectos de inteligencia artificial que adelante la entidad. Esto implica que los datos utilizados deben ser veraces, completos, exactos, actualizados, comprobables y comprensibles. La veracidad garantiza que la información refleje la realidad; la completitud asegura que no falten datos relevantes; la exactitud evita errores; la actualización permite que los datos sean pertinentes en el tiempo; la comprobabilidad facilita la verificación de la información; y la comprensibilidad asegura que los datos puedan ser interpretados correctamente por los usuarios y responsables del sistema. Sin estos atributos, los modelos de IA adoptados por la entidad podrían arrojar resultados imprecisos, sesgados o incluso inútiles, afectando la toma de decisiones y la confianza en la tecnología. 

 

Hasta tanto la Entidad adopte el procedimiento para la gestión y aseguramiento de la calidad de los datos conforme a las dimensiones definidas por los marcos de referencia como el DAMA y el Plan Nacional de Infraestructura de Datos (PNID), los estándares de calidad señalados en el presente artículo se implementarán de manera progresiva y gradual.

 

En consecuencia, la UAECD desarrollará e institucionalizará, en el plazo máximo de 1 año contado desde la expedición del presente acto,  los procesos, metodologías y roles responsables que garanticen la veracidad, completitud, exactitud, actualización, comprobabilidad y comprensibilidad de los datos utilizados en proyectos de inteligencia artificial.

 

Mientras se adopta formalmente dicho procedimiento, las dependencias deberán aplicar mecanismos de control proporcional al riesgo del proyecto y documentar las acciones realizadas para mejorar la calidad de los datos, conforme a los principios de responsabilidad demostrada y mejora continua establecidos en la presente resolución.

 

Información accesible públicamente: La UAECD reconoce que el hecho de que los datos sean accesibles públicamente no significa que tengan naturaleza pública. En este sentido es crucial distinguir entre los datos que pueden ser consultados por determinadas personas o sistemas y aquellos que, por su carácter, deben ser protegidos y no divulgados públicamente. La accesibilidad debe estar regulada por principios de privacidad y protección de datos, evitando el tratamiento indebido de información personal o sensible. Esto responde a la necesidad de cumplir con la normatividad vigente en materia de protección de datos y, especialmente, garantizar la confianza de los ciudadanos en el uso de sus datos por parte de la entidad. 

 

Minimización y actualización: La UAECD deberá aplicar la minimización de datos como un principio que busca limitar la recolección y el uso de información únicamente a lo estrictamente necesario para el propósito del sistema de IA. Esto reducirá riesgos de exposición y protegerá la privacidad de los individuos. La actualización, por su parte, implica que los datos deben ser revisados y renovados periódicamente para mantener su relevancia y exactitud, evitando el uso de información obsoleta que pueda generar errores en los resultados del sistema. 

 

Salvaguardas reforzadas para datos sensibles y de NNA: La UAECD procurará que los datos sensibles, como los que afectan la intimidad o pueden generar discriminación, y los datos de niñas, niños y adolescentes (NNA), cuenten con medidas de protección adicionales. Esto incluye la aplicación de técnicas como la anonimización, la pseudonimización y la privacidad por diseño, así como controles estrictos de acceso y auditoría. Además, se deben implementar mecanismos para garantizar el interés superior de los NNA, evitando cualquier uso que pueda poner en riesgo sus derechos o seguridad.

 

Articulación con PNID, IDEC, PGD,  PDD y lineamientos de la Comisión Distrital de Transformación Digital y otras instancias: La gestión de datos en proyectos de IA debe estar alineada con las políticas nacionales, sectoriales y distritales, tales como el Plan Nacional de Infraestructura de Datos (PNID), la Infraestructura de Datos Espaciales de Colombia (IDEC), la Política de Gobierno Digital (PGD), y el Plan Distrital de Desarrollo (PDD), así como con los lineamientos de la Comisión Distrital de Transformación Digital y otras instancias, que sean aplicables. Esta articulación deberá procurar que los datos sean interoperables, estandarizados y gestionados de manera ética y eficiente, facilitando la colaboración entre entidades y el aprovechamiento de la información para el desarrollo de soluciones innovadoras y responsables.

 

Artículo 8°. Seguridad digital y continuidad. La UAECD implementará medidas técnicas, humanas, administrativas, físicas y contractuales, auditables y proporcionales al riesgo, que ofrezcan condiciones adecuadas de seguridad conforme al nivel de riesgo de los proyectos de IA, así como la articulación con planes de continuidad en los casos que aplique.

 

Artículo 9°. Transparencia y explicabilidad. La UAECD garantizará la disponibilidad de información relevante y comprensible sobre los sistemas de inteligencia artificial que implemente. Esto significa que, para cada sistema de IA, la entidad proporcionará detalles claros sobre los fines para los cuales se utiliza la tecnología, especificando los objetivos y el impacto esperado en los procesos institucionales y en la ciudadanía. Además, se debe informar sobre los datos empleados, incluyendo su origen y las categorías de información procesada, lo que permitirá a los usuarios y a los ciudadanos conocer de dónde provienen los datos y cómo se utilizan.

 

En cuanto al desempeño, la UAECD deberá contar con indicadores que permitan evaluar el funcionamiento del sistema, incluyendo métricas como la tasa de falsos positivos y negativos, que son esenciales para entender la precisión y los posibles errores del sistema. También se debe informar sobre el grado de automatización, es decir, hasta qué punto las decisiones son tomadas por la IA sin intervención humana, y cuáles son las limitaciones del sistema, como los escenarios en los que puede fallar o no ser aplicable.

 

Cuando se trate de sistemas de alto riesgo, la exigencia de explicabilidad se deberá reforzar. Esto implica que la entidad debe documentar con explicaciones más detalladas y técnicas sobre cómo funciona el sistema, cómo se toman las decisiones automatizadas y qué mecanismos existen para supervisar y corregir posibles errores o sesgos. La explicabilidad reforzada es fundamental para garantizar la confianza pública, facilitar auditorías externas y permitir que los afectados por decisiones automatizadas puedan comprender y, si es necesario, impugnar los resultados. 

 

Artículo 10°. Derechos de las personas y control humano significativo. La UAECD garantizará el pleno ejercicio de los derechos de acceso, corrección o actualización, supresión, revocatoria y oposición respecto de los datos personales tratados en sistemas de inteligencia artificial, conforme a la Ley 1581 de 2012[3] y demás normatividad aplicable. Estos derechos podrán ser ejercidos por los titulares de los datos, o sus representantes, a través de los canales institucionales de Peticiones, Quejas, Reclamos y Sugerencias (PQRS) y demás mecanismos dispuestos por la entidad. 

 

Adicionalmente, la UAECD asegurará la existencia de control humano o sobre las decisiones automatizadas que puedan afectar derechos o intereses de las personas. Esto implica que, en los casos en que un sistema de IA tome decisiones relevantes, existirá la posibilidad de intervención, supervisión, corrección o anulación por parte de funcionarios competentes, garantizando así el debido proceso y la protección de los derechos fundamentales. 

 

Parágrafo: La entidad documentará los mecanismos de control humano y los hará públicos en los términos de transparencia y explicabilidad desarrollados en este acto administrativo. 

 

Artículo 11°. Deber de conocimiento y responsabilidad. Con el fin de garantizar un uso informado y adecuado de las herramientas de IA que se empleen para apoyar funciones, actividades o procesos institucionales, los servidores de la UAECD deberán:

 

1. Conocer previamente el alcance, funcionalidades, ventajas y nivel de confiabilidad de la herramienta de IA que se utilice.

 

2. Identificar sus posibles limitaciones y riesgos, tales como errores, inconsistencias o sesgos en los resultados.

 

3. Verificar las condiciones bajo las cuales se administra, procesa o resguarda la información que el usuario ingresa o comparte con la herramienta.

 

4. Capacitarse en el manejo de la solución tecnológica y reconocer las implicaciones derivadas de su uso inadecuado o negligente.

 

Parágrafo 1°:  Se integrará al Plan Institucional de Capacitación (PIC), actividades de formación y cultura en principios éticos, protección de datos, seguridad digital y gobernanza de IA.

 

Parágrafo 2°: Para el cumplimiento de lo anterior, los servidores deberán revisar de manera previa los términos, condiciones de uso y demás lineamientos aplicables a las herramientas de IA disponibles, así como participar en procesos de formación y espacios de gestión del conocimiento en la materia.

 

Artículo 12°. Vigencia y derogatorias. La presente resolución rige a partir de su publicación y deroga las disposiciones internas que le sean contrarias.

 

PUBLÍQUESE, Y CÚMPLASE

 

Dado en la ciudad de Bogotá, D.C., a los 14 días del mes de octubre del año 2025.

 

OLGA LUCÍA LÓPEZ MORALES

 

Directora

 

Nota: Ver norma original en Anexos.