ética en inteligencia artificial

Principios fundamentales de una Inteligencia Artificial confiable

Mauro Mejia V

• 5 min read
IA
Photo by Growtika / Unsplash

Introducción

El avance acelerado de las tecnologías basadas en inteligencia artificial (IA) plantea tanto oportunidades inéditas como desafíos éticos y normativos complejos. Para que estos sistemas sean dignos de confianza, deben fundamentarse en principios éticos claros y en marcos regulatorios que garanticen su alineación con los derechos humanos, la transparencia y la responsabilidad.

En este artículo se presentan los pilares fundamentales de una IA confiable, junto con las principales normas internacionales y las iniciativas regulatorias que Colombia ha desarrollado para asegurar el uso ético y responsable de estas tecnologías.

Los pilares éticos esenciales

Los valores que sustentan una IA confiable son interdependientes y deben integrarse desde la fase de diseño hasta la operación continua del sistema. En este orden, se destacan:

  • Privacidad y protección de datos
    El tratamiento de la información personal debe realizarse bajo principios de licitud, finalidad y proporcionalidad. Los sistemas de IA deben limitar la recopilación de datos a lo estrictamente necesario y garantizar la anonimización y el cifrado de la información. En Colombia, estos deberes están regulados por la Ley 1581 de 2012 y el Decreto 1377 de 2013, que establecen el régimen de protección de datos personales.

  • Transparencia
    Implica ofrecer visibilidad sobre el funcionamiento de los algoritmos, las fuentes de los datos y los criterios de decisión. Este principio es clave para la auditoría, la rendición de cuentas y la confianza pública.

  • Robustez y seguridad
    Los sistemas deben ser resistentes ante ataques, fallos o condiciones imprevistas. Esto requiere validaciones exhaustivas, gestión de riesgos y planes de contingencia que garanticen estabilidad operacional y ciberseguridad.

  • Equidad
    Asegura que las decisiones automatizadas no generen sesgos ni discriminación directa o indirecta. La equidad requiere monitoreo de sesgos algorítmicos y diseño inclusivo en la recolección de datos.

  • Explicabilidad
    Significa que los procesos de decisión de la IA deben ser comprensibles para las personas afectadas. Esto incluye la posibilidad de obtener explicaciones claras sobre cómo se llegó a un resultado o recomendación, sin depender únicamente de lenguaje técnico.

  • Responsabilidad y rendición de cuentas
    Define la obligación de los desarrolladores, operadores y organizaciones de responder por las decisiones y efectos de los sistemas. La rendición de cuentas se materializa en protocolos de supervisión, trazabilidad y reparación de daños en caso de fallas.

Importancia de los principios

Estos principios no son opcionales: constituyen la base ética y jurídica sobre la cual debe construirse cualquier sistema de inteligencia artificial.
Adoptarlos permite:

  1. Fortalecer la confianza pública e institucional en la IA.
  2. Prevenir riesgos legales y éticos.
  3. Promover innovación sostenible.
  4. Alinear la tecnología con los derechos fundamentales reconocidos en la Constitución Política de Colombia (Artículos 15, 20 y 93) y en los tratados internacionales de derechos humanos ratificados por el país.

Marcos internacionales de referencia

Estos marcos internacionales han servido de guía para países como Colombia, que actualmente desarrolla su propio esquema de regulación ética y técnica para la IA.

Panorama normativo en Colombia

Colombia se encuentra en una fase avanzada de construcción de un marco nacional para la gobernanza ética y responsable de la inteligencia artificial. Las iniciativas más relevantes son:

Relación entre principios éticos y regulación

Los principios éticos descritos se operacionalizan a través de normas, políticas y estándares. En el contexto colombiano:

  • La privacidad se regula por la Ley 1581 de 2012 y su decreto reglamentario.
  • La transparencia y la explicabilidad se fortalecen mediante la propuesta de Ley de IA y las directrices del CONPES 4069.
  • La equidad se aborda desde la perspectiva de no discriminación en decisiones automatizadas, alineada con el Artículo 13 de la Constitución.
  • La responsabilidad se materializa a través de mecanismos de trazabilidad, auditorías y control institucional previstos en los proyectos de ley en curso.

Conclusión

Construir una inteligencia artificial confiable requiere combinar ética, técnica y regulación. Los principios de equidad, transparencia, privacidad, explicabilidad, robustez y responsabilidad deben ser la base de todo proyecto de IA, desde su concepción hasta su implementación.

Colombia avanza hacia un ecosistema normativo que busca equilibrar innovación y protección de derechos, inspirándose en marcos internacionales pero con identidad local. La adopción de estándares como la ISO/IEC 42001 y la próxima legislación nacional posicionan al país en un camino hacia la consolidación de una IA ética, responsable y sostenible.

Referencias bibliográficas

  1. OCDE (2019). Principios sobre Inteligencia Artificial. París: OECD Publishing.
    Disponible en: https://oecd.ai/en/ai-principles
  2. UNESCO (2021). Recomendación sobre la Ética de la Inteligencia Artificial. París: UNESCO.
    Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137
  3. Unión Europea (2024). Reglamento de Inteligencia Artificial (AI Act).
    Disponible en: https://digital-strategy.ec.europa.eu/en/policies/european-ai-act
  4. Departamento Nacional de Planeación (2021). Política Nacional para la Inteligencia Artificial – Documento CONPES 4069. Bogotá, DNP.
    Disponible en: https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/4069.pdf
  5. Ministerio de Ciencia, Tecnología e Innovación (2024). Proyecto de Ley para regular la Inteligencia Artificial en Colombia.
    Disponible en: https://inteligenciaartificial.minciencias.gov.co
  6. Congreso de la República de Colombia (2023). Proyectos de Ley 091 y 130 de 2023 – Regulación de IA.
    Disponible en: https://www.senado.gov.co
  7. Ley 1581 de 2012. Por la cual se dictan disposiciones generales para la protección de datos personales. Diario Oficial No. 48.587 del 18 de octubre de 2012.
  8. ISO/IEC (2023). Norma ISO/IEC 42001: Sistemas de gestión de IA. International Organization for Standardization.
  9. Portafolio (2024). Colombia adopta la primera norma internacional certificable para sistemas de IA.
    Disponible en: https://www.portafolio.co/negocios/colombia-adopta-la-primera-norma-internacional-certificable-para-sistemas-de-ia-640261