“La IA está gobernada de forma medieval”: la dura crítica de la ONU a las empresas que controlan la inteligencia artificial
El Alto Comisionado para los Derechos Humanos del Organismo cuestionó la ausencia de reglas internacionales y alertó sobre las consecuencias de dejar decisiones clave en manos de unos pocos.
La Organización de las Naciones Unidas lanzó una dura advertencia sobre el desarrollo de la inteligencia artificial y el enorme poder que acumulan las empresas responsables de esta tecnología. Según el organismo, apenas cinco compañías concentran más del 70% de la capacidad informática mundial dedicada a la IA, una situación que plantea serios interrogantes sobre quién toma las decisiones que pueden afectar a millones de personas.
Las críticas llegaron de parte de Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, durante su participación en la cumbre RightsX, celebrada en Ginebra. Según informó AFP, el funcionario cuestionó la falta de mecanismos de supervisión y reclamó reglas internacionales que permitan controlar el desarrollo de los sistemas más avanzados.
“Tenemos la tecnología del futuro gobernada de una forma casi medieval: por unos pocos escogidos, prácticamente sin controles, sin contrapesos, sin participación y sin rendición de cuentas”, declaró Türk.

Por qué la ONU compara el control de la inteligencia artificial con la Edad Media
El desarrollo de los modelos de inteligencia artificial más avanzados requiere enormes inversiones económicas, centros de datos y procesadores especializados. Estos recursos permiten entrenar sistemas cada vez más sofisticados, pero también representan una barrera para organizaciones que no cuentan con el financiamiento necesario para competir con las grandes tecnológicas.
Esta situación favorece a un reducido grupo de compañías capaces de administrar la infraestructura necesaria para desarrollar y operar los sistemas de IA. También les permite establecer las condiciones de acceso a sus herramientas, decidir qué capacidades incorporan y determinar cómo implementan sus medidas de seguridad.
El problema señalado por Naciones Unidas trasciende la competencia comercial. Las decisiones de estas empresas pueden afectar a usuarios, instituciones y organizaciones que dependen de sus servicios, pero que tienen escasas posibilidades de intervenir en su desarrollo.
“Un puñado de hombres sigue controlando buena parte de la capacidad informática de IA del mundo, los datos y la infraestructura. Y aún no tenemos normas comunes para marcar el ritmo o orientar el desarrollo de la IA”, sostuvo el funcionario.
Türk también cuestionó las consecuencias que puede tener esta concentración de poder sobre los derechos humanos. “La historia nos ha enseñado que, con este tipo de poder, los derechos y las libertades de la gente corriente son los primeros en sufrir”, señaló.
La ONU advierte que la inteligencia artificial podría paralizar servicios esenciales
Otro de los aspectos más preocupantes de la intervención estuvo relacionado con la creciente dependencia tecnológica de actividades fundamentales para el funcionamiento de las sociedades.
Los sistemas de transporte, la distribución de alimentos y los servicios sanitarios utilizan cada vez más herramientas digitales para administrar operaciones, procesar información y coordinar actividades. La incorporación de inteligencia artificial a estos procesos permite automatizar tareas, pero también introduce nuevos riesgos si los sistemas presentan fallas o quedan expuestos a ataques informáticos.
“Nuestros sistemas de transporte, la alimentación y la sanidad están cada vez más digitalizados. Puede que no estemos lejos del día en que la IA pueda cortar la infraestructura crítica de comunidades o países enteros, ya sea por sí sola o en manos equivocadas”, advirtió Türk.
Cómo puede afectar la IA a los derechos humanos
Otra preocupación de Naciones Unidas es la posibilidad de que los algoritmos amplifiquen problemas que ya existen en las sociedades. Los modelos de inteligencia artificial aprenden patrones a partir de grandes cantidades de información. Si los datos contienen sesgos o desigualdades, sus resultados pueden reproducir esos problemas, especialmente cuando se utilizan para evaluar personas o asistir en decisiones importantes.
Las consecuencias adquieren otra dimensión cuando estas herramientas se incorporan a procesos que involucran derechos fundamentales. Los errores pueden afectar a grandes cantidades de personas y resultar difíciles de identificar cuando no existen mecanismos transparentes para revisar las decisiones automatizadas.
Türk también advirtió sobre la influencia que puede ejercer la inteligencia artificial en la circulación de información y en el debate público. Los sistemas capaces de producir y distribuir contenidos a gran escala plantean desafíos para la privacidad, la protección de los derechos individuales y el funcionamiento de las instituciones democráticas.
La preocupación también alcanza a la cantidad de información personal que puede recopilarse y procesarse para desarrollar estas herramientas. En ausencia de controles efectivos, los usuarios pueden tener dificultades para conocer cómo se utilizan sus datos y qué decisiones se toman a partir de ellos.
Qué medidas reclama la ONU para controlar la inteligencia artificial
Frente a este escenario, el Alto Comisionado insistió en la necesidad de establecer normas internacionales para el desarrollo y la utilización de sistemas de inteligencia artificial, con especial atención a la protección de los derechos humanos.
Entre sus planteos aparece la necesidad de garantizar una supervisión independiente, exigir responsabilidades a las empresas desarrolladoras y evitar que las decisiones sobre tecnologías capaces de afectar a poblaciones enteras queden exclusivamente en manos de sus propietarios.
Türk explicó que había enviado comunicaciones a compañías líderes del sector para solicitarles la implementación de medidas de protección eficaces. También sostuvo que los beneficios económicos y tecnológicos de la inteligencia artificial deberían distribuirse de manera más equitativa.
Durante su intervención, el funcionario recurrió a una comparación con productos de consumo cotidiano: recordó que una botella de leche debe atravesar diferentes pruebas y controles antes de llegar a los comercios, mientras que los sistemas de inteligencia artificial más avanzados todavía carecen de un marco regulatorio internacional común.
El planteo de Naciones Unidas apunta a establecer responsabilidades claras sobre una tecnología cuyo desarrollo avanza rápidamente y cuya influencia se extiende a cada vez más actividades. El desafío para los gobiernos será definir mecanismos de supervisión que permitan aprovechar sus capacidades y reducir los riesgos, sin depender exclusivamente de las decisiones de las empresas que controlan su infraestructura.
Fuente: TN




