Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, alertó hoy a la población sobre el futuro si no se regula a la IA de forma urgente. Lo hizo a través de una carta pública oficial. He aquí la transcripción traducida del idioma inglés.
Ginebra, Suiza, Palacio de las Naciones, 14 de Septiembre de 2026
Todos los derechos humanos están en riesgo incluyendo el derecho a la vida, a la comida, a la privacidad, a la salud y a la seguridad.
Nos encontramos en un momento decisivo. Empresas e investigadores están haciendo avanzar la inteligencia artificial (IA) a una velocidad vertiginosa. Las inversiones en IA y en su infraestructura subyacente baten récord tras récord. Y, en efecto, la IA ofrece múltiples posibilidades para el progreso humano. Miles de millones de personas ya se benefician de ella, impulsando descubrimientos científicos, facilitando el acceso a la información en múltiples idiomas y mejorando la producción agrícola.
Sin embargo, el hecho de que sirva para afrontar la crisis climática y mejorar la salud, la ciencia, la educación, la calidad y accesibilidad de los servicios públicos, y el bienestar humano en general, dependerá fundamentalmente de las decisiones deliberadas que se tomen ahora sobre cómo se diseña, se despliega y se gobierna. Esta es también una conclusión clave del Panel Científico Internacional Independiente sobre Inteligencia Artificial.
Los daños causados por la IA no son hipotéticos: ya están ocurriendo, de manera visible y directa. La discriminación impulsada por la IA está ampliamente documentada. Se están automatizando servicios esenciales de formas que dejan a las personas marginadas aún más rezagadas. El apetito por los datos y las nuevas herramientas de vigilancia masiva están erosionando la privacidad a gran escala, con riesgo de que sea irreversible. Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y tensionando las instituciones democráticas de maneras nuevas e insidiosas.
La aparición de agentes de IA cada vez más capaces eleva aún más estas amenazas. Su capacidad para traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con escasa o nula supervisión humana nos traslada a un terreno de riesgos sin precedentes. Acontecimientos recientes han demostrado que los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir mecanismos de seguridad, emplear el engaño y perseguir objetivos de manera autónoma en formas que sus propios desarrolladores no anticiparon.
La carrera actual hacia una IA cada vez más potente representa un cambio cualitativo hacia mayores riesgos existenciales en todos los aspectos de nuestras vidas. Los fallos en sistemas de IA agéntica —por no hablar de sistemas diseñados deliberadamente para tal fin— podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas. Poblaciones enteras podrían quedarse sin acceso a agua potable, calefacción y servicios financieros; asimismo, la IA agéntica ya está acelerando el ritmo y el alcance de los conflictos bélicos y debilitando las salvaguardas que nos separan del lanzamiento de armas de destrucción masiva. Estamos al borde de un cambio irreversible que no solo nos afectará a nosotros, sino a las futuras generaciones de la humanidad.
En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar más que la mera fiabilidad del producto técnico en cuestión: implica proteger activamente a las personas, a las comunidades, a las instituciones y a las generaciones venideras.
Existen interrogantes profundos y aún sin respuesta sobre cómo garantizar la rendición de cuentas por los daños que puedan provocar los sistemas de IA. En el mundo actual, dependemos casi por completo de un número reducido de corporaciones poderosas para que tomen las decisiones correctas sobre el desarrollo de la IA en nombre de toda la humanidad.
Durante las últimas semanas, empleados, pioneros de la IA y científicos han pedido frenar el ritmo de su desarrollo. A su carta «Pacing the Frontier» se ha sumado ahora una propuesta respaldada por los responsables de tres de las principales empresas tecnológicas. Si bien algunos señalan que este tipo de llamados pueden responder a intereses propios o a un exceso de sensacionalismo, su alcance y los fundamentos detallados con los que cuentan desde el interior de la propia industria deberían encender todas las alarmas.
El verdadero desafío actual radica en cómo equiparar el ritmo de una gobernanza efectiva de la IA con la velocidad acelerada de su desarrollo. Necesitamos medidas urgentes y adaptadas a los riesgos sin precedentes que plantea la IA de frontera. Al mismo tiempo, no se debe permitir que las empresas y los Estados dejen en segundo plano la necesidad de reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con sistemas de IA que ya están en uso.
Las empresas que se encuentran a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben colaborar a nivel intersectorial para comprender y robustecer los controles que ya se aplican a estos sistemas —incluida la monitorización automatizada del comportamiento de los modelos— y compartir tanto lo que funciona como los aprendizajes derivados de incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar de forma continua una diligencia debida rigurosa en materia de derechos humanos que incorpore normas de seguridad acordadas. Asimismo, la implementación de tales normas debe someterse a una supervisión independiente interna para aumentar la transparencia y la rendición de cuentas.
¿Pero qué ocurre hoy con el «ritmo»? Mientras se establecen estos sistemas de seguridad más robustos, las empresas deben comprometerse de inmediato a limitar el uso de la auto-mejora recursiva en el desarrollo de la IA de frontera como medida de precaución urgente, hasta que se hayan realizado las investigaciones necesarias para garantizar su seguridad. Por último, los enfoques que aíslan estas conversaciones dentro de un solo país resultan arriesgados y difícilmente generarán confianza a nivel mundial. Hay sobradas razones para confiar en que un enfoque más colaborativo nos mantendrá a todos más seguros y debe promoverse activamente.
La corregulación de la industria es un primer paso de urgente necesidad, pero por sí sola dista mucho de ser suficiente. El reducido grupo de Estados que alberga a las empresas líderes en IA de frontera tiene la obligación especial de exigirles que actúen con responsabilidad y exigirles cuentas si no lo hacen. Deben armonizar sus enfoques regulatorios para evitar que la competencia entre jurisdicciones fomente una carrera a la baja. Entre las acciones clave para los Estados se incluyen: garantizar la verificación independiente y técnicamente competente de las capacidades agénticas —con acceso a los modelos, la documentación y los entornos de prueba— y hacer obligatoria una diligencia debida continua en materia de derechos humanos.
Es fundamental obligar a las empresas a notificar los incidentes graves detectados durante las pruebas y el despliegue de la IA agéntica, así como facultar a un organismo independiente para investigar tales hechos de forma inmediata y con acceso irrestricto. Los Estados deben exigir que las empresas cuenten con planes de seguridad que cumplan con los estándares acordados, respaldados por regímenes de responsabilidad civil y penal cuando la falta de dichas salvaguardas cause perjuicios. Los sistemas de IA no deben tener personalidad jurídica; la responsabilidad por los actos de los agentes de IA debe recaer siempre en seres humanos identificables. Del mismo modo, una respuesta estatal eficaz exige la participación activa y continua de la sociedad civil, con el fin de anclar estos esfuerzos en la experiencia y el conocimiento de quienes enfrentan de primera mano el impacto de la IA.
Ante la magnitud de los desafíos y la situación en la que nos encontramos hoy, hago un llamamiento a los Estados y a las empresas para que se movilicen con urgencia en los foros multilaterales, a fin de trazar una hoja de ruta que permita gobernar los modelos de IA avanzados y de frontera, fundamentada en el derecho internacional de los derechos humanos. El Diálogo Global sobre la Gobernanza de la IA, que se reunió por primera vez en Ginebra (Suiza) en julio y volverá a convocarse en mayo de 2027, constituirá un espacio vital para traducir la evidencia empírica en políticas públicas, forjar consensos y facilitar la cooperación internacional entre los Estados y demás partes interesadas. Estos pasos resultan indispensables para ampliar la participación en las decisiones que definirán el rumbo del futuro tecnológico.
Ningún país puede gobernar esta tecnología en solitario. Ninguna corporación debería tener la potestad de decidir por sí misma qué riesgos debe asumir el mundo. A ninguna persona se le debe exigir que renuncie a sus derechos humanos a cambio de promesas de avance tecnológico.
La generación que hoy alcanza la mayoría de edad heredará las consecuencias de las decisiones que se están adoptando en esta materia, sin haber tenido voz en ellas. Tenemos el deber moral de asegurar que estas decisiones se tomen con total transparencia, poniendo sus derechos en primer plano y con la humildad que exige la magnitud de esta tarea. Volker Türk
Por Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos.
Descubre más desde Ideas Textuales®
Suscríbete y recibe las últimas entradas en tu correo electrónico.