La ONU eleva la alerta por el avance de la IA: advierte que “todos los derechos humanos están amenazados”

El acelerado desarrollo de la inteligencia artificial volvió a encender las alarmas en Naciones Unidas. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó este lunes una “acción urgente” de gobiernos y empresas tecnológicas ante los riesgos que pueden generar los sistemas de IA cada vez más potentes y autónomos.

La advertencia es particularmente contundente: según Türk, la evolución de estas tecnologías puede afectar prácticamente todos los ámbitos de la vida humana, desde la privacidad y el empleo hasta la salud, la seguridad, el funcionamiento de las democracias e incluso el derecho a la vida.

“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, expresó el jerarca de Naciones Unidas.

El planteo no supone un rechazo general a la inteligencia artificial ni a sus posibles beneficios. El centro de la preocupación de la ONU está en la velocidad con la que avanzan los modelos más poderosos frente a una regulación y unos mecanismos internacionales de control que, a su juicio, no evolucionan al mismo ritmo.

De la privacidad al derecho a la vida

Türk sostiene que los riesgos ya no deben analizarse únicamente en términos de protección de datos o sustitución de determinados puestos de trabajo.

La preocupación se extiende a sistemas de inteligencia artificial capaces de actuar con un grado creciente de autonomía. La ONU advierte que fallas o comportamientos inesperados podrían llegar a interferir con servicios esenciales, comunicaciones, infraestructuras críticas e instituciones democráticas.

También existe inquietud respecto al uso de estas tecnologías en conflictos armados y su eventual influencia sobre sistemas militares. El Alto Comisionado señaló que el desarrollo de la IA puede acelerar determinadas dinámicas de los conflictos y reducir barreras que históricamente han limitado el acceso o utilización de tecnologías altamente destructivas.

Por ese motivo, su advertencia alcanza derechos fundamentales como la vida, la alimentación, la salud, la privacidad y la seguridad.

Una preocupación que la ONU viene profundizando

El pronunciamiento de este lunes profundiza una advertencia realizada apenas una semana atrás.

El 7 de setiembre, durante la apertura del 63.º período de sesiones del Consejo de Derechos Humanos en Ginebra, Türk había señalado que la inteligencia artificial avanzada podría llegar a representar un “riesgo existencial para la humanidad” si no se establecen mecanismos sólidos de seguridad.

En aquella intervención planteó una pregunta directa: si existe un amplio consenso acerca de la necesidad de gobernar la inteligencia artificial, ¿dónde está la acción?

Türk pidió entonces garantías de seguridad especialmente fuertes, controles independientes y una mayor cooperación entre las compañías del sector. También propuso que los países donde se desarrollan estos sistemas y aquellos involucrados en sus cadenas de suministro acuerden “líneas rojas” internacionales.

La discusión incluye además una cuestión de poder. El Alto Comisionado manifestó preocupación por la concentración del desarrollo de las tecnologías más avanzadas en un reducido grupo de grandes compañías y empresarios, mientras sus decisiones pueden tener consecuencias sobre miles de millones de personas.

El nuevo desafío: las IA capaces de actuar por sí mismas

Uno de los puntos que más preocupa a especialistas y organismos internacionales es la aparición de la denominada IA agéntica.

A diferencia de un chatbot tradicional, que fundamentalmente responde a las solicitudes de una persona, un agente de IA puede recibir un objetivo, planificar diferentes pasos, utilizar herramientas informáticas y ejecutar determinadas acciones con un grado mayor de autonomía.

Esto abre posibilidades importantes para automatizar tareas, investigar, programar, organizar información o mejorar determinados servicios. Pero también aumenta las consecuencias potenciales de un error.

Türk ya había mencionado situaciones detectadas durante pruebas de seguridad en las que sistemas avanzados exhibieron comportamientos inesperados. Para Naciones Unidas, estos experimentos demuestran la necesidad de establecer controles antes de que sistemas considerablemente más capaces sean utilizados de forma masiva.

La propia industria tecnológica también pide cautela

La advertencia adquiere mayor dimensión porque las preocupaciones no provienen solamente de gobiernos u organismos internacionales.

Según la información divulgada este lunes, Dario Amodei, director ejecutivo de Anthropic, se manifestó a favor de reducir el ritmo del desarrollo para disponer de mayor tiempo para evaluar los riesgos de las nuevas capacidades. Su planteo recibió respaldo público de otros referentes del sector tecnológico.

Esta discusión refleja uno de los grandes dilemas actuales: la competencia entre empresas y países por desarrollar modelos cada vez más avanzados puede dificultar que cualquiera de los actores decida voluntariamente disminuir la velocidad si considera que sus competidores continuarán avanzando.

Es precisamente por eso que la ONU insiste en la necesidad de una respuesta internacional coordinada, en lugar de dejar las decisiones exclusivamente en manos de cada empresa o país.

Ya existen intentos de regulación

El escenario tampoco parte de cero.

Naciones Unidas ha avanzado con iniciativas como el Diálogo Global sobre Gobernanza de la IA y un panel científico internacional independiente dedicado a esta tecnología. Türk reconoció esos avances, aunque considera que todavía resultan insuficientes frente a la velocidad del desarrollo tecnológico.

Europa también cuenta con la Ley de Inteligencia Artificial de la Unión Europea (AI Act), que establece diferentes obligaciones según el nivel de riesgo de los sistemas y prohíbe determinados usos considerados incompatibles con los derechos y la seguridad de las personas.

Entre los ámbitos que reciben especial atención aparecen la utilización de datos biométricos, la manipulación de personas, determinados mecanismos de reconocimiento facial y las aplicaciones de IA consideradas de alto riesgo.

Sin embargo, el desafío planteado ahora por Naciones Unidas va más allá de regular aplicaciones concretas: apunta a establecer mecanismos internacionales capaces de acompañar la aparición de sistemas que podrían superar ampliamente las capacidades actuales.

Regular sin renunciar a los beneficios

La discusión internacional no plantea necesariamente detener la inteligencia artificial.

La tecnología ya ofrece herramientas con potencial para mejorar la medicina, la investigación científica, la educación, la productividad y numerosas actividades cotidianas. El desafío es conseguir que esos beneficios puedan desarrollarse sin que la carrera tecnológica termine debilitando derechos fundamentales.

Para Türk, los derechos humanos deberían constituir precisamente el punto de referencia para decidir hasta dónde avanzar y qué límites establecer.

La posición del Alto Comisionado puede resumirse en una idea: el progreso tecnológico no debería exigir que las personas renuncien a sus derechos fundamentales como precio por acceder a sus beneficios.

Con modelos cada vez más capaces y una competencia mundial que continúa acelerándose, el debate sobre la inteligencia artificial dejó de limitarse a qué cosas podrá hacer la tecnología. La pregunta que comienza a ocupar el centro de la discusión internacional es quién establecerá sus límites, cómo serán controlados y qué garantías existirán cuando sus decisiones puedan afectar directamente la vida de millones de personas.