Un funcionario de la ONU alertó que el avance acelerado de la inteligencia artificial podría detener los servicios esenciales. Expresó la necesidad de que los estados y las empresas controlen la IA en base a los derechos humanos.
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió este lunes que los derechos humanos están en riesgo, “incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad” ante el avance de la inteligencia artificial.
Asimismo, Türk alertó sobre los riesgos de la inteligencia artificial agéntica, es decir, sistemas de IA capaces de realizar tareas con una intervención humana limitada. Según el funcionario, este viene mostrando fallos que, en sus propias palabras, “podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas”.
El alto comisionado incluso alertó que poblaciones enteras podrían quedar aisladas de agua potable, la calefacción y los servicios financieros. Además de eso, señaló que la IA agéntica ya está acelerando el ritmo y alcance de la guerra y erosionando salvaguardias que protegen del lanzamiento de armas de destrucción masiva.
Ante este escenario, Türk pidió reforzar los controles de seguridad de los modelos de inteligencia artificial. “Necesitan trabajar en toda la industria para comprender y fortalecer los controles ya aplicados a estos sistemas, incluido el monitoreo automatizado del comportamiento del modelo, compartiendo tanto lo que funciona como los que están aprendiendo de los incidentes de seguridad”, indicó.
También instó a los Estados y empresas a movilizarse de manera urgente mediante foros multilaterales para gobernanza de la IA sobre la base del derecho internacional y los derechos humanos.
“Ningún país puede gobernar esta tecnología por si sola, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”, precisó.
Estas advertencias se dan después de que personalidades en el campo de la inteligencia artificial, como Dario Amodei, consejero delegado de Antropic; Sam Altman, director ejecutivo de OpenAI; y Elon Musk, dueño de xIA, llamaron a frenar el ritmo de desarrollo de los modelos de inteligencia artificial debido al riesgo de pérdida de control sobre ellos.
