La inteligencia artificial (IA) se presenta como una herramienta poderosa, pero su falta de regulación puede acarrear serios riesgos. Esta advertencia fue emitida por el Secretario General de la ONU, António Guterres, durante su intervención ante el Consejo de Seguridad este miércoles.
Guterres destacó que “la IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”. En el marco del debate sobre las implicaciones de seguridad que esta tecnología tiene en la guerra moderna, subrayó que “la pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia”.
El Secretario General afirmó que, si se utiliza de manera responsable, la IA podría contribuir significativamente a anticipar problemas como la inseguridad alimentaria, facilitar operaciones de desminado y detectar brotes de violencia antes de que se intensifiquen. Sin embargo, también advirtió sobre su potencial para ser militarizada.
Prioridades para un uso responsable
Guterres hizo hincapié en los peligros del uso militar de la IA, citando ejemplos recientes donde esta tecnología ha sido empleada para dirigir ataques y realizar ciberataques contra infraestructuras críticas. Además, mencionó el riesgo que representan los deepfakes, capaces de alimentar la polarización o descarrilar procesos diplomáticos.
"La capacidad de fabricar y manipular audio y video amenaza la integridad de la información", advirtió Guterres. "El destino de la humanidad no puede quedar en manos de un algoritmo”, enfatizó.
Para abordar estos desafíos, el Secretario General delineó cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, establecer marcos normativos globales coherentes, proteger la integridad informativa y cerrar lo que él denominó la «brecha de capacidad en materia de IA» entre países desarrollados y en desarrollo.
Prohibición urgente de armas autónomas
“Reitero mi llamado a prohibir los sistemas de armas autónomas letales que operan sin control humano”, insistió Guterres, abogando por un instrumento jurídicamente vinculante para el próximo año. También subrayó que las decisiones sobre armas nucleares deben seguir siendo responsabilidad humana.
El Secretario General destacó iniciativas en curso como un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza tecnológica que tendrá lugar en Nueva York.
“Estas iniciativas buscan conectar ciencia, políticas y prácticas; ofrecer a cada país un lugar en la mesa; y reducir la fragmentación”, explicó Guterres.
Aumentar el acceso a la inteligencia artificial
En otro punto relevante del debate, Yejin Choi, investigadora senior en el Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford, señaló que los avances actuales en IA están excesivamente concentrados en pocas empresas y naciones. “Cuando solo unos pocos tienen los recursos para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando”, afirmó.
Choi instó a ampliar las oportunidades para todos en este ámbito. “Expandamos lo que puede ser la inteligencia y permitamos que todos tengan un papel activo en su construcción”, propuso.
Diversidad e inclusión como ejes centrales
Además, Choi llamó a los gobiernos e instituciones internacionales a invertir en enfoques alternativos más allá del simple escalado de modelos grandes. Argumentó que sistemas más pequeños y adaptativos podrían facilitar el acceso a más actores. También resaltó la necesidad de mayor representación lingüística y cultural dentro del desarrollo tecnológico actual.
"Los modelos más avanzados hoy tienen un bajo rendimiento en muchos idiomas distintos al inglés y reflejan suposiciones culturales estrechas", concluyó Choi.
Urgencia por regular antes de perder oportunidades
Cerrando su intervención, Guterres advirtió sobre el cierre inminente de una ventana crítica para implementar regulaciones efectivas. “Desde el control de armas nucleares hasta la seguridad aérea, hemos visto cómo la comunidad internacional responde ante tecnologías desestabilizadoras estableciendo reglas e instituciones”, comentó.
"La ventana para moldear la IA —por la paz, justicia y humanidad— se está cerrando rápidamente. Debemos actuar sin demora”, finalizó Guterres.
Esta sesión del Consejo tuvo lugar durante la semana alta de la 80ª sesión de la Asamblea General, actualmente en curso. La reunión fue convocada por Corea del Sur (presidida durante septiembre) con participación destacada como Lee Jae Myung, presidente del país asiático.
Preguntas sobre la noticia
¿Cuál es la advertencia del Secretario General de la ONU sobre la inteligencia artificial?
António Guterres advierte que la inteligencia artificial (IA) no debe decidir el destino de la humanidad y que es necesario mantener el control humano sobre su uso, especialmente en contextos como el militar.
¿Qué riesgos presenta la IA según Guterres?
Guterres señala que sin regulación, la IA puede ser militarizada y utilizada para dirigir ataques, realizar ciberataques y crear deepfakes que alimentan la polarización y pueden desencadenar crisis diplomáticas.
¿Cuáles son las prioridades que establece Guterres para los gobiernos respecto a la IA?
Las prioridades son: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar la brecha de capacidad en materia de IA entre países ricos y pobres.
¿Qué medidas ya están en marcha para regular la IA?
Se ha creado un panel científico independiente sobre IA y se llevará a cabo un nuevo diálogo global sobre gobernanza de la IA en Nueva York.
¿Qué opinan los expertos sobre el acceso a la IA?
Yejin Choi, investigadora senior, destaca que el desarrollo actual de la IA está concentrado en pocas empresas y países, lo que deja al resto del mundo atrás. Aboga por ampliar el acceso y permitir que todos participen en su construcción.
¿Por qué es importante actuar rápidamente en relación con la regulación de la IA?
Guterres enfatiza que la ventana para una regulación efectiva se está cerrando rápidamente y llama a actuar sin demora para moldear la IA hacia fines pacíficos y justos.
Si (
No(
