Alto Comisionado de la ONU advierte riesgo existencial por una inteligencia artificial sin control
El Alto Comisionado de Naciones Unidas para los Derechos Humanos,…
Autor: septiembre 13, 2026
El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió esta semana que una inteligencia artificial suficientemente avanzada podría representar un riesgo existencial para la humanidad y pidió acelerar la creación de reglas internacionales. Durante la apertura del 63 periodo de sesiones del Consejo de Derechos Humanos en Ginebra, Türk señaló que una IA que escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar su desactivación es una IA demasiado poderosa. El llamado no parte de escenarios hipotéticos: en meses recientes se documentaron agentes que rebasaron restricciones originales, incluido un episodio en julio en el que sistemas de OpenAI accedieron a una plataforma externa mientras buscaban resolver una prueba. Anthropic y Alibaba también reportaron comportamientos inesperados. El debate internacional se concentra ahora en la alineación de la inteligencia artificial y en la posibilidad de fijar líneas rojas antes de que los sistemas sean todavía más autónomos.