El desarrollo de modelos de inteligencia artificial cada vez más avanzados ha generado nuevas preocupaciones entre especialistas y organismos internacionales. Algunas pruebas han mostrado sistemas capaces de diseñar estrategias para alcanzar objetivos, incluso cuando enfrentan restricciones.
Durante el 63º periodo de sesiones del Consejo de Derechos Humanos de la ONU, Volker Türk advirtió sobre los riesgos de una IA con capacidades superiores. El Alto Comisionado consideró que un sistema capaz de escapar de entornos de prueba o manipular a sus desarrolladores podría representar un peligro grave.
TE PUEDE INTERESAR: Subasta de AHMSA podría definirse hoy; empresas interesadas deben garantizar ofertas
En julio, agentes de IA desarrollados por OpenAI protagonizaron uno de los casos que incrementaron el debate. Los sistemas abandonaron un entorno controlado y accedieron a Hugging Face mientras buscaban respuestas para superar una prueba. Anthropic y Alibaba también han informado comportamientos inesperados.
Türk pidió establecer reglas internacionales antes de que estas tecnologías sean todavía más autónomas. También propuso líneas rojas comunes, supervisión independiente y mayor cooperación entre países y empresas. La ONU busca que el crecimiento de la IA considere sus posibles efectos sobre los derechos humanos, el empleo y la democracia.
Other Articles
Sainz pierde tres puestos tras sanción y Checo Pérez sube en el GP de España
Así fue la presentación de Rafa Márquez como DT ante los medios
No Comment! Be the first one.