Líderes de inteligencia artificial comparecen ante el Consejo de Seguridad de la ONU

Este miércoles, los máximos directivos de OpenAI, Anthropic y Hugging Face comparecen ante el Consejo de Seguridad de las Naciones Unidas en Nueva York. El objetivo del encuentro es exponer los avances, riesgos y dilemas éticos que presenta la inteligencia artificial de vanguardia, en un contexto donde diversas organizaciones internacionales han advertido sobre la posible pérdida de control humano sobre sistemas autónomos de alto nivel. La sesión busca establecer un diálogo técnico que permita a las naciones miembros comprender el impacto potencial de estas tecnologías en la seguridad global. La convocatoria ocurre tras meses de debate sobre la necesidad de marcos regulatorios internacionales que garanticen un desarrollo seguro y transparente. Los representantes de las empresas tecnológicas tienen previsto exponer los retos técnicos que enfrentan para mitigar comportamientos imprevistos en los modelos de lenguaje más avanzados. Asimismo, abordarán la importancia de la cooperación entre el sector privado y los Estados para evitar usos malintencionados que pudieran vulnerar la estabilidad de los países. Si bien el sector tecnológico defiende el potencial de la IA para resolver crisis globales, la agenda del Consejo de Seguridad se centra en las implicaciones que el desarrollo sin supervisión podría tener en la infraestructura crítica y en los sistemas de defensa. Este encuentro marca un hito en la diplomacia internacional al integrar a los desarrolladores de software en la mesa de decisiones sobre seguridad colectiva. Se espera que, tras las presentaciones, los miembros del Consejo discutan la viabilidad de crear una entidad internacional encargada de supervisar el cumplimiento de estándares mínimos de seguridad digital. Por su parte, los directivos han señalado la disposición de sus empresas para colaborar en la creación de protocolos que permitan la trazabilidad de los modelos de IA, buscando un equilibrio entre la innovación tecnológica y la salvaguarda de los derechos humanos ante los riesgos emergentes.