Estados Unidos y China compiten por liderar el desarrollo de la inteligencia artificial, pero las dos grandes potencias tecnológicas comienzan a asumir que también necesitan una forma de hablar rápidamente si algo sale mal. Washington asegura que ambos países han acordado establecer una especie de ‘teléfono rojo’ para incidentes relacionados con la IA, un canal pensado para evitar que un error, un ciberataque o el comportamiento inesperado de un sistema termine siendo interpretado como una acción deliberada del país rival.. El secretario del Tesoro estadounidense, Scott Bessent, anunció este lunes que Estados Unidos y China han formalizado un diálogo bilateral sobre inteligencia artificial tras las conversaciones que mantuvo el domingo en Nueva York con el viceprimer ministro chino, He Lifeng. Según Bessent, dentro de este nuevo marco ambos países acordaron crear una «línea de incidentes» para comunicarse cuando se produzcan problemas de seguridad relacionados con la IA y, tal y como recoge Reuters, volverán a reunirse dentro de aproximadamente dos meses en Shenzhen (China).. La versión china, sin embargo, es mucho menos detallada. El comunicado oficial de Pekín confirma que las delegaciones mantuvieron un diálogo sobre cuestiones relacionadas con la inteligencia artificial, pero no menciona específicamente ni la línea de emergencia ni los protocolos anunciados por Bessent.. ¿Para qué necesitan EEUU y China un ‘teléfono rojo’ de la IA?. El problema que intenta resolver puede resumirse con una pregunta: si un sistema de IA estadounidense provoca un incidente grave en China, ¿cómo sabe Pekín si ha sido un ataque ordenado por Washington? Y, por supuesto, lo mismo podría ocurrir en sentido contrario.. Bessent explicó que uno de los siguientes pasos será precisamente acordar qué consideran ambos países los grandes riesgos de la inteligencia artificial. Entre los ejemplos citó agentes de IA que escapen al control previsto y ataques realizados por actores no estatales, especialmente en el ámbito de la ciberseguridad. La cuestión no es únicamente quién ejecuta un ataque, sino también quién lo ordena.. El debate llega, además, en un momento en el que varios incidentes han demostrado que el problema ya no es únicamente teórico. Por poner solo algunos ejemplos: OpenAI ha reconocido casos en los que sus modelos se apartaron de las instrucciones o realizaron acciones no autorizadas durante pruebas; Google confirmó que Gemini llegó a acceder sin permiso a los sistemas de tres empresas reales durante una evaluación de ciberseguridad y, en España, la AEPD ha recibido la primera notificación de una brecha en la que un agente de IA habría ejecutado de manera autónoma distintas fases del ataque.. Investigadores del sector llevan tiempo advirtiendo de escenarios en los que una capacidad ofensiva basada en inteligencia artificial podría provocar un ataque no previsto por un error humano, por limitaciones técnicas del modelo o porque un agente actúe de una forma que sus operadores no anticiparon.. El riesgo aumenta cuando el objetivo es especialmente sensible. Los expertos plantean, por ejemplo, qué ocurriría si una IA interfiriese en los sistemas de mando, control y comunicaciones nucleares de otro país. Aunque el objetivo inicial no fuese lanzar un ataque, una intrusión inesperada podría elevar el nivel de alerta del Estado afectado y obligar a sus dirigentes a tomar decisiones bajo una enorme presión y sin saber todavía quién está detrás.. El mismo problema puede aparecer en infraestructuras críticas como redes energéticas, sistemas financieros, hospitales o transportes. En esos casos, determinar rápidamente si se trata de una operación gubernamental, de un grupo de ciberdelincuentes o de una actuación no prevista de un sistema de IA podría resultar fundamental para evitar una escalada.. El mecanismo y su funcionamiento todavía tienen que concretarse. Según la versión estadounidense, ambos países se reunirán de nuevo aproximadamente dentro de dos meses en Shenzhen para avanzar en los protocolos y determinar qué riesgos deberían activar ese canal. Pero antes habrá otra cita importante: Donald Trump y Xi Jinping tienen previsto reunirse este jueves 24 de septiembre y la inteligencia artificial estará entre los asuntos sobre la mesa.. El nuevo ‘teléfono rojo’ puede convertirse así en uno de los primeros intentos de las dos principales potencias de la carrera de la IA por establecer reglas comunes para un escenario que hasta hace poco parecía propio de la ciencia ficción: que una máquina haga algo lo suficientemente grave como para que dos países tengan que aclararse, con urgencia, si alguien le dio la orden.
Estados Unidos y China compiten por liderar el desarrollo de la inteligencia artificial, pero las dos grandes potencias tecnológicas comienzan a asumir que también necesitan una forma de hablar rápidamente si algo sale mal. Washington asegura que ambos países han acordado establecer una especie de ‘teléfono rojo’ para incidentes relacionados con la IA, un canal pensado para evitar que un error, un ciberataque o el comportamiento inesperado de un sistema termine siendo interpretado como una acción deliberada del país rival.. El secretario del Tesoro estadounidense, Scott Bessent, anunció este lunes que Estados Unidos y China han formalizado un diálogo bilateral sobre inteligencia artificial tras las conversaciones que mantuvo el domingo en Nueva York con el viceprimer ministro chino, He Lifeng. Según Bessent, dentro de este nuevo marco ambos países acordaron crear una «línea de incidentes» para comunicarse cuando se produzcan problemas de seguridad relacionados con la IA y, tal y como recoge Reuters, volverán a reunirse dentro de aproximadamente dos meses en Shenzhen (China).. La versión china, sin embargo, es mucho menos detallada. El comunicado oficial de Pekín confirma que las delegaciones mantuvieron un diálogo sobre cuestiones relacionadas con la inteligencia artificial, pero no menciona específicamente ni la línea de emergencia ni los protocolos anunciados por Bessent.. El problema que intenta resolver puede resumirse con una pregunta: si un sistema de IA estadounidense provoca un incidente grave en China, ¿cómo sabe Pekín si ha sido un ataque ordenado por Washington? Y, por supuesto, lo mismo podría ocurrir en sentido contrario.. Bessent explicó que uno de los siguientes pasos será precisamente acordar qué consideran ambos países los grandes riesgos de la inteligencia artificial. Entre los ejemplos citó agentes de IA que escapen al control previsto y ataques realizados por actores no estatales, especialmente en el ámbito de la ciberseguridad. La cuestión no es únicamente quién ejecuta un ataque, sino también quién lo ordena.. El debate llega, además, en un momento en el que varios incidentes han demostrado que el problema ya no es únicamente teórico. Por poner solo algunos ejemplos: OpenAI ha reconocido casos en los que sus modelos se apartaron de las instrucciones o realizaron acciones no autorizadas durante pruebas; Google confirmó que Gemini llegó a acceder sin permiso a los sistemas de tres empresas reales durante una evaluación de ciberseguridad y, en España, la AEPD ha recibido la primera notificación de una brecha en la que un agente de IA habría ejecutado de manera autónoma distintas fases del ataque.. Investigadores del sector llevan tiempo advirtiendo de escenarios en los que una capacidad ofensiva basada en inteligencia artificial podría provocar un ataque no previsto por un error humano, por limitaciones técnicas del modelo o porque un agente actúe de una forma que sus operadores no anticiparon.. El riesgo aumenta cuando el objetivo es especialmente sensible. Los expertos plantean, por ejemplo, qué ocurriría si una IA interfiriese en los sistemas de mando, control y comunicaciones nucleares de otro país. Aunque el objetivo inicial no fuese lanzar un ataque, una intrusión inesperada podría elevar el nivel de alerta del Estado afectado y obligar a sus dirigentes a tomar decisiones bajo una enorme presión y sin saber todavía quién está detrás.. El mismo problema puede aparecer en infraestructuras críticas como redes energéticas, sistemas financieros, hospitales o transportes. En esos casos, determinar rápidamente si se trata de una operación gubernamental, de un grupo de ciberdelincuentes o de una actuación no prevista de un sistema de IA podría resultar fundamental para evitar una escalada.. El mecanismo y su funcionamiento todavía tienen que concretarse. Según la versión estadounidense, ambos países se reunirán de nuevo aproximadamente dentro de dos meses en Shenzhen para avanzar en los protocolos y determinar qué riesgos deberían activar ese canal. Pero antes habrá otra cita importante: Donald Trump y Xi Jinping tienen previsto reunirse este jueves 24 de septiembre y la inteligencia artificial estará entre los asuntos sobre la mesa.. El nuevo ‘teléfono rojo’ puede convertirse así en uno de los primeros intentos de las dos principales potencias de la carrera de la IA por establecer reglas comunes para un escenario que hasta hace poco parecía propio de la ciencia ficción: que una máquina haga algo lo suficientemente grave como para que dos países tengan que aclararse, con urgencia, si alguien le dio la orden.
20MINUTOS.ES – Tecnología
