La inteligencia artificial se ha convertido en el gran campo de batalla de las compañías tecnológicas y, en apenas unos años, empresas como OpenAI, Google o Meta han multiplicado sus inversiones en nuevos modelos de IA, centros de datos y chips, mientras gobiernos como los Estados Unidos y China también compiten por liderar este sector. Sin embargo, al mismo tiempo que avanza, también crecen las dudas sobre cómo controlar sus riesgos antes de que sea demasiado tarde.. Precisamente sobre este escenario ha querido reflexionar y compartir su análisis Dennis Hassabis, cofundador y consejero delegado de Google DeepMind, a través de un extenso comunicado en X (Twitter) en el que defiende que ha llegado el momento de crear una serie de mecanismos que supervisen los modelos de inteligencia artificial más avanzados. El texto parte de una idea que considera cada vez más realista: la llegada de la inteligencia artificial general (AGI), un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano.. El potencial de la IA tiene que ir acompañado de medidas de control. No asegura que vaya a ocurrir, pero cree que podría hacerse realidad en pocos años y que conviene prepararse antes de llegar a ese punto. Expone que “en estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles”. Explica que esa competencia está acelerando el desarrollo de la IA, pero también provocando que “los progresos en la frontera de la IA estén superando nuestra comprensión de la tecnología”. De hecho, añade que “nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora y ni siquiera los expertos están de acuerdo”.. Más allá de esto, no cree que haya que frenar la innovación, sino que la actividad puede impulsar avances en ámbitos como la ciencia, la medicina, la economía, pero sostiene que ese potencial tiene que ir acompañado de medidas de control. “Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta”, asegura. Lo que propone es crear en Estados Unidos un organismo especializado en evaluar los modelos de IA más avanzados antes de que se lancen.. Esta entidad podría funcionar como una asociación público-privada o como un organismo autorregulado con supervisión federal. Contaría con especialistas independientes y representantes del ecosistema de código abierto. Su función sería definir qué modelos se consideran de frontera y someterlos a pruebas sobre ciberseguridad, amenazas biológicas, riesgos nucleares, intentos de eludir salvaguardas e incluso posibles comportamientos engañosos.. Explica que, en un primer momento, los laboratorios compartirían sus modelos de forma voluntaria hasta 30 días antes de lanzarlos en el mercado. Sin embargo, plantea que, una vez validado el sistema, estas evaluaciones pasan a ser obligatorias para cualquier modelo de frontera. Incluso considera que, si los riesgos llegan a ser demasiado elevados, ese marco podría servir para coordinar una ralentización del desarrollo de IA entre los principales laboratorios.
La inteligencia artificial se ha convertido en el gran campo de batalla de las compañías tecnológicas y, en apenas unos años, empresas como OpenAI, Google o Meta han multiplicado sus inversiones en nuevos modelos de IA, centros de datos y chips, mientras gobiernos como los Estados Unidos y China también compiten por liderar este sector. Sin embargo, al mismo tiempo que avanza, también crecen las dudas sobre cómo controlar sus riesgos antes de que sea demasiado tarde.. Precisamente sobre este escenario ha querido reflexionar y compartir su análisis Dennis Hassabis, cofundador y consejero delegado de Google DeepMind, a través de un extenso comunicado en X (Twitter) en el que defiende que ha llegado el momento de crear una serie de mecanismos que supervisen los modelos de inteligencia artificial más avanzados. El texto parte de una idea que considera cada vez más realista: la llegada de la inteligencia artificial general (AGI), un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano.. No asegura que vaya a ocurrir, pero cree que podría hacerse realidad en pocos años y que conviene prepararse antes de llegar a ese punto. Expone que “en estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles”. Explica que esa competencia está acelerando el desarrollo de la IA, pero también provocando que “los progresos en la frontera de la IA estén superando nuestra comprensión de la tecnología”. De hecho, añade que “nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora y ni siquiera los expertos están de acuerdo”.. Más allá de esto, no cree que haya que frenar la innovación, sino que la actividad puede impulsar avances en ámbitos como la ciencia, la medicina, la economía, pero sostiene que ese potencial tiene que ir acompañado de medidas de control. “Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta”, asegura. Lo que propone es crear en Estados Unidos un organismo especializado en evaluar los modelos de IA más avanzados antes de que se lancen.. Esta entidad podría funcionar como una asociación público-privada o como un organismo autorregulado con supervisión federal. Contaría con especialistas independientes y representantes del ecosistema de código abierto. Su función sería definir qué modelos se consideran de frontera y someterlos a pruebas sobre ciberseguridad, amenazas biológicas, riesgos nucleares, intentos de eludir salvaguardas e incluso posibles comportamientos engañosos.. Explica que, en un primer momento, los laboratorios compartirían sus modelos de forma voluntaria hasta 30 días antes de lanzarlos en el mercado. Sin embargo, plantea que, una vez validado el sistema, estas evaluaciones pasan a ser obligatorias para cualquier modelo de frontera. Incluso considera que, si los riesgos llegan a ser demasiado elevados, ese marco podría servir para coordinar una ralentización del desarrollo de IA entre los principales laboratorios.
20MINUTOS.ES – Tecnología
