Javier Pérez de Cuéllar (1920-2020), peruano, fue el quinto Secretario General de la ONU y, en 1982, con una situación mundial complicada, como siempre, dijo que «hoy, el apocalipsis ha dejado de ser una referencia para convertirse en una posibilidad muy real. Nunca antes en el acontecer humano nos habíamos colocado tan al límite, entre la catástrofe y la supervivencia».. Ha pasado casi un cuarto de siglo y el desastre absoluto no ha ocurrido. Ahora, no obstante, ingenieros de Google, Anthropic y OpenAI, que dejaron esas empresas por distintos motivos, han alertado del peligro que constituye la inteligencia artificial (IA) para la humanidad.. Además, los jefes de OpenAI, Sam Altman; Anthropic, Dario Amodei; y SpaceX, Elon Musk, han echado leña al fuego, sin duda por propio interés, al reclamar –exigir– un marco regulatorio para la IA. Jensen Huang, de origen taiwanés, el factótum de Nvidia, al que llaman el Taylor Swift de la IA, se opone a esa regulación y tiene de su parte a Donald Trump.. Su empresa, que deriva su nombre de la palabra latina que designa la envidia, vale más de cinco billones de dólares y, mientras que las compañías de Elon Musk, Tesla entre ellas, generan poco efectivo, Nvidia producirá 200.000 millones este mismo año. Hace unas semanas logró compromisos de financiación por importe de 500.000 millones de dólares, concedidos por un grupo de seis grandes firmas de Wall Street, entre ellas el banco de inversión Goldman Sachs.. Sus competidores, mientras, buscan fondos, pero OpenAI ha anunciado que suspende sus planes de salida a bolsa. Altman lo justifica por los posibles peligros de la IA, pero los rumores del mercado apuntan a su temor de no tener la demanda de acciones que esperaba en un principio.. Dario Amodei, el gran jefe de Anthropic, calentó el ambiente con una carta abierta, publicada en su blog, en la que pedía «una moderación en el desarrollo de los modelos “frontier” –los que incorporan los últimos avances y que superan el rendimiento de los modelos previos–», por razones de seguridad ante «la elevada velocidad de progreso y a la capacidad de autoentrenamiento que muestran los modelos».. Altman y Musk suscribieron la propuesta de Amodei con mensajes en las redes sociales y un escalofrío –económico– recorrió los mercados mundiales, justo en vísperas de que la Reserva Federal presidida por Kevin Warsh subiera los tipos de interés.. Mientras, China, el otro gran centro de la IA al margen de Estados Unidos, ya ha dicho que no quiere saber nada de esa regulación que reclaman Amodei, Altman y Musk y otras voces en Europa. El Gobierno de Xi Jinping irá por libre y, pase lo que pase, no dará un paso atrás en los desarrollos de la IA en su objetivo de ser dominante. El que comparta la opinión del jefe de Nvidia ha hecho que el ultra Steve Bannon, el que fuera mano derecha de Trump y fomentara movimientos de ultraderecha en Europa, haya llamado a Huang «agente de influencia de China».. La IA es un negocio y puede ser uno de los mayores de la historia, ya que se prevé que necesitará movilizar hasta cinco billones de dólares en los próximos años. Incomoda a muchos, pero lo que asusta es la posibilidad de que la IA se convierta en autónoma y actúe por su cuenta.. Los verdaderos expertos lo descartan en la práctica, pero sí es cierto que la IA puede ser entrenada con propósitos aviesos y, en ese caso, su capacidad destructiva puede ser enorme. La opción de detener su avance es ilusoria, no solo porque China no parará, sino porque siempre habrá alguien dispuesto a seguir por ese camino.. En ese escenario, Juan María Nin, presidente del Círculo de Empresarios, junto con los ingenieros María José Sánchez Yago y José Luis Vázquez, acaban de publicar el libro titulado «Sabiduría artificial, una IA humanista» (Deusto). Para ellos, la IA, de alguna manera, es un paso adelante en la evolución de la humanidad.. Añaden que hay que trabajar, desde ahora, para que esa IA no solo sea más inteligente, sino más humana, «porque cada modelo que lanzamos al mundo lleva escrito, en cierto modo, nuestro legado». La IA es una creación humana y solo tiene sentido si está al servicio de las personas, no al revés. Para lograrlo reclaman insuflar ética a la IA, algo así como desarrollar la ética del silicio, aunque el problema es que todo se puede torcer.. No obstante, hay temores exagerados. Jennifer Huddleston, del Cato Institute, está convencida de que «la IA no va a acabar con el mundo. Nada impide a OpenAI o Anthropic no desarrollar las partes peligrosas de su producto», pero la tentación siempre está ahí. El apocalipsis, por ahora, puede esperar, igual que no llegó el anunciado por Pérez de Cuéllar.
Javier Pérez de Cuéllar (1920-2020), peruano, fue el quinto Secretario General de la ONU y, en 1982, con una situación mundial complicada, como siempre, dijo que «hoy, el apocalipsis ha dejado de ser una referencia para convertirse en una posibilidad muy real. Nunca antes en el acontecer humano nos habíamos colocado tan al límite, entre la catástrofe y la supervivencia».. Ha pasado casi un cuarto de siglo y el desastre absoluto no ha ocurrido. Ahora, no obstante, ingenieros de Google, Anthropic y OpenAI, que dejaron esas empresas por distintos motivos, han alertado del peligro que constituye la inteligencia artificial (IA) para la humanidad.. Además, los jefes de OpenAI, Sam Altman; Anthropic, Dario Amodei; y SpaceX, Elon Musk, han echado leña al fuego, sin duda por propio interés, al reclamar –exigir– un marco regulatorio para la IA. Jensen Huang, de origen taiwanés, el factótum de Nvidia, al que llaman el Taylor Swift de la IA, se opone a esa regulación y tiene de su parte a Donald Trump.. Su empresa, que deriva su nombre de la palabra latina que designa la envidia, vale más de cinco billones de dólares y, mientras que las compañías de Elon Musk, Tesla entre ellas, generan poco efectivo, Nvidia producirá 200.000 millones este mismo año. Hace unas semanas logró compromisos de financiación por importe de 500.000 millones de dólares, concedidos por un grupo de seis grandes firmas de Wall Street, entre ellas el banco de inversión Goldman Sachs.. Sus competidores, mientras, buscan fondos, pero OpenAI ha anunciado que suspende sus planes de salida a bolsa. Altman lo justifica por los posibles peligros de la IA, pero los rumores del mercado apuntan a su temor de no tener la demanda de acciones que esperaba en un principio.. Dario Amodei, el gran jefe de Anthropic, calentó el ambiente con una carta abierta, publicada en su blog, en la que pedía «una moderación en el desarrollo de los modelos “frontier” –los que incorporan los últimos avances y que superan el rendimiento de los modelos previos–», por razones de seguridad ante «la elevada velocidad de progreso y a la capacidad de autoentrenamiento que muestran los modelos».. Altman y Musk suscribieron la propuesta de Amodei con mensajes en las redes sociales y un escalofrío –económico– recorrió los mercados mundiales, justo en vísperas de que la Reserva Federal presidida por Kevin Warsh subiera los tipos de interés.. Mientras, China, el otro gran centro de la IA al margen de Estados Unidos, ya ha dicho que no quiere saber nada de esa regulación que reclaman Amodei, Altman y Musk y otras voces en Europa. El Gobierno de Xi Jinping irá por libre y, pase lo que pase, no dará un paso atrás en los desarrollos de la IA en su objetivo de ser dominante. El que comparta la opinión del jefe de Nvidia ha hecho que el ultra Steve Bannon, el que fuera mano derecha de Trump y fomentara movimientos de ultraderecha en Europa, haya llamado a Huang «agente de influencia de China».. La IA es un negocio y puede ser uno de los mayores de la historia, ya que se prevé que necesitará movilizar hasta cinco billones de dólares en los próximos años. Incomoda a muchos, pero lo que asusta es la posibilidad de que la IA se convierta en autónoma y actúe por su cuenta.. Los verdaderos expertos lo descartan en la práctica, pero sí es cierto que la IA puede ser entrenada con propósitos aviesos y, en ese caso, su capacidad destructiva puede ser enorme. La opción de detener su avance es ilusoria, no solo porque China no parará, sino porque siempre habrá alguien dispuesto a seguir por ese camino.. En ese escenario, Juan María Nin, presidente del Círculo de Empresarios, junto con los ingenieros María José Sánchez Yago y José Luis Vázquez, acaban de publicar el libro titulado «Sabiduría artificial, una IA humanista» (Deusto). Para ellos, la IA, de alguna manera, es un paso adelante en la evolución de la humanidad.. Añaden que hay que trabajar, desde ahora, para que esa IA no solo sea más inteligente, sino más humana, «porque cada modelo que lanzamos al mundo lleva escrito, en cierto modo, nuestro legado». La IA es una creación humana y solo tiene sentido si está al servicio de las personas, no al revés. Para lograrlo reclaman insuflar ética a la IA, algo así como desarrollar la ética del silicio, aunque el problema es que todo se puede torcer.. No obstante, hay temores exagerados. Jennifer Huddleston, del Cato Institute, está convencida de que «la IA no va a acabar con el mundo. Nada impide a OpenAI o Anthropic no desarrollar las partes peligrosas de su producto», pero la tentación siempre está ahí. El apocalipsis, por ahora, puede esperar, igual que no llegó el anunciado por Pérez de Cuéllar.
