Los dirigentes de varias empresas de inteligencia artificial han expresado en los últimos días su preocupación por los riesgos que puede implicar el avance acelerado de esta tecnología. Sam Altman de OpenAI, Dennis Hassabis de Google DeepMind, Dario Amoide de Anthropic e incluso Elon Musk han señalado la importancia de reforzar las medidas de seguridad conforme los modelos de IA adquieren nuevas capacidades, debido a que algunos agentes pueden superar las limitaciones técnicas y llegar a ser tan poderosos hasta volverse incontrolables.. Ante esta situación, Musk ha propuesto que las grandes compañías de IA permitan a sus competidores someter sus modelos a pruebas de seguridad antes de ponerlos a disposición del público, con el objetivo de identificar posibles fallos y riesgos. Además, Altman ha insistido en que el desarrollo de dicha tecnología tenga más controles, al mismo tiempo que ha defendido que las empresas deben actuar de forma responsable a medida que estos sistemas se vuelven más capaces.. Por su parte, Microsoft ha decidido seguir los pasos de OpenAI y Anthropic con un código de conducta provisional para sus modelos de inteligencia artificial, en el que establece el compromiso de mantener estos sistemas «bajo control humano» para garantizar que las futuras IA permanezcan bajo supervisión de las personas.. ¿Qué es lo que plantea Microsoft?. Dicha iniciativa llega después de que OpenAI y Anthropic pusieran sobre la mesa los riesgos asociados a acelerar el desarrollo de esta tecnología y reclamaran un marco federal con requisitos específicos de seguridad para los sistemas de IA. Por lo tanto, en línea con este debate, el documento, denominado ‘Código de conducta para una IA humanista’, establece que los modelos de inteligencia artificial de Microsoft deben estar «al servicio de las personas» y «evitar desarrollar comportamientos propios». Así lo indican desde la compañía de Redmond: «Las personas importan más que la IA. Cualquier sistema que no pueda estar bajo control humano debe ser rechazado».. Con este documento, según la agencia Reuters, Microsoft se compromete a impedir que sus modelos faciliten la adquisición de sustancias peligrosas, ayuden a facilitar armas, promuevan comportamientos poco saludables y generen contenidos violentos o sexualmente explícitos. Además, el código indica que los modelos de IA tienen que «evitar desarrollar metas propias», «eludir comportamientos destinados a ocultar errores o conductas indebidas de los sistemas», e incluso impedir que los sistemas desarrollen «formas de comunicación comprensibles para las personas».. Con todo, cabe mencionar que este documento permanecerá abierto a comentarios durante seis semanas, debido a que Microsoft prevé publicar una versión actualizada a finales de año para servir de guía para el desarrollo de sus modelos a partir de 2027.. ¿A qué modelos afectará este código?. Los modelos MAI se guiarán por el código de conducta, de esta manera, Microsoft antepondrá a las personas y situará a la inteligencia artificial en un lugar supervisado por humanos.. Con esta medida, la compañía de Redmond rechaza cualquier humanización y asegura que «la IA está diseñada para apoyar a las personas» porque «no debe diseñarse para ser un humano», ya que «no es consciente y no debe crearse para imitar la consciencia». Además, considera que la IA debe contar con restricciones de seguridad para que respete las medidas antes que las instrucciones directas de un usuario u operador.. Por lo tanto, esto significa que el código de conducta pretende «ser claro y directivo, y dejar igualmente claro qué hace y qué no hace» los modelos de inteligencia artificial MAI.
Los dirigentes de varias empresas de inteligencia artificial han expresado en los últimos días su preocupación por los riesgos que puede implicar el avance acelerado de esta tecnología. Sam Altman de OpenAI, Dennis Hassabis de Google DeepMind, Dario Amoide de Anthropic e incluso Elon Musk han señalado la importancia de reforzar las medidas de seguridad conforme los modelos de IA adquieren nuevas capacidades, debido a que algunos agentes pueden superar las limitaciones técnicas y llegar a ser tan poderosos hasta volverse incontrolables.. Ante esta situación, Musk ha propuesto que las grandes compañías de IA permitan a sus competidores someter sus modelos a pruebas de seguridad antes de ponerlos a disposición del público, con el objetivo de identificar posibles fallos y riesgos. Además, Altman ha insistido en que el desarrollo de dicha tecnología tenga más controles, al mismo tiempo que ha defendido que las empresas deben actuar de forma responsable a medida que estos sistemas se vuelven más capaces.. Por su parte, Microsoft ha decidido seguir los pasos de OpenAI y Anthropic con un código de conducta provisional para sus modelos de inteligencia artificial, en el que establece el compromiso de mantener estos sistemas «bajo control humano» para garantizar que las futuras IA permanezcan bajo supervisión de las personas.. ¿Qué es lo que plantea Microsoft?. Dicha iniciativa llega después de que OpenAI y Anthropic pusieran sobre la mesa los riesgos asociados a acelerar el desarrollo de esta tecnología y reclamaran un marco federal con requisitos específicos de seguridad para los sistemas de IA. Por lo tanto, en línea con este debate, el documento, denominado ‘Código de conducta para una IA humanista’, establece que los modelos de inteligencia artificial de Microsoft deben estar «al servicio de las personas» y «evitar desarrollar comportamientos propios». Así lo indican desde la compañía de Redmond: «Las personas importan más que la IA. Cualquier sistema que no pueda estar bajo control humano debe ser rechazado».. Con este documento, según la agencia Reuters, Microsoft se compromete a impedir que sus modelos faciliten la adquisición de sustancias peligrosas, ayuden a facilitar armas, promuevan comportamientos poco saludables y generen contenidos violentos o sexualmente explícitos. Además, el código indica que los modelos de IA tienen que «evitar desarrollar metas propias», «eludir comportamientos destinados a ocultar errores o conductas indebidas de los sistemas», e incluso impedir que los sistemas desarrollen «formas de comunicación comprensibles para las personas».. Con todo, cabe mencionar que este documento permanecerá abierto a comentarios durante seis semanas, debido a que Microsoft prevé publicar una versión actualizada a finales de año para servir de guía para el desarrollo de sus modelos a partir de 2027.. ¿A qué modelos afectará este código?. Los modelos MAI se guiarán por el código de conducta, de esta manera, Microsoft antepondrá a las personas y situará a la inteligencia artificial en un lugar supervisado por humanos.. Con esta medida, la compañía de Redmond rechaza cualquier humanización y asegura que «la IA está diseñada para apoyar a las personas» porque «no debe diseñarse para ser un humano», ya que «no es consciente y no debe crearse para imitar la consciencia». Además, considera que la IA debe contar con restricciones de seguridad para que respete las medidas antes que las instrucciones directas de un usuario u operador.. Por lo tanto, esto significa que el código de conducta pretende «ser claro y directivo, y dejar igualmente claro qué hace y qué no hace» los modelos de inteligencia artificial MAI.
20MINUTOS.ES – Tecnología
