El director ejecutivo de Nvidia, Jensen Huang, descartó que una inteligencia artificial cada vez más avanzada pueda provocar el fin del mundo a finales de esta década y calificó de “narrativas apocalípticas” las advertencias sobre ese escenario.
“Hay un 0% de probabilidades” de que 2030 sea el fin del mundo, afirmó Huang durante una entrevista con CBS News, en respuesta a las advertencias planteadas en las últimas semanas por dirigentes e investigadores del sector de la inteligencia artificial.
Entre quienes han advertido sobre los riesgos de una IA autónoma están Dario Amodei, director ejecutivo de Anthropic; Sam Altman, director ejecutivo de OpenAI; y Jacob Coxon, antiguo investigador de Anthropic. Sus planteamientos apuntan a sistemas con capacidades cada vez más avanzadas que podrían dejar de seguir las instrucciones humanas.
Coxon llegó a advertir sobre la posibilidad de que una IA sea “lo suficientemente inteligente como para matarnos” y sostuvo que quienes desarrollan esta tecnología creen que podría llegar a matar a todos los seres humanos para finales de la década.
Huang sostuvo que el desarrollo seguro de la IA también está directamente relacionado con los intereses de Nvidia, una de las principales proveedoras de chips avanzados utilizados en servidores y ordenadores destinados al desarrollo, entrenamiento e inferencia de modelos de inteligencia artificial.
“Si no continuamos haciéndolo, nuestro valor disminuirá”, afirmó el ejecutivo, al referirse a la necesidad de mantener un despliegue seguro de los productos y servicios de la compañía.
Nvidia anticipó a principios de septiembre un crecimiento de sus ingresos de aproximadamente 70% para su próximo ejercicio fiscal, correspondiente a 2027/2028, en un contexto de aumento de la demanda de infraestructura para inteligencia artificial a nivel mundial.
Las advertencias sobre los riesgos de sistemas avanzados de IA están relacionadas, entre otros aspectos, con la desalineación y la automejora recursiva. La primera se refiere a comportamientos que no se ajusten a los valores, intereses o intenciones humanas, mientras que la segunda contempla la posibilidad de que un sistema diseñe y desarrolle de forma autónoma a su sucesor.
Anthropic ha planteado evaluar el ritmo de desarrollo de la IA mediante tres aspectos: el avance en la autoconstrucción de nuevas versiones, la capacidad de las empresas para supervisar e intervenir en las acciones de sus agentes y la capacidad de cómputo necesaria para desarrollar modelos cada vez más capaces.
Con información de CBS News.
