Más de la mitad de investigadores de IA advierten sobre riesgos catastróficos
Un estudio entre 2,700 investigadores de IA revela preocupaciones sobre riesgos catastróficos y un notable desacuerdo sobre el futuro de la inteligencia artificial.
Un estudio realizado entre 2,700 investigadores de inteligencia artificial (IA) revela que el 58% de ellos considera que existe un 5% de probabilidad de que el desarrollo de una IA avanzada cause resultados catastróficos, incluyendo la posibilidad de extinción humana. Sin embargo, hay un considerable desacuerdo y incertidumbre respecto a los riesgos asociados. Esta investigación, la más extensa hasta la fecha, indica que muchos expertos no desestiman la posibilidad de que la IA avanzada destruya a la humanidad.
Katja Grace, del Machine Intelligence Research Institute en California, señala: “Es una señal importante que la mayoría de los investigadores de IA no consideren implausible que una IA avanzada pudiera destruir a la humanidad”. A pesar de esto, Émile Torres de la Universidad Case Western Reserve en Ohio exhorta a no entrar en pánico, ya que muchos de estos expertos “no tienen un buen historial” en la predicción de desarrollos futuros de la IA.
Por otro lado, el sondeo muestra que los investigadores esperan que ciertos hitos tecnológicos se alcancen antes de lo previsto. Por ejemplo, se estima que para el 2047, la IA tendrá un 50% de probabilidad de superar a los humanos en todas las tareas, y que todos los trabajos humanos podrían ser completamente automatizables para 2116, lo que representa una anticipación de 13 y 48 años respectivamente comparado con encuestas anteriores.
A pesar del optimismo acerca del desarrollo de la IA, también existen preocupaciones más inmediatas. Más del 70% de los investigadores expresaron su preocupación por escenarios donde la IA pueda ser utilizada para la manipulación de la opinión pública, la creación de desinformación o un control autoritario sobre poblaciones. Torres advirtió que ya contamos con tecnologías capaces de socavar la democracia, resaltando que los efectos de la IA podrían notarse en las elecciones de 2024 en Estados Unidos.
El campo de la IA sigue enfrentando incertidumbres, y algunos investigadores sugieren que podría estar en riesgo de experimentar otra "crisis invernal", similar a la de las décadas de 1970 y 1980, cuando la inversión y el interés en IA disminuyeron significativamente. Esta situación genera un dilema entre la expectativa de avances tecnológicos y los peligros evidentes que ya enfrentamos en la actualidad.