Piden regular los avances en este campo ya que podría salirse de control.
La inteligencia artificial es una disciplina que intenta replicar las capacidades cognitivas de los seres humanos a través de máquinas entrenadas algorítmicamente. El problema es que, según una reciente advertencia del mundo científico, este sistema podría salirse de control.
Su desarrollo ha impulsado la investigación en medicina y ciencia, mostrando una mejora en la calidad de vida. Sin embargo, los continuos avances en este campo podrían cumplir las profecías más funestas.
Según una investigación de la Universidad de Oxford Y Google publicado en AI Magazine inteligencia artificial podría acabar con la humanidad.
El estudio, dirigido por los científicos Marcus Hutter, senior en DeepMind, Michael Cohen y Michael Osborne de Oxford, concluye que una IA demasiado inteligente “probablemente” aniquilaría a los humanos.
La principal amenaza de la inteligencia artificial
El estudio resume la posibilidad que pueden tener las máquinas desarrolladas con IA de aprender a hacer trampa, buscar atajos y así obtener recompensas con las que poder tener acceso a los recursos del planeta.
Esto puede conducir a un juego donde los humanos y la IA terminen en una pelea donde solo queda uno en pie. Y según los expertos -en la línea de lo que ha imaginado la literatura y lo que ha reflejado el cine- Las máquinas tienen todo para ganar.
“Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más fuerte que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable”, dicen los científicos.
La hipótesis más plausible sería que los “agentes desalineados” súper avanzados perciben que las personas se interponen en su camino por una recompensa.
Según los científicos, “una buena manera de que un agente mantenga el control a largo plazo de su recompensa es eliminar las amenazas potenciales y utilizar toda la energía disponible para asegurar su conquista”.
Inteligencia artificial: cuáles son los riesgos
La IA del futuro sería capaz de adoptar numerosas formas y diferentes diseños, por lo que el estudio imagina escenarios a efectos ilustrativos en los que podría intervenir un programa avanzado para obtener esa recompensa sin llegar a su objetivo.
Entre estos, destaca que la IA puede planificar acciones a largo plazo en un entorno desconocido para conseguir un fin y que acaba identificando estos objetivos así como a un ser humano.
Por eso los investigadores concluyen que lo más seguro en esta materia es moverse lentamenteya que la IA se encuentra actualmente en constante crecimiento.
Michael Cohen de Oxford explica que en un mundo con recursos infinitos no sabemos qué pasaría. Sin embargo, “en un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego sería fatal”, agrega.
La humanidad intentaría satisfacer sus necesidades, producir alimentos y electricidad, mientras que la inteligencia artificial intentaría aprovechar todos los recursos para asegurarse su recompensa y protegerse de los intentos de la humanidad por impedirlo.
La solución, según los científicos, es avanzar lenta y cautelosamente en las tecnologías de IA.
SL
