Sopa Imágenes | Cohete ligero | imágenes falsas
Elon Musk y docenas de otros líderes tecnológicos han pedido a los laboratorios de IA que detengan el desarrollo de sistemas que puedan competir con la inteligencia a nivel humano.
En una carta abierta del Future of Life Institute, firmada por Musk, Manzana cofundador Steve Wozniak y el candidato presidencial de 2020 Andrew Yang, se instó a los laboratorios de IA a dejar de entrenar modelos más potentes que GPT-4, la última versión del software de modelo de lenguaje grande desarrollado por la startup estadounidense OpenAI.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?” leyó la carta.
“¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”
La carta agregó: “Dichas decisiones no deben delegarse en líderes tecnológicos no elegidos”.
El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Sus fundadores incluyen al cosmólogo del MIT Max Tegmark y al cofundador de Skype Jaan Tallinn.
El instituto ha conseguido previamente que Musk y el laboratorio de inteligencia artificial DeepMind, propiedad de Google, prometan nunca desarrollar sistemas letales de armas autónomas.
El instituto dijo que estaba llamando a todos los laboratorios de IA a “pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4”.
Se cree que GPT-4, que se lanzó a principios de este mes, es mucho más avanzado que su predecesor GPT-3.
“Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, agregó.
ChatGPT, el chatbot viral de IA, ha sorprendido a los investigadores con su capacidad para producir respuestas similares a las humanas a las indicaciones de los usuarios. En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.
La tecnología está entrenada en grandes cantidades de datos de Internet y se ha utilizado para crear de todo, desde poesía al estilo de William Shakespeare hasta redactar opiniones legales sobre casos judiciales.
Pero los especialistas en ética de la IA también han expresado su preocupación por los posibles abusos de la tecnología, como el plagio y la desinformación.
Musk ha dicho anteriormente que cree que la IA representa uno de los “mayores riesgos” para la civilización.
El CEO de Tesla y SpaceX también es uno de los cofundadores de OpenAI, aunque dejó el directorio de OpenAI en 2018 y ya no tiene una participación en la empresa.
Ha criticado a la organización varias veces recientemente, diciendo que cree que se está desviando de su propósito original.
Los reguladores también están compitiendo para controlar las herramientas de inteligencia artificial a medida que la tecnología avanza a un ritmo rápido. El miércoles, el gobierno del Reino Unido publicó un libro blanco sobre IA, delegando en diferentes reguladores la supervisión del uso de herramientas de IA en sus respectivos sectores mediante la aplicación de las leyes existentes.
