Muchos empresarios y expertos están preocupados por el avance tecnológicos de las Inteligencias Artificiales y piden frenar su entrenamiento. Todo lo que tenés que saber ¡En esta nota!
Algunas de las personas más importantes del mundo de la tecnología, entre ellos el empresario Elon Musk, se juntaron recientemente y firmaron una carta abierta advirtiendo sobre los riesgos potenciales de continuar con el entrenamiento de las Inteligencias Artificiales. Esto lo hicieron porque temen que las IA se conviertan en una amenaza para la humanidad y aseguran que la carrera para desarrollar esta tecnología está “fuera de control”.
Dentro de los que firmaron la carta se encuentran Elon Musk, el reciente presidente de la red social Twitter, y el co fundador de Apple Steve Wozniak. La carta, que llega a nosotros gracias al Instituto Future Life, explica las razones por las que varios especialistas consideran que se tiene que frenar el desarrollo de las IA temporalmente, y hacen notar los riesgos a futuro que podrían causar un sistema tan avanzado.
“Los sistemas de IA con inteligencia humana y competitiva pueden plantear riesgos profundos para la sociedad y la humanidad”, explican. Según la carta, las IA avanzadas tienen que desarrollarse con cuidado, pero sin embargo “en los últimos meses vimos laboratorios de IA encerrados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.
Pero esto no es todo lo que se comenta en la carta, ya que también se habla sobre la posibilidad de que las IA llenen de información no verdadera canales masivos de reproducción y reemplazar varios trabajos que actualmente no están automatizados. La carta cita a uno de los sistemas de IA más conocidos de estos últimos tiempos, OpenIA.
OpenIA es la compañía detrás de ChatGPT y recientemente sacaron GPT-4. Este nuevo sistema es más actualizado y, a diferencia de la IA que actualmente todos pueden usar, tiene cargado en su base de datos información actual. Es decir, podemos preguntarle sobre todo sin preocuparnos de que nos conteste que no tiene acceso a información posterior a 2020. Son muchos los que actualmente usan el GPT-3 a pesar de que no está totalmente actualizado, y la nueva versión, además de incorporar nuevas funciones, podría llegar a ser un éxito entre los usuarios actuales de ChatGPT.
OpenIA en un reciente blog, que se encuentra citado en la carta, habla sobre los riesgos de lo que pasaría si se desarrollara imprudentemente una inteligencia general artificial. “Una AGI superinteligente desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva también podría hacer eso”.
Por último, la carta finaliza con todos los firmantes pidiéndole a los laboratorios de IA que “pausen inmediatamente el entrenamiento de los sistemas de IA que sean más poderosos que el GPT-4“. En caso de que no lo hagan, el Instituto le pide a los gobiernos, como el de Estados Unidos, Reino Unido y de países de Europa, que intervengan con una moratoria. Por el momento, ninguna de las compañías con sistemas de IA salió a responder esta carta abierta. Sin embargo, no sería una sorpresa que el desarrollo de las IA se pause temporalmente considerando que son muchos los especialistas preocupados por un futuro incierto y del cuál no se pueden hacer especulaciones.
2 comentarios