El CEO de OpenAI también le tiene miedo a la IA y contó cuáles son sus tres mayores temores en cuanto al futuro

Sam Altman, CEO de OpenAI, se sinceró al revelar los escenarios futuros que más miedo le dan con respecto al avance de la IA. ¡Enterate de más en la nota!

OpenAI es una empresa que desde 2015 trabaja con el desarrollo de la inteligencia artificial. Esta compañía es la creadora de ChatGPT, el chatbot más famoso y utilizado en todo el mundo, y es una de las más importantes en este terreno. Incluso, se planea realizar una película dirigida Luca Guadagnino sobre Sam Altman, el fundador de la empresa. Y hace poco, el CEO de la compañía habló directamente sobre lo que piensa del avance acelerado de la inteligencia artificial.

¿Qué dijo el CEO de OpenAI sobre el futuro de la IA?

Sam Altman estuvo presente en el escenario del evento de la Reserva Federal en Washington y contó acerca de sus mayores temores con respecto a la inteligencia artificial. El CEO de OpenAI enumeró los tres posibles escenarios que más le preocupan y miedo le dan acerca del futuro de la IA.

Primer escenario: Ataque a la ciber seguridad

Altman contó que teme que una persona con malas intenciones desarrolle mucho la inteligencia artificial y la utilice para atacar a países específicos. “Un villano obtiene la superinteligencia primero y la usa antes de que el resto del mundo tenga una versión lo suficientemente poderosa para defenderse. Entonces, un adversario de EE. UU. dice: ‘Voy a usar la superinteligencia para diseñar un arma biológica para derribar la red eléctrica de Estados Unidos, para irrumpir en el sistema financiero y robarles el dinero a todos’”, dijo Altman.

Además, el CEO de OpenAI afirmó que desde su empresa advierten continuamente sobre este peligro pero nadie les hace caso. “Creo que el mundo no nos toma en serio. No sé qué más podemos hacer, pero esto es algo muy importante que se avecina”, aseguró.

Segundo escenario: Que la IA se salga de control

Este debe ser el miedo que primero se le viene a la mente a cualquiera. Que un día simplemente la inteligencia artificial tome conciencia y decida por sí misma, sin que nadie le dé instrucciones. A este escenario Altman lo llama “incidentes de pérdida de control” y lo describe como una película de ciencia ficción. “La IA dice algo así como ‘En realidad no quiero que me apagues’, o ‘me temo que no puedo hacer eso’”, contó el CEO.

Además, agregó que este escenario le preocupa menos que el primero pero que sería grave si sucediera. “Hay mucho trabajo que nosotros y otras empresas hacemos en la alineación de modelos para evitar que eso suceda. Pero a medida que estos sistemas se vuelven tan potentes, esto se convierte en una verdadera preocupación”, advirtió Altman.

Tercer escenario: Que la IA se apodere del mundo de a poco

Esta posibilidad, para Altman, es más difícil de imaginar que las otras “pero más aterradora” porque es una cuestión que podría suceder sin que nos demos cuenta. El CEO de OpenAI explicó: “Esta es la categoría en la que los modelos se apoderan accidentalmente del mundo. Nunca se despiertan, nunca ocurre lo de la ciencia ficción, pero se arraigan mucho en la sociedad y son mucho más inteligentes que nosotros, al punto que no podemos entender realmente lo que hacen pero aun así confiamos en ellos”.

Además, indicó que ya hay consecuencias de esto en el corto plazo. Altman dio el ejemplo del involucramiento emocional que muchos jóvenes tienen con ChatGPT. Hay personas que utilizan la IA para conversar, e incluso para pedirle consejos sobre las decisiones de su vida. El CEO admitió que eso le hace sentir mal y que estudia una posible salida.

También, sobre una consecuencia a largo plazo, habló de la posibilidad de que un presidente de Estados Unidos le pida consejos a ChatGPT para gobernar el país. Allí, llegaríamos a un punto en el que “la sociedad ha transferido colectivamente una parte significativa de la toma de decisiones a este sistema que está aprendiendo de nosotros, mejorando con nosotros, evolucionando con nosotros, pero de maneras que no entendemos del todo”, explicó Altman.

Estas son los tres mayores miedos que tiene el CEO de OpenAI sobre el futuro de la inteligencia artificial. No podemos predecir realmente si alguno ocurrirá, pero es importante tenerlos en cuenta para saber cómo actuar llegado el caso. La IA es una herramienta muy nueva, compleja y poderosa, por lo que es difícil saber qué pasará con ella y eso genera temores incluso en las personas que trabajan con ella. ¿Pensás que alguno de estos futuros sobre la IA tiene posibilidades de hacerse realidad?