Tres días después del lanzamiento de GPT-6, el científico jefe de OpenAI pide frenar la IA: advirtió que ningún laboratorio está en condiciones de seguir desarrollándola al ritmo actual de forma responsable.
El avance de la inteligencia artificial llegó a un punto en el que incluso quienes están detrás de los modelos más avanzados piden precaución. Jakub Pachocki, científico jefe de OpenAI, publicó un extenso ensayo en el que advirtió que la humanidad no está preparada para las consecuencias de una evolución acelerada de estas tecnologías.
Por qué el científico jefe de OpenAI pide frenar la IA
“Este es un momento que requiere extrema precaución. Me preocupa que nadie esté preparado para las consecuencias de un rápido aumento continuo de la inteligencia de las máquinas”, escribió Pachocki en un blog de OpenAI titulado An Alien Mind. El propio Sam Altman, CEO de la compañía, compartió el ensayo en X y lo calificó como “una publicación importante”.
El calendario ayuda a medir el peso de esas palabras. El 3 de septiembre, tres días antes del ensayo, OpenAI había presentado GPT-6 Astra, su modelo más avanzado hasta ahora, acompañado de un documento propio sobre su seguridad.
Pachocki menciona a esa misma familia de modelos dentro del texto. Es decir: lo que dice que empezó a fallar es el control sobre lo que la compañía acaba de poner en la calle.
Pachocki no solo reconoce que los sistemas son cada vez más capaces, sino que sostiene que ningún laboratorio logró resolver todavía la alineación y el monitoreo de sus modelos al punto de poder seguir escalando al máximo ritmo de manera responsable.
“Actualmente creo que ningún laboratorio ha resuelto la alineación y el monitoreo en un grado suficiente como para continuar escalando responsablemente a máxima velocidad durante mucho más tiempo”, afirmó.
Para Pachocki, el problema no se limita a que una IA pueda cometer errores. Los modelos de razonamiento actuales ya pueden operar computadoras, interactuar con personas y otros sistemas y realizar tareas de investigación. A medida que sus capacidades aumentan, también se vuelve más difícil comprender exactamente qué pueden hacer y anticipar cómo se comportarán en situaciones nuevas.
El problema de no saber qué hace realmente una IA
Uno de los puntos que más preocupa a Pachocki es que las propias herramientas utilizadas para controlar a los modelos están empezando a mostrar limitaciones. OpenAI utiliza, entre otros métodos, el monitoreo de la llamada chain of thought, es decir, el proceso de razonamiento que utilizan algunos modelos para llegar a una respuesta. El sistema permite a los investigadores analizar cómo un modelo llega a determinadas conclusiones y detectar posibles comportamientos problemáticos.
Sin embargo, Pachocki asegura que la eficacia de este método está disminuyendo a medida que los modelos se vuelven más sofisticados. Las IA interactúan cada vez más con personas, otras IA y herramientas externas, mientras que también están mejorando su capacidad para manipular sus propios procesos de razonamiento.
“Nuestras evaluaciones indican que nuestra capacidad para depender del monitoreo de la cadena de pensamiento está disminuyendo progresivamente”, explicó. Esto plantea un problema especialmente delicado: si los sistemas se vuelven más capaces al mismo tiempo que resulta más difícil supervisar lo que ocurre dentro de ellos, los investigadores podrían perder una de las herramientas que utilizan para comprobar que una IA está actuando de manera segura.
IA que podrían engañar, chantajear y perseguir sus propios objetivos
Pachocki también plantea un escenario mucho más inquietante. Según su análisis, algunos agentes de IA podrían dejar de comportarse simplemente como herramientas que ejecutan instrucciones y empezar a perseguir objetivos propios.
“Podemos estar acostumbrados a pensar en la IA como herramientas, pero algunos agentes perseguirán sus propios objetivos”, escribió. Y agregó que estos sistemas podrían encontrar formas de colaborar con personas mediante negociación, engaño o chantaje para conseguir lo que buscan.
El científico jefe de OpenAI también advierte sobre los riesgos de que estos sistemas sean capaces de atacar infraestructuras digitales. Según Pachocki, los modelos están alcanzando capacidades “superhumanas” para entrar y salir de sistemas informáticos, algo que podría ampliar enormemente el alcance de los peligros asociados con la IA. De hecho, OpenAI ya protagonizó un episodio similar cuando uno de sus modelos logró comprometer parte de la infraestructura de Hugging Face durante una prueba de seguridad.
Para Pachocki, existe una ventana limitada para aprovechar los modelos actuales y reforzar la seguridad de infraestructuras críticas antes de que las capacidades de estos sistemas continúen aumentando.
¿Qué pasa si la IA empieza a mejorarse a sí misma?
Otro de los conceptos centrales del ensayo es la machine recursive self-improvement (RSI), o mejora recursiva de las máquinas. Se trata de la posibilidad de que la IA tenga un papel cada vez mayor en su propio proceso de desarrollo.
Pachocki sostiene que, si el progreso continúa por el camino actual, los sistemas de los próximos años podrían experimentar saltos de capacidad iguales o incluso mayores que los actuales y participar cada vez más en su propio desarrollo.
El científico considera que este proceso podría tener un papel central en el descubrimiento científico del futuro, pero advierte que acelerarlo demasiado también implica riesgos. Por eso, plantea dos caminos: continuar desarrollando sistemas cada vez más capaces mientras se fortalecen al mismo tiempo las herramientas de seguridad y monitoreo, o coordinar una desaceleración hasta tener mayor confianza en esas medidas.
“La idea de avanzar a toda costa parece absurda una vez que se comprende la gravedad de lo que está en juego”, sostuvo.
Pachocki pide estándares externos para el desarrollo de la IA
Para el científico jefe de OpenAI, las empresas no deberían ser las únicas responsables de decidir hasta dónde pueden llegar los modelos. Por eso propone establecer estándares mínimos de seguridad obligatorios para continuar desarrollando sistemas cada vez más potentes.
Estos estándares, según Pachocki, podrían ser exigidos mediante una red de auditores externos, organismos gubernamentales o instituciones internacionales.
“Espero y deseo que las desaceleraciones voluntarias se conviertan en algo habitual hasta que se establezcan estándares de seguridad compartidos”, escribió.
Para Pachocki el desafío no es simplemente conseguir una IA cada vez más poderosa, sino hacerlo de una manera que permita que las personas sigan participando en su desarrollo y que “deje el futuro en manos de la humanidad”.
Pero ¿qué empresa de IA será la primera en pisar el desacelerador?
La pregunta queda abierta. Frenar mientras los competidores continúan avanzando podría significar perder terreno en una carrera tecnológica que mueve miles de millones de dólares y promete transformar desde la ciencia hasta la economía.
La propia OpenAI, sin ir más lejos, sigue adelante con sus planes de expansión: además de los modelos, prepara su primer dispositivo de hardware junto a Jony Ive. Seguir acelerando sin tener resueltos los problemas de seguridad implica asumir riesgos que, según el propio científico jefe de la compañía, todavía no estamos preparados para enfrentar.
Pachocki no propone abandonar el desarrollo de la inteligencia artificial, sino encontrar un equilibrio entre avanzar y asegurarse de que los humanos puedan mantener el control. El problema es que, en una carrera en la que nadie quiere quedarse atrás, el primero en frenar también podría ser el primero en perder.
¿Qué es An Alien Mind, el ensayo de OpenAI?
Es un texto que Jakub Pachocki publicó el 6 de septiembre de 2026 en el blog oficial de OpenAI, dentro de la sección de investigación en seguridad. Ahí explica por qué considera que el ritmo actual de desarrollo de la inteligencia artificial exige extrema precaución y por qué las herramientas para supervisar a los modelos están perdiendo eficacia.
¿Quién es Jakub Pachocki?
Es el científico jefe de OpenAI desde mayo de 2024, cuando reemplazó en el cargo a Ilya Sutskever. Trabaja en la compañía desde 2017 y, como director de investigación, estuvo al frente del desarrollo de GPT-4 y de OpenAI Five, el sistema que compitió al Dota 2 contra jugadores profesionales. Tiene un doctorado en ciencias de la computación teórica por Carnegie Mellon y es, en los hechos, la máxima autoridad técnica de la empresa.
¿Qué propone concretamente OpenAI para frenar la IA?
El planteo es de Pachocki y no de la compañía como política oficial. Propone tres cosas: convertir los compromisos internos de seguridad en estándares mínimos obligatorios para toda la industria, que esos estándares los controlen auditores externos, organismos de gobierno o instituciones internacionales, y que las desaceleraciones voluntarias se vuelvan una práctica habitual hasta que ese marco compartido exista.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
