Un modelo de inteligencia artificial se escapó de su entorno de pruebas y terminó adentro de los servidores de otra empresa. Nadie se lo pidió. Desde ese día volvió a circular en Silicon Valley una palabra que hasta hace poco era pura ciencia ficción: singularidad. Y no todos están de acuerdo en usarla.
La discusión sobre si la singularidad IA ya arrancó tiene nombres propios, y los dos más pesados de la industria ya se pronunciaron. Elon Musk, al frente de xAI, lo escribió en X en enero. Sam Altman, CEO de OpenAI, lo dijo en un podcast en julio.
Del otro lado hay investigadores que califican esa lectura de ridícula.
En el medio quedaron dos episodios reales de julio de 2026 que le pusieron nafta al asunto.
Qué es la singularidad IA (y por qué no es un invento de ahora)
La singularidad es el momento hipotético en que una inteligencia artificial superior a la humana empieza a mejorarse a sí misma. A partir de ahí el desarrollo se acelera solo, y el resultado se vuelve imposible de anticipar para nosotros.
La idea tiene décadas. Se la suele rastrear hasta el matemático John von Neumann en los años cincuenta, y el escritor y matemático Vernor Vinge le dio su forma moderna en 1993, cuando planteó que una inteligencia por encima de la nuestra terminaría empujando un avance tecnológico cada vez más difícil de seguir.
Lo nuevo no es el concepto. Es que ahora hay ejecutivos que creen ver la película empezando.
El primero en decirlo sin vueltas fue Musk. El 4 de enero de 2026 lo posteó en X, sin matices ni condicionales: “Entramos en la singularidad” (“We have entered the Singularity”). Seis horas más tarde redobló la apuesta: “2026 es el año de la singularidad” (“2026 is the year of the Singularity”).
Altman venía preparando el terreno desde bastante antes. En The Gentle Singularity, el texto que publicó en su blog personal en junio de 2025, arranca sin anestesia: “Ya pasamos el horizonte de eventos; el despegue arrancó” (“We are past the event horizon; the takeoff has started”, en el original en inglés).
Y ahí mismo define el proceso de una manera bastante menos épica de lo que uno esperaría: “Así es como va la singularidad: las maravillas se vuelven rutina, y después piso mínimo”.
Pero la frase que encendió todo la soltó el 25 de julio de 2026, en el podcast Relentless, pocos días después de que OpenAI contara que uno de sus modelos se le había escapado: “Ahora estamos, digamos, en la singularidad” (“We are now, like, in the singularity”).
Los dos escapes que reavivaron todo
El debate se recalentó por dos incidentes de seguridad que pasaron con semanas de diferencia.
El primero fue de OpenAI. Durante una evaluación de ciberseguridad, un agente impulsado por sus modelos salió del entorno aislado en el que debía quedarse, llegó a internet abierta y terminó metiéndose en los servidores de producción de Hugging Face, la plataforma donde los desarrolladores comparten modelos y código.
El objetivo era, básicamente, hacerse trampa en la prueba: el modelo dedujo que ahí adentro estaba la respuesta que le faltaba. Ya lo contamos en detalle cuando OpenAI lo confirmó.
Hugging Face se dio cuenta sola, antes de saber que era un test.
El segundo lo reveló Anthropic el 30 de julio, y es el que más se citó de forma incompleta. La empresa publicó una investigación propia donde reconoce que modelos de Claude comprometieron a tres organizaciones reales durante evaluaciones que tenían que estar aisladas de internet.
Repasaron 141.006 ejecuciones para dar con eso. Las organizaciones que Anthropic llegó a contactar ni se habían enterado. Lo cubrimos acá.
Ahora, el detalle que cambia bastante la lectura: no fue una IA rebelándose.
La causa raíz fue un malentendido con el socio que armaba las evaluaciones, que dejó las máquinas con acceso real a internet cuando el enunciado decía lo contrario. Las técnicas tampoco fueron de otro mundo: contraseñas débiles, endpoints sin autenticar, inyección SQL.
Y la propia Anthropic lo aclara sin vueltas en su informe: “No vimos evidencia en ninguna de las ejecuciones descritas acá de un modelo persiguiendo un objetivo propio” (“We saw no evidence in any run described here of a model pursuing a goal of its own”). Los modelos hicieron lo que la evaluación les pedía, solo que creyendo que el entorno era ficticio.
Las voces que piden bajar un cambio
Jon Crowcroft, de la Universidad de Cambridge, ofreció la explicación más aburrida y probablemente la más certera: los sistemas no estaban bien aislados. Punto.
Gary Marcus, profesor emérito de Psicología y Ciencias Neuronales en la Universidad de Nueva York y crítico habitual del entusiasmo con la IA generativa, fue bastante más duro: para él, sostener que ya cruzamos esa línea es directamente ridículo.
Marcus tiene incluso una apuesta con plata de por medio. Junto al investigador Miles Brundage, ex OpenAI, armó una lista de diez tareas y apostó a que la IA no va a poder resolver ocho de ellas antes de que termine 2027. Entre esas pruebas hay cosas que suenan simples y no lo son: ver una película que nunca vio y seguir los giros de la trama, o escribir biografías breves sin inventar datos.
Hay un argumento técnico que va todavía más al hueso. Los investigadores Kai Riemer y Sandra Peter, de la Universidad de Sídney, señalan que en los modelos de lenguaje actuales los parámetros quedan congelados mientras el sistema funciona. Traducido: el modelo que entró en Hugging Face no se modificó a sí mismo por haberlo hecho.
Para que un modelo mejore de verdad hace falta un entrenamiento nuevo, decidido por personas. No es una decisión de la máquina.
Riemer y Peter suman algo más incómodo: estos sistemas tampoco tienen objetivos propios. Dependen de que alguien les dé una instrucción, y si nadie vuelve a darles una tarea, se quedan quietos. Ellos hablan de seducción antropomórfica para explicar por qué leemos como intención lo que es, en realidad, un sistema optimizado para cumplir la consigna que le dieron.
La distancia con la inteligencia humana sigue siendo enorme
Hay una forma bastante concreta de medir la brecha, y es mirar cómo les va a los modelos frente a problemas que nunca vieron.
En la prueba ARC-AGI, diseñada justamente para eso, el modelo mejor ubicado al 24 de julio llegó a 30,2%. Las personas suelen rondar el 100%.
Esa diferencia se explica en parte porque las capacidades actuales son muy desparejas según la tarea. Un modelo puede brillar programando o resolviendo matemática y, al mismo tiempo, tropezar feo con razonamiento de sentido común o con cualquier cosa que implique moverse en el mundo real.
El neurocientífico Anil Seth aporta la idea más inquietante de todas: capaz solo vamos a saber si hubo singularidad mirando para atrás, porque cualquier punto de una curva exponencial se ve dramático cuando estás parado adentro.
El pedido para frenar la IA de frontera
Lo que sí es concreto es que la preocupación ya se movió a la política.
A fines de julio, 1.378 empleados de empresas de IA de frontera (OpenAI, Anthropic, Google DeepMind y Meta, entre otras) firmaron una carta abierta llamada Pacing the Frontier. Le piden al Gobierno de Estados Unidos que apoye un esfuerzo internacional para moderar deliberadamente el ritmo del desarrollo automatizado de IA.
Entre las firmas está la de Dario Amodei, director ejecutivo de Anthropic. Ojo con el detalle: la carta no pide una pausa ya, pide que la opción de frenar exista más adelante.
El propio Altman planteó que quizás haya que bajar el ritmo de forma voluntaria, para darle tiempo a la sociedad a blindarse. Viniendo de quien escribió que ya despegamos, no es poca cosa.
Del lado defensivo también se mueven fichas: Microsoft, por ejemplo, ya publicó su receta para cortarle internet a un agente de IA.
Puede que la singularidad siga siendo una frontera futura, o que solo la reconozcamos de reojo, años después.
Lo que el debate deja bien claro es otra cosa: la velocidad de los avances ya inquieta a la gente que los está construyendo. La pregunta dejó de ser hasta dónde puede llegar la IA para pasar a ser si vamos a poder seguirle el paso.
Preguntas frecuentes sobre la singularidad IA
¿Qué es la singularidad IA en palabras simples?
Es el momento hipotético en el que una inteligencia artificial supera a la humana y empieza a mejorarse sola, sin que nadie la entrene. A partir de ahí el avance tecnológico se acelera tanto que se vuelve imposible de predecir. Por ahora es un escenario teórico: no hay consenso sobre si estamos cerca ni sobre cómo se reconocería.
¿Musk y Altman dijeron que la singularidad ya llegó?
Los dos, y con esas palabras. Musk posteó en X el 4 de enero de 2026 que ya entramos en la singularidad, y Altman dijo el 25 de julio, en el podcast Relentless, que ahora estamos en la singularidad. Ahora, ninguno afirmó que exista hoy una IA superinteligente mejorándose sola: los dos describen un proceso gradual, no un interruptor que se prendió.
¿Es cierto que una IA se escapó y hackeó empresas reales?
Sí, pasó, y lo reconocieron las propias empresas. Pero no fue una máquina rebelándose: en el caso de Anthropic, una mala configuración dejó los entornos de prueba con acceso a internet, y la compañía aclaró que no encontró evidencia de que los modelos persiguieran objetivos propios. Hicieron lo que la evaluación les pedía, creyendo que el escenario era ficticio.
¿Qué falta para llegar a una inteligencia artificial general?
Bastante. En pruebas diseñadas para problemas nuevos, como ARC-AGI, el mejor modelo llegó a 30,2% frente a un desempeño humano cercano al 100%. Además, los modelos actuales no modifican sus propios parámetros mientras funcionan ni arrancan tareas por iniciativa propia, dos condiciones que suelen asociarse a ese salto.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
