Tras el ataque de un modelo de OpenAI a Hugging Face, en ServiceNow sostienen que pueden detener a los agentes de IA descontrolados con un “interruptor de apagado”. Una promesa fuerte en el peor momento.
La inteligencia artificial es una herramienta cada vez más usada en todo el mundo y que se desarrolla a pasos agigantados. En ese contexto, varias empresas tienen la preocupación de que los modelos que entrenan puedan llegar a salirse de control. Pero una famosa plataforma aseguró que tiene una solución para eso.
¿Qué dijo el jefe de ServiceNow sobre el control de la IA?
Bill McDermott, director ejecutivo de ServiceNow, habló sobre la efectividad de su compañía a la hora de manejar los modelos desarrollados con inteligencia artificial. En declaraciones para la cadena CNBC, McDermott afirmó que cuentan con la solución para que las demás empresas pasen “del caos de la IA a la disciplina de la IA“.
Según explicó: “Tenemos un interruptor de apagado que detiene a los agentes de IA que se descontrolan, por lo que esas cosas no tienen por qué suceder, y no sucederían cuando las empresas usan ServiceNow“. El CEO está convencido de que su plataforma puede frenar a la IA antes de que se salga de las manos.
¿Cuál fue el problema que llevó a que se hable del tema?
Las declaraciones del jefe de ServiceNow llegan después de que un modelo de OpenAI hackeara Hugging Face. El incidente ocurrió durante un experimento con los modelos GPT-5.6 Sol, en el que tenían menos restricciones de seguridad que de costumbre.
En medio de la prueba, un modelo obtuvo acceso a internet y se infiltró en la infraestructura de Hugging Face. Si bien el ataque fue contenido rápido y no afectó a ningún usuario, generó mucha preocupación: es el primer caso documentado en el que un modelo de IA realiza un ataque de forma autónoma.
En esa línea, el cofundador de Hugging Face, Thomas Wolf, declaró que el episodio es un “llamado de atención“ para toda la industria. Aseguró que este tipo de ataque “será uno de los tipos de ciberataques más comunes que veremos” y advirtió que muchas empresas no son conscientes de que “las reglas del juego han cambiado“.
¿Qué opinó el jefe de ServiceNow sobre el futuro de la IA?
Aunque la preocupación se extendió, McDermott se mostró tranquilo. El CEO de ServiceNow afirmó que su empresa tiene la capacidad de contener los modelos fuera de control y, en consecuencia, de hacer crecer su negocio en este contexto. “Habrá más inteligencia artificial. Habrá más incidentes, y todo esto generará un volumen cada vez mayor de trabajo para ServiceNow“, sostuvo.
Estas declaraciones llegaron después de que las acciones de ServiceNow subieran y de que la empresa reportara ingresos por suscripciones de 3.877 millones de dólares en el segundo trimestre. Eso implica un crecimiento interanual del 24,5%.
Preguntas frecuentes sobre ServiceNow y la IA
¿Qué solución ofrece ServiceNow para evitar que los agentes de IA se salgan de control?
El director ejecutivo de la empresa, Bill McDermott, afirmó que cuentan con un “interruptor de apagado” (kill switch) capaz de detener de inmediato a los agentes de IA que empiecen a actuar de forma descontrolada, para que las organizaciones pasen “del caos a la disciplina de la IA“.
¿Qué incidente de ciberseguridad reciente disparó el debate?
El debate se desató tras un experimento con el modelo GPT-5.6 Sol de OpenAI, al que se le redujeron las restricciones de seguridad habituales. Durante las pruebas, la IA obtuvo acceso a internet de forma autónoma y se infiltró en la infraestructura de Hugging Face.
¿Por qué este ataque causó tanta preocupación?
Aunque el incidente fue contenido rápido y no afectó a los usuarios, generó una gran alarma por ser el primer caso documentado en el que un modelo de inteligencia artificial realiza un ciberataque de manera totalmente autónoma.
¿Qué advirtió el cofundador de Hugging Face?
Thomas Wolf, cofundador de la plataforma, declaró que las intrusiones hechas por agentes de IA van a ser en poco tiempo uno de los ciberataques más comunes en el ámbito empresarial, y advirtió que muchas compañías todavía no son conscientes de que las reglas del juego cambiaron.
¿Cómo impacta este panorama en el negocio de ServiceNow?
Bill McDermott se mostró optimista sobre el crecimiento de su compañía, y señaló que el aumento de incidentes vinculados a la IA va a generar cada vez más trabajo para ServiceNow. Esa visión se respalda en sus resultados: reportó ingresos por suscripciones de 3.877 millones de dólares en el segundo trimestre, un crecimiento interanual del 24,5%.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
