Un investigador renunció a Anthropic, otro le puso un porcentaje al fin de la humanidad y la industria empezó a hablar de frenar. Jensen Huang, el CEO de la empresa que fabrica los chips de esa carrera, tiene otra lectura.
Jensen Huang, CEO de Nvidia, salió a responderle a Jacob Coxon, el investigador que renunció a Anthropic con una advertencia sobre la IA después de haber pasado por OpenAI. Y, sobre todo, a quienes le ponen un número al riesgo de que la inteligencia artificial termine con la humanidad.
Lo dijo en el All-In Summit, en una charla con los conductores del podcast All-In. No es una voz cualquiera en este debate: Nvidia vende buena parte del hardware sobre el que se entrenan esos modelos.
Qué dijo Jensen Huang sobre la extinción humana por culpa de la IA
La pregunta vino por el famoso 10%. Evan Hubinger, investigador de alineación de IA en Anthropic, respaldó a Coxon y escribió que, en su opinión personal, hay más de un 10% de probabilidad de que la IA mate a todos los humanos en la próxima década.
Huang no dudó: “Es inventado” (it’s made up), respondió entre risas y aplausos del público. Y agregó que la predicción “es alarmante y perturbadora, y no debería hacerse. Es irresponsable”.
Para sostenerlo recordó un pronóstico que envejeció mal: el que decía que en cinco años la inteligencia artificial iba a reemplazar por completo a los radiólogos. Según Huang, pasó lo contrario y hoy se necesitan más radiólogos que nunca, aunque la IA ya automatizó la lectura de estudios.
Con Coxon fue más cuidadoso. Dijo que tuvo “mucho coraje” al hacer públicas sus preocupaciones y que la denuncia “está bien”, pero separó las dos cosas: la predicción sobre el futuro, según él, “no está basada en la ciencia”.
Tampoco le preocupa la auto-mejora recursiva (RSI), el proceso en el que una IA ayuda a construir versiones más capaces de sí misma. “Podés hacer RSI todo el día dentro de tu empresa, pero cuando lanzás un producto tenés que evaluarlo”, planteó.
¿Cuándo tendría China su propia litografía avanzada, según Huang?
En la misma charla, el CEO de Nvidia, que hace poco acordó comprar Hugging Face, habló de China y de las máquinas de litografía avanzada con las que se fabrican los chips más potentes. Su pronóstico fue concreto: “Van a llegar para 2030”.
“China es muy buena en la producción a gran escala. Y esto es solo cuestión de tiempo”, explicó. Para alguien que piensa a Nvidia en décadas, dijo, “dos o tres años son apenas un clic. No es nada”.
¿Qué proponen Amodei, Altman y Musk para frenar la IA?
La respuesta de Huang llega justo cuando buena parte de la industria pidió lo contrario. Dario Amodei, CEO de Anthropic, publicó el ensayo We Must Pace the Frontier, donde advierte que la auto-mejora recursiva “está empezando a ocurrir en toda la industria”.
Su plan tiene tres pasos: evaluadores externos con acceso permanente dentro de las empresas de IA, estándares de seguridad comunes entre compañías, con el gobierno de Estados Unidos como mediador, y acuerdos internacionales que podrían incluir límites a la velocidad de la auto-mejora. Sam Altman (OpenAI) y Elon Musk respaldaron públicamente la propuesta.
Huang tiene razón en algo: un porcentaje sin datos detrás asusta más de lo que explica, y ya vimos cómo terminó la profecía de los radiólogos. Pero conviene no olvidar desde dónde habla. Si la carrera de la IA baja un cambio, la empresa que vende las palas en plena fiebre del oro es la primera en notarlo, y el debate sobre si la singularidad ya llegó está lejos de cerrarse.
¿Dónde se puede ver la entrevista completa a Jensen Huang?
La charla está completa y gratis en el canal oficial de YouTube de All-In Podcast, bajo el título Jensen Huang: The Doomer Hoax, Superintelligence is Here, and The Future of AI (ft. President Trump). Dura unos 47 minutos y está en inglés.
¿Qué se comprometió a hacer Anthropic para frenar la IA?
En el mismo ensayo, Amodei anunció que Anthropic planea darles a los evaluadores externos un acceso similar al de un empleado: escritorios en sus oficinas, credenciales de acceso y computadoras de la compañía, con permisos en su mayoría comparables a los de sus equipos internos de evaluación de riesgos.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
