Sam Altman y OpenAI quieren lanzar un “modo adulto” en ChatGPT que podría exponer a los usuarios más chicos a contenido explícito. Esta posible nueva función incluso preocupa a empleados, ejecutivos y asesores de la compañía.
OpenAI está cerca de meterse en un tema delicado para muchos. La compañía de Sam Altman quiere que ChatGPT sea más atrevido y tenga su propio “modo adulto” para que los usuarios puedan tener conversaciones explícitas con el chatbot. Esta posible nueva función abrió un fuerte debate dentro y fuera de la empresa, ya que hay empleados, ejecutivos y asesores preocupados por posibles fallas en los sistemas de control de edad, lo que dejaría a menores expuestos a contenido erótico generado por la plataforma.
¿ChatGPT está preparado para un “modo adulto”?
El año pasado, el director ejecutivo de OpenAI, Sam Altman, había planteado el “modo adulto” para permitir conversaciones explícitas en ChatGPT y eliminar la prohibición de ese tipo de contenido. Hablamos de que la IA pueda generar contenido de tono sexual o erótico sin las restricciones habituales. La idea del empresario era lanzar la función en diciembre. Sin embargo, las cosas no salieron como se esperaban y el lanzamiento se retrasó. ¿El problema? La eficacia de los sistemas de verificación de edad.
Como se imaginarán, antes de lanzar una función de este estilo, la compañía tiene que garantizar un acceso restringido para que solo los mayores de edad accedan a ese contenido adulto. Sin embargo, según reportes recientes, el sistema de verificación de edad de OpenAI clasificaba a los menores erróneamente como adultos en aproximadamente el 12% de los casos. Considerando la enorme base de usuarios jóvenes, este margen podría traducirse en millones de menores expuestos a contenido erótico generado por la plataforma.
Pero esto no es todo. Un informe del WSJ afirmó que los sistemas de verificación de edad no son el único problema. Parece que cuando Sam Altman hizo el anuncio del “modo adulto”, no se lo había comunicado a su propio equipo. La sorpresa y preocupación de los empleados, ejecutivos e incluso asesores de OpenAI ante esta función de ChatGPT hicieron que el lanzamiento esperado para diciembre se frustrara.
Parece que la mayor preocupación del consejo asesor de OpenAI (integrado por psicólogos y neurocientíficos para orientar el desarrollo responsable de la IA) no es la edad, sino la excesiva dependencia emocional del chatbot. Es más, un miembro del consejo mencionó casos de suicidios de usuarios con vínculos intensos con la IA.
Esto llevó a que advirtieran que la compañía corre el riesgo de crear un “entrenador de suicidios con fines sexuales” si comienza a permitir chats sexualmente explícitos.
Entonces…¿OpenAI va a lanzar esta nueva función?
Si bien todavía no confirmaron una nueva fecha de lanzamiento para el “modo adulto”, OpenAI tiene en mente seguir adelante con la función. Sin embargo, primero necesitan más tiempo para perfeccionar la experiencia.
Cuando lancen el “modo adulto” en ChatGPT, la compañía planea limitar la función solo a texto, nada de imágenes eróticas, voz o generación de video. Además, OpenAI también afirmó que entrena a sus modelos para disuadir a los usuarios de establecer relaciones con el chatbot y recordarles que deberían tenerlas en el mundo real.
Preguntas frecuentes (FAQ)
¿Qué es el “modo adulto” en ChatGPT?
Si bien todavía no está disponible en ChatGPT, el “modo adulto” dejaría a los usuarios tener conversaciones explícitas, de tono sexual o erótico, con el chatbot. La función estaría limitada solo a texto, no generaría imágenes, voz ni videos.
¿Por qué no se lanzó la función?
Por dos problemas: La eficacia de los sistemas de verificación de edad (que en ciertos casos clasificaba a los menores erróneamente como adultos) y la excesiva dependencia emocional que algunos usuarios tienen con el chatbot.
¿Se sabe si OpenAI va a lanzar o no “el modo adulto”?
Todavía no hay una fecha de lanzamiento confirmada, pero OpenAI sigue trabajando en la función y perfeccionándola para solucionar los problemas. Así que se supone que el “modo adulto” llegará a ChatGPT en algún futuro.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
