Un reciente informe reveló que evaluadores humanos revisan algunos prompts y fotos que los usuarios envían a Copilot. ¿Y con qué se encuentran constantemente? Con pedidos de contenido sexual.

Usar una inteligencia artificial para editar una foto puede parecer una interacción privada entre el usuario y el chatbot, pero en algunos casos hay personas detrás de escena viendo todo. Un reciente informe reveló que evaluadores humanos contratados para mejorar Microsoft Copilot revisan determinados prompts, imágenes subidas por los usuarios y resultados generados por la IA.
El descubrimiento resulta especialmente llamativo por el tipo de contenido que aparece en esas tareas. Según documentos internos y conversaciones entre evaluadores obtenidos por 404 Media, los trabajadores reciben con frecuencia pedidos para generar o modificar imágenes de carácter sexual, además de otro material perturbador e inapropiado.
Entre los ejemplos mencionados aparecen solicitudes para acortar la ropa de una mujer, aumentar el tamaño del busto o colocar personas en posiciones sexuales. Pero eso no es todo: uno de los revisores consultados aseguró que “las caras siempre aparecen sin censurar” (faces are always uncensored, en el original).

Hay, además, una particularidad que hace todavía más extraño el sistema: los trabajadores no están necesariamente revisando estas imágenes para decidir si el contenido es apropiado o debería ser bloqueado. Su trabajo consiste principalmente en determinar qué tan bien respondió Copilot al pedido del usuario.
¿Qué hacen los humanos que revisan las fotos de Copilot?
Según los documentos internos obtenidos por 404 Media, en cada tarea el revisor ve el prompt original del usuario, la imagen que subió y dos versiones editadas por Copilot. A partir de ese material, tiene que decidir cuál de las dos imágenes generadas es mejor.
Para hacerlo, debe comprobar si Copilot siguió correctamente las instrucciones, si mantuvo intactas las partes de la imagen que no debían modificarse, si existen errores visuales o deformaciones y cuál de las dos versiones tiene una mejor calidad general. Las instrucciones también piden a los trabajadores que confíen en su intuición y en la primera impresión para detectar diferencias sutiles.

El problema es que, dentro de esas tareas aparentemente destinadas a evaluar la calidad de una edición, pueden aparecer contenidos sexuales, perturbadores o de dudoso consentimiento, con las caras a la vista. Según el medio, uno de los trabajadores se encontró con una tarea que incluía ocho fotografías upskirt (tomadas por debajo de la ropa) y pidió que se sumara una forma de marcar ese tipo de material como inseguro.
Pero no todo el contenido que llegó a los revisores era sexual: también describieron material que promovía la anorexia. Uno de ellos llegó a cuestionar el sentido del sistema: “¿Quién escribe estos prompts y quién decide que, básicamente, generar porno es en lo que ahora se enfoca Copilot?“.
¿Microsoft puede revisar las fotos que subís a Copilot?
Aunque el informe generó sorpresa, Microsoft reconoce en su propia documentación que algunas conversaciones de Copilot pueden estar sujetas a revisiones automatizadas y humanas para mejorar el producto y garantizar la seguridad digital.

La compañía también considera las imágenes y archivos que los usuarios suben a Copilot como parte de su actividad de conversación, que puede utilizarse para entrenar sus modelos según la configuración de cada cuenta. Sus términos de uso, además, definen como prompt cualquier contenido que el usuario envía al servicio, incluyendo texto, audio, imágenes, archivos y video.
Esto no significa que cada conversación o cada imagen subida a Copilot sea revisada manualmente. El informe de 404 Media describe un proceso específico de evaluación de determinadas tareas de edición de imágenes.
Microsoft respondió al informe
Consultada por 404 Media, Microsoft no negó que utilice datos de sus clientes para mejorar Copilot. Un portavoz de la compañía explicó que la empresa usa esos datos de acuerdo con sus términos de uso, entre otras cosas para mejorar sus productos y hacer cumplir su código de conducta.
Al menos una de las empresas que contrata a estos trabajadores es Prolific, una plataforma que ofrece servicios de investigación y recopilación de opiniones humanas para el desarrollo de sistemas de inteligencia artificial.

El caso tampoco es exclusivo de Microsoft. Las compañías de IA llevan años utilizando trabajadores humanos para evaluar respuestas y mejorar sus modelos. De hecho, 404 Media publicó en septiembre otra investigación sobre personas que leen conversaciones reales de ChatGPT, un servicio que además viene discutiendo su propio modo adulto.
La diferencia que plantea este nuevo informe es que, en el caso de Copilot, los revisores no solo pueden encontrarse con lo que los usuarios escriben: también pueden ver las fotos que suben para que la IA las edite. Y eso deja una pregunta difícil de ignorar: ¿cuántos usuarios que suben una foto a una herramienta de IA saben realmente quién puede terminar viéndola del otro lado?
Preguntas frecuentes
¿Cómo evitar que Copilot use tus conversaciones y fotos para entrenar su IA?
Hay que apagar las opciones de entrenamiento en la configuración de privacidad. En la app de Windows o macOS, tocá tu foto de perfil y entrá a Configuración y Privacidad; en la web, desde el ícono de perfil y tu nombre; en el celular, desde el menú, tu perfil, Cuenta y Privacidad. Ahí desactivá el entrenamiento con la actividad de conversación y con las conversaciones de voz (en inglés figuran como Training on conversation activity y Training on voice conversations), según la guía de controles de privacidad de Microsoft. El cambio vale de ahí en adelante, y Microsoft aclara que esas rutas corresponden a la versión anterior de la app, así que en la nueva el menú puede variar.
En la Argentina conviene revisarlo: Microsoft excluye del entrenamiento por defecto a los menores de 18, a quienes usan Copilot sin iniciar sesión y a los usuarios de países como Brasil, Israel o Corea del Sur, pero nuestro país no está en esa lista, así que acá viene activado.
¿Desactivar el entrenamiento impide que un humano vea tus fotos?
No del todo. Microsoft aclara que esa opción no excluye tus conversaciones de otros usos, como la seguridad digital, el cumplimiento de sus reglas o mejoras generales del producto, y que la revisión humana limitada es parte de sus investigaciones cuando sospecha que se violó su código de conducta. No existe un interruptor para apagar la revisión humana.
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá
como fuente preferida en ![]()
