Un reciente informe reveló que evaluadores humanos revisan algunos prompts e imágenes que los usuarios envían a Copilot. ¿Y con qué se encuentran constantemente? Con pedidos de contenido sexual.
Usar una inteligencia artificial para editar una foto puede parecer una interacción privada entre el usuario y el chatbot, pero en algunos casos hay personas detrás de escena viendo todo. Un reciente informe reveló que evaluadores humanos contratados para mejorar Microsoft Copilot revisan determinados prompts, imágenes subidas por los usuarios y resultados generados por la IA.
El descubrimiento resulta especialmente llamativo por el tipo de contenido que aparece en esas tareas. Según documentos internos y conversaciones entre evaluadores obtenidos por 404 Media, los trabajadores reciben con frecuencia pedidos para generar o modificar imágenes de carácter sexual, además de otro material perturbador e inapropiado.
Entre los ejemplos mencionados aparecen solicitudes para acortar la ropa de una mujer, aumentar el tamaño del busto o colocar personas en posiciones sexuales. También se encontraron pedidos relacionados con fetiches, imágenes de personajes ficticios sexualizados y fotografías que podrían haber sido tomadas sin consentimiento. Pero eso no es todo: uno de los revisores consultados aseguró que “las caras siempre aparecen sin censurar”.
Por otro lado, hay una particularidad que hace todavía más extraño el sistema: los trabajadores no están necesariamente revisando estas imágenes para decidir si el contenido es apropiado o debería ser bloqueado. Su trabajo consiste principalmente en determinar qué tan bien respondió Copilot al pedido del usuario.
¿Qué hacen los humanos que revisan Copilot?
Según los documentos internos obtenidos por 404 Media, un revisor puede recibir el prompt original del usuario, la imagen que subió y dos versiones editadas por Copilot. A partir de ese material, tiene que decidir cuál de las dos imágenes generadas es mejor. Para hacerlo, debe comprobar si Copilot siguió correctamente las instrucciones, si mantuvo intactas las partes de la imagen que no debían modificarse, si existen errores visuales o deformaciones y cuál de las dos versiones tiene una mejor calidad general.
Las instrucciones también piden a los trabajadores que confíen en su propia percepción al comparar las imágenes. Uno de los documentos indica que deben confiar en su intuición y en la primera impresión para detectar diferencias sutiles de calidad.
El problema es que, dentro de esas tareas aparentemente destinadas a evaluar la calidad de una edición, pueden aparecer contenidos sexuales, perturbadores o potencialmente ilegales, y que muchas veces las caras en las imágenes aparecen sin censura. Según el medio mencionado, algunos trabajadores comentaron en un foro interno que habían recibido imágenes upskirt —fotos tomadas desde debajo de la ropa— y solicitudes de contenido sexualizado.
Pero no todo el contenido que llegó a los revisores era simplemente sexual. Los trabajadores también describieron haber encontrado material relacionado con trastornos alimentarios, incluyendo un pedido para generar una imagen de Ariana Grande con anorexia.
En otra conversación interna, un trabajador contó que había recibido una tarea que incluía ocho fotografías upskirt y pidió que se incorporara una etiqueta para identificar ese tipo de contenido como inseguro. Otros revisores también mencionaron imágenes perturbadoras y solicitudes que involucraban a personas jóvenes. Uno de los evaluadores incluso cuestionó directamente el propósito del sistema y se preguntó quién estaba decidiendo que generar este tipo de imágenes formaba parte del trabajo que debía evaluar.
¿Microsoft puede revisar lo que los usuarios hacen en Copilot?
Aunque el informe de 404 Media generó sorpresa, Microsoft reconoce en su propia documentación que algunas conversaciones de Copilot pueden estar sujetas a revisiones automatizadas y humanas para mejorar el producto, garantizar la seguridad y hacer cumplir sus reglas de uso.
La compañía también considera las imágenes y archivos que los usuarios suben a Copilot como parte de sus conversaciones. Según la versión de la documentación consultada, ese contenido puede utilizarse para mejorar sus modelos y productos, dependiendo de las configuraciones y condiciones aplicables. Sus términos de uso, además, definen como Prompt cualquier contenido que el usuario envía al servicio, incluyendo texto, audio, imágenes, archivos y video.
Esto no significa que cada conversación o cada imagen subida a Copilot sea revisada manualmente. El informe de 404 Media describe un proceso específico de evaluación de determinadas tareas y señala que al menos cientos de trabajadores pueden encontrarse con este tipo de material.
Microsoft respondió al informe
Consultada por 404 Media, Microsoft no negó que utilice datos de sus clientes para mejorar Copilot. Un portavoz de la compañía explicó que la empresa utiliza esos datos de acuerdo con sus términos de uso, entre otras cosas para mejorar sus productos y hacer cumplir su código de conducta.
La empresa que aparece vinculada a la contratación de algunos de estos trabajadores es Prolific, una plataforma que ofrece servicios de investigación y recopilación de opiniones humanas para el desarrollo de sistemas de inteligencia artificial.
El caso tampoco es exclusivo de Microsoft. Las compañías de IA llevan años utilizando trabajadores humanos para evaluar respuestas y mejorar sus modelos. De hecho, 404 Media publicó recientemente otra investigación sobre personas que revisan conversaciones reales de ChatGPT.
La diferencia que plantea este nuevo informe es que, en el caso de Copilot, los revisores no solo pueden encontrarse con lo que los usuarios escriben: también pueden ver las fotos que suben para que la IA las edite. Y eso deja una pregunta difícil de ignorar: ¿cuántos usuarios que suben una foto a una herramienta de IA saben realmente quién puede terminar viéndola del otro lado?
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
