CNET, medio estadounidense que escribe sobre tecnología y electrónica, recientemente comunicó que algunos artículos financieros estaban siendo escritos por una Inteligencia Artificial. Sin embargo, parece que esa IA no estaba dando 100% información correcta.
Los sistemas de chatbots de Inteligencia Artificial, como el de ChatGPT que les contamos el mes pasado, están evolucionando con rapidez. Esto puede llegar a preocupar a bastantes, ya que sus crecientes capacidades para generar texto podrían reemplazar a los escritores humanos. Aparentemente, esto llegó (de alguna manera u otra) a CNET, medio estadounidense especializado en tecnología y electrónica.
Recientemente informaron que CNET había empleado “tecnología de automatización” para producir una serie de publicaciones explicativas financieras bajo la firma de CNET Money Staff. Lo que hizo ruido a varios es que el medio no había hecho público este cambio y, solo después de hacer clic en el pie de autor, el sitio decía: “Este artículo fue generado utilizando tecnología de automatización y editado y verificado minuciosamente por un editor de nuestro personal editorial”. Pero parece que esto tampoco era tan así.
Después de que eso se diera a conocer, la editora en jefe de CNET, Connie Guglielmo, admitió que el medio había publicado alrededor de 75 artículos sobre temas financieros básicos desde noviembre del año pasado. Guglielmo había dicho que el sitio web decidió hacer un experimento para ver si la IA realmente se puede usar en las salas de redacción y otros servicios basados en información.
“Utilizo el término ‘Asistencia de IA’ porque mientras el motor de IA compiló el borrador de la historia o reunió parte de la información de la historia, cada artículo en CNET se revisa, verifica y es editado por un editor con experiencia en temas antes de publicar. Eso seguirá siendo cierto como nuestra política sin importar qué herramientas o tecnología usemos para crear esas historias. Y según la política de CNET, si encontramos algún error después de publicar, corregiremos la historia públicamente”, explica la editora en jefe del medio.
Ahora bien, Futurism revisó uno de los artículos que Guglielmo destacó en la publicación (uno titulado “¿Qué es el interés compuesto?”) y encontró algunos errores. Si bien ya corrigieron la nota, la versión original decía: “ganará $10.300 al final del primer año“, en lugar de solo $300, si deposita $10.000 en una cuenta que gana un interés compuesto anual del 3%. La IA también cometió errores al explicar los pagos de las tasas de interés de los préstamos y los certificados de depósito.
Uno de los problemas de los generadores de texto de Inteligencia Artificial es que pueden ser capaces de responder lo que sea de manera similar a la humana, pero todavía tienen dificultades para detectar imprecisiones. Es decir, pueden darte información errónea, pero con la seguridad y confianza de que es correcta. Entonces, si no estás metido en el tema del que se está hablando es difícil que identifiques el error.
Después de que Futurism remarcara los errores del artículo, un portavoz de CNET les comunicó: “Estamos revisando activamente todas nuestras piezas asistidas por IA para asegurarnos de que no haya más imprecisiones en el proceso de edición, ya que los humanos también cometen errores. Continuaremos emitiendo cualquier información necesaria sobre las correcciones de acuerdo con la política de correcciones de CNET“.
Si te metés en cualquiera de los artículos escritos por la IA de CNET ahora aparecerá una nota del editor en la parte superior que dice: “Actualmente estamos revisando esta historia para verificar su precisión. Si encontramos errores, actualizaremos y emitiremos correcciones”.