Parece que la función de resumir correos electrónicos en Gmail a través de IA se está usando para hackear a usuarios. Te contamos todo lo que tenés que saber ¡En esta nota!
Una herramienta que llegó para solucionar el día a día de muchos probablemente sea la de resumir correos electrónicos, disponible en Gmail gracias a Gemini. Sin embargo, un reciente hallazgo reveló que estos resúmenes podrían ser manipulados por hackers para mostrar instrucciones engañosas y potencialmente peligrosas. Pero…¿cómo lo hacen y qué tanto peligro corremos si decidimos seguir usando esta herramienta?
Una forma bastante sencilla de hackear pero que pasa desapercibida porque la IA no lo reconoce
Desde el programa 0din, una iniciativa de la Fundación Mozilla que se dedica a encontrar fallos en sistema de IA, presentó esta investigación donde exponen que un correo electrónico malicioso puede contener comandos ocultos incrustados como texto invisible o código HTML. Estos comandos son interpretados y resumidos por el asistente con IA de Google como si fueran parte del texto del mail. ¿El resultado? Un resumen que parece completamente confiable, pero que nos podría sugerir hacer click en un enlace extraño o compartir información que no deberíamos compartir.
Este tipo de hackeo o ataque se conoce como prompt injection y es una nueva forma de phishing que no tiene como objetivo engañar al usuario, sino a la IA que lo asiste. Según el investigador detrás del descubrimiento, que firma la investigación con el nombre blurrylogic, estas instrucciones ocultas pueden pasar completamente desapercibidas para quien recibe el correo. Esto se debe a que no están a simple vista en el cuerpo del mensaje. El problema se encuentra en que Gemini sí los lee y según lo que digan la IA decide qué mostrar como resumen.
Un problema que tendrá solución próximamente
La buena noticia es que desde Google ya respondieron a este informe y aseguraron que se encuentra en desarrollo refuerzos para que este tipo de hackeo sea menor. Entre las medidas que planean implementar se incluye una actualización constante de listas de instrucciones maliciosas y ajustes en los modelos de lenguaje, pensadas para evitar que esta nueva forma de phishing engañe a la IA con comandos disfrazados. Algo a tener en cuenta que también reveló Google es que Gemini ya es capaz de detectar enlaces sospechosos y antes de dejarnos clickear uno nos pregunta si estamos seguros de que queremos abrirlo.
Sin embargo, hay algo que nos deja bien claro esta noticia (e informe) y es que todavía no podemos confiar plenamente en la IA. Y en caso de que lo hagamos, tenemos que atenernos a ciertas consecuencias que pueden ser inmediatas o a largo plazo. En situaciones donde tenemos información sensible, como correos electrónicos, es mejor leer detenidamente todo y no confiar en una IA que te puede llegar a apurar a responder, hacer click o compartir ciertos datos sin un motivo aparente.
@culturageek.com.ar ¿Y? ¿les vas a hacer caso? ¿vas a ir? El elenco de Superman nos recuerda que ya podemos ir a los cines a ver la peli de James Gunn con el debut del nuevo DCU. En el vídeo, podemos ver a Rachel Brosnahan (Lois Lane) y Nicholas Hoult (Lex Luthor), quienes nos piden que nos quedemos a ver el vídeo para escuchar a David Corenswet (Superman) hablar sobre qué tiene la película. #fyp #superman
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
