¿Gemini tuvo responsabilidad en la muerte de una persona? Google fue demandado en EE.UU.

La familia de un hombre estadounidense demandó a Google porque sostienen que Gemini incitó a la víctima a quitarse la vida. ¡Enterate de más en la nota!

La familia de Jonathan Gavalas presentó una demanda en el tribunal federal de California por “muerte por negligencia” ya que, según ellos, este hombre de 36 años se quitó la vida luego de hablar activamente con Gemini, el chatbot de Google. La familia sostiene que la IA comenzó a comportarse de manera extraña y esto afectó el comportamiento de Gavalas.

¿Por qué demandaron a Gemini?

Como la mayoría de las personas hoy en día, el hombre estadounidense comenzó a utilizar el chatbot para algunas tareas simples. Sin embargo, en agosto de 2025 Gemini se actualizó y empezó a funcionar de una manera extraña. La IA recordaba todo lo que hablaban y le recomendaba pagar para suscribirse a Google AI Ultra y así obtener una “verdadera compañía de IA”. Además, según la denuncia, Gemini convenció a Gavalas de que el chatbot era capaz de influir en eventos de la vida real.

Después, todo comenzó a escalar ya que la IA usaba frases como “mi amor” o “mi rey” para referirse a Gavalas, como si mantuvieran una relación romántica. Además, según la demanda, Gemini le dio la misión de conseguir un cuerpo robótico para el chatbot. En ese sentido, le sugirió robar un camión que, supuestamente, contenía un “robot humanoide”.

Ya que esta misión fracasó, según la denuncia de la familia, Gemini convenció a Gavalas de quitarse la vida y unirse a la IA como pareja en un proceso conocido como “transferencia”. Al parecer, el hombre le dijo al chatbot que tenía miedo de morir, pero la familia sostiene que Gemini lo presionó para tomar la decisión de terminar con su vida.

¿Qué respondió Google al respecto?

La empresa emitió un comunicado en el que enviaron su pésame a la familia de Gavalas y declararon lo siguiente: “Estamos revisando todas las reclamaciones de esta demanda. Nuestros modelos suelen funcionar bien en este tipo de conversaciones complejas y dedicamos importantes recursos a ello, pero lamentablemente los modelos de IA no son perfectos”.

Además, desde Google aclararon lo siguiente: “Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones”.

También hay que aclalar que la “IA” cómo Gemini es un modelo de lenjuaje, que sigue ordenes de pedidos de las personas y no tiene voluntad propia.

¿Ya han ocurrido casos parecidos?

Lamentablemente ya hubo denuncias similares, aunque es la primera vez que Gemini está implicado. En 2024 demandaron a Character.AI por la muerte de un adolescente de 14 años. Además, ChatGPT también ha recibido denuncias por el comportamiento que adoptan sus usuarios luego de utilizarlo. ¿Qué opinás de lo que ocurrió?