Dazhon Darien fue detenido por utilizar una IA para hacerse pasar por el director de una escuela de Maryland y grabar mensajes con contenido racista para que lo acusen. ¡Enterate de más en la nota!
La inteligencia artificial está avanzando a pasos agigantados en cuanto a la generación de audio se refiere. Incluso redes sociales como TikTok están pensando en usar la IA para clonar la voz de los usuarios. En este sentido, ocurrió un hecho particular en Maryland, Estados Unidos. Un empleado de una escuela secundario utilizó la inteligencia artificial para hacerse pasar por un director de escuela y dejarlo como un racista.
Dazhon Darien, jefe deportivo de un colegio secundario, utilizó esta tecnología para imitar la voz del director de la secundaria Pikesville. En un audio, supuestamente del director, se pueden escuchar distintos comentarios racistas y antisemitas. Debido a una disputa por dinero, Darien decidió vengarse falsificando un audio en el que el “director” se quejaba de los estudiantes negros y emitía comentarios de desprecio hacia personas judías.
El audio falsificado se viralizó rápidamente y tuvo repercusiones inmediatas. En las redes sociales se llenó de mensajes de odio y llamados a la escuela del director. También tuvieron que disponer de equipo policial para resguardar su casa por temor a ataques más directos. A su vez, el director fue puesto en licencia y la actividad escolar tuvo que detenerse.
¿Qué pasó con el culpable?
Darien fue encontrado y detenido de forma insólita. Antes de abordar un avión, el jefe deportivo fue demorado por la forma en la que había empaquetado un arma de fuego. Ahora, Darien enfrenta cargos que incluyen robo, interrupción de actividades escolares, acecho y represalias contras un testigo. Y en la investigación del hecho, un detective del condado de Baltimore descubrió cómo este hombre creó el audio falsificado. Según el detective, Darien utilizó modelos de programas como OpenAI y Bingchat, entre otros más complejos, que lo ayudaron a copiar la voz del director.
Según las autoridades, este caso es uno de los primeros de su tipo en el país. Por lo que pidieron que se incluyan nuevas leyes que regulen esta tecnología y destacaron que hay que tener cuidado con el avance de la inteligencia artificial. Si bien en este caso pudieron darse cuenta de que era una copia, en un futuro quizás no sea tan fácil distinguir un audio real de uno falso. ¿Qué opinás de este hecho?