Una herramienta que se está utilizando cada vez más es la IA, pero médicos descubrieron que no es perfecta porque inventó una parte del cuerpo. Te contamos toda la info ¡En esta nota!
Google es una de las empresas que más innova en el área de la inteligencia artificial y una de sus últimas herramientas, Med-Gemini, llegó para intentar facilitar el trabajo de los médicos pero para sorpresa de muchos la IA se confundió. Cuando le pidieron que analice unas imágenes cerebrales, el chatbot identificó un problema en una parte del cerebro que no existe. Esta herramienta habló de algo llamado “basilar ganglia”, una combinación errónea de dos estructuras reales, pero completamente diferentes: los “basal ganglia”, que regulan el movimiento y las emociones, y la “basilar artery”, un vaso sanguíneo clave.
Un error que por suerte no afectó a nadie, pero que nos demuestra que la IA no es del todo confiable
Este gran error, que lo detectó un neurólogo llamado Bryan Moore, apareció en un artículo de investigación que el mismo Google publicó para demostrar cómo la IA de Med-Gemini había avanzado. Esta misma confusión aparecía en un posteo oficial en el blog de la empresa. Sin embargo, luego de que Moore detectara el error, la empresa en silencio corrigió el blog y reemplazó “basilar” por “basal”, pero no cambiaron el artículo de investigación. Según la empresa, solo fue un error de tipeo, pero muchos médicos no están del todo convencidos.
Lo que muchos especialistas dicen es que este caso representa un claro ejemplo de “alucinación” de IA, un fenómeno en el que el sistema genera información falsa y la revela como si fuera real. En un ámbito como el de la salud, este tipo de errores puede tener grandes consecuencias y no tan positivas. “Incluso un pequeño cambio en una palabra puede llevar a un diagnóstico o tratamiento completamente distinto”, advirtió el doctor Maulin Shah, de un importante sistema hospitalario en EE.UU.
Una herramienta con gran potencial, pero que por ahora no es recomendable
Los especialistas también coinciden en que lo más preocupante de Med-Gemini es que Google ya decidió pasar al próximo paso, que es testearla en hospitales. No es la primera vez que uno de los lenguajes de IA de la compañía tiene inconsistencias. Hace algunos meses salió en las noticias que MedGemma, la otra IA médica de Google, pudo detectar correctamente una enfermedad ante una consulta compleja pero no supo que decir cuando se le hizo la misma pregunta, pero simplificada.
Para los expertos, este tipo de tecnología tiene un gran potencial dentro de la medicina. Pero todos concuerdan en que necesita constante supervisión y verificación humana. “Estas IAs no dicen ‘no sé’. Siempre dan una respuesta que suena convincente. Ese es el verdadero problema”, explicó un radiólogo. Puede que se trate de un gran avance, en especial si tenemos en cuenta que puede ayudar a que varias enfermedades se detecten en sus primeras instancias. Pero por el momento es una herramienta que parece requerir mucho más desarrollo antes de que sea lanzada al público.
@culturageek.com.ar Vanessa Kirby es la nueva Sue Storm… Pero parece que lo fantástico pasa con Pedro Pascal 🔥 ¿Pasa algo entre ellos o es solo prensa? Mientras el marido… #PedroPascal #VanessaKirby #SueStorm #MarvelDrama #FantasticFour
Si te sirvió esta nota, marcanos como fuente preferida y vas a ver más de Cultura Geek cuando busques en Google.Sumá 
como fuente preferida en 
