Google ha eliminado los resúmenes generados por inteligencia artificial para algunas consultas relacionadas con la salud después de que una investigación revelara que los AI Overviews de Google proporcionaban información potencialmente engañosa. Según informó The Guardian, la compañía tecnológica retiró estas funciones de búsqueda tras detectarse que no consideraban variables críticas como nacionalidad, sexo, etnia o edad en los resultados médicos.
La investigación inicial documentó que cuando los usuarios preguntaban “cuál es el rango normal para las pruebas de sangre del hígado”, recibían cifras que no tomaban en cuenta factores individuales importantes. Esto podría llevar a los pacientes a interpretar incorrectamente sus resultados como saludables cuando en realidad podrían indicar problemas.
Google AI Overviews retirados de consultas específicas de salud
De acuerdo con The Guardian, los AI Overviews de Google desaparecieron de los resultados para búsquedas como “cuál es el rango normal para las pruebas de sangre del hígado” y “cuál es el rango normal para las pruebas de función hepática”. Sin embargo, la publicación descubrió que variaciones de estas mismas consultas, como “rango de referencia lft” o “rango de referencia prueba lft”, aún podían generar resúmenes creados por inteligencia artificial.
Verificaciones posteriores realizadas horas después de la publicación del artículo mostraron que ninguna de estas consultas producía AI Overviews, aunque Google seguía ofreciendo la opción de realizar la misma búsqueda en modo IA. En varios casos, el resultado principal era precisamente el artículo de The Guardian sobre la eliminación.
Respuesta de Google ante las críticas
Un portavoz de Google declaró al medio británico que la empresa no “comenta sobre eliminaciones individuales dentro de Search”, pero afirmó que trabajan para “realizar mejoras amplias” en el sistema. Additionally, el representante indicó que un equipo interno de médicos revisó las consultas destacadas por The Guardian y encontró que “en muchos casos, la información no era inexacta y también estaba respaldada por sitios web de alta calidad”.
La compañía no ha proporcionado comentarios adicionales sobre el incidente hasta el momento. El año pasado, Google anunció nuevas funciones destinadas a mejorar Google Search para casos de uso relacionados con la atención médica, incluyendo resúmenes mejorados y modelos de IA enfocados en salud.
Preocupaciones más amplias sobre información médica generada por IA
Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, calificó la eliminación como “excelentes noticias” según sus declaraciones a The Guardian. However, expresó una inquietud mayor: “Nuestra mayor preocupación con todo esto es que se está corrigiendo un solo resultado de búsqueda y Google puede simplemente desactivar los AI Overviews para eso, pero no está abordando el problema más grande de los AI Overviews para la salud”.
Esta declaración subraya la naturaleza sistémica del desafío que enfrentan las plataformas de búsqueda al implementar inteligencia artificial en temas médicos. Los expertos en salud pública han expresado repetidamente su preocupación sobre la personalización insuficiente de la información médica que no considera las características individuales de los pacientes.
Implicaciones para el futuro de la búsqueda médica
El incidente resalta los riesgos potenciales de proporcionar información de salud generalizada a través de sistemas de inteligencia artificial sin contexto adecuado. La medicina moderna reconoce que los rangos normales de pruebas de laboratorio varían significativamente según múltiples factores demográficos y biológicos, información que los resúmenes automatizados pueden omitir.
Google enfrentará presión continua para equilibrar la innovación en búsqueda impulsada por IA con la responsabilidad de proporcionar información médica precisa y contextualizada. La empresa deberá desarrollar sistemas más sofisticados que puedan reconocer cuándo se necesita asesoramiento médico personalizado en lugar de respuestas generalizadas, especialmente en consultas relacionadas con resultados de pruebas diagnósticas y parámetros clínicos que requieren interpretación profesional individualizada.