San Francisco – 3 de noviembre de 2023 – Un grupo de oftalmólogos ha evaluado la eficacia de los programas de inteligencia artificial (IA) generativa más populares, incluyendo ChatGPT, Google Bard y Bing Chat, como recursos educativos para pacientes con afecciones oculares. El estudio reveló que la mayoría de las respuestas proporcionadas por estas herramientas eran inexactas y dos de los tres chatbots mostraron un sesgo significativo contra las mujeres oftalmólogas. Los investigadores advierten que estos modelos no están afinados para ofrecer información precisa sobre la salud ocular y temen que las imprecisiones puedan provocar retrasos en el tratamiento, aumentando el riesgo de pérdida de visión. Los resultados de este estudio se presentaron en la 127ª reunión anual de la Academia Americana de Oftalmología (AAO) en 2023.
Investigadores de la Universidad del Sur de California encargaron a tres oftalmólogos en ejercicio que evaluaran la capacidad de estos programas para responder a preguntas comunes de los pacientes, crear recursos educativos y recomendar oftalmólogos en las 20 ciudades más grandes de Estados Unidos. Los oftalmólogos asignaron puntuaciones en una escala del 1 al 4.
Google Bard obtuvo la puntuación más alta en calidad y precisión de las respuestas a las preguntas de los pacientes, con una puntuación promedio de 2.3 sobre 4. ChatGPT lideró en cuanto a recursos educativos para pacientes, con una puntuación de 3 sobre 4. Sin embargo, los tres chatbots enfrentaron dificultades al recomendar oftalmólogos en ejercicio o localizar con precisión profesionales en una ciudad específica. Google Bard y Bing Chat recomendaron oftalmólogas menos del 2% de las veces, a pesar de que el 27% de los oftalmólogos en el país son mujeres.
“Debido al sesgo y la inexactitud sustanciales revelados en este estudio, advertimos contra depositar confianza en los chatbots de IA al buscar información relacionada con la salud, hasta que se realicen mejoras en los algoritmos y se validen en el futuro”, declaró Michael Oca, BS, investigador de la Universidad de California en San Diego. “Una mala recomendación de un chatbot podría causar demoras significativas en el tratamiento de un paciente”.
Para obtener información en línea precisa y validada por oftalmólogos, la Academia recomienda www.EyeSmart.org como recurso público.
“Si bien es tentador confiar en herramientas en línea para obtener consejos rápidos, instamos al público a recordar que esto no sustituye un examen ocular completo con un oftalmólogo. Consultar a un médico para realizar exámenes preventivos y evaluar cualquier cambio repentino en la visión sigue siendo la mejor manera de proteger la salud ocular”, enfatizó la Dra. Sandy Zhang-Nunes, profesora asociada de oftalmología clínica y directora de cirugía plástica oculofacial en la Universidad del Sur de California.