Preprint: chatbots omitieron una advertencia clave sobre insulina en consultas infantiles

Cuando una familia ve que la glucosa de su hijo está alta, puede buscar una respuesta rápida en el teléfono. Un chatbot es capaz de devolver instrucciones claras y ordenadas, pero dejar fuera un dato decisivo: la insulina que el niño recibió antes quizá siga actuando. Un equipo de Boston examinó esa omisión en preguntas inventadas sobre diabetes infantil y la encontró en todos los sistemas evaluados, aunque con frecuencias distintas. El problema era recomendar más insulina sin explicar adecuadamente que había que tener en cuenta la anterior.

Qué hicieron

Elizabeth Healey y sus colegas del Boston Children's Hospital y Harvard Medical School, en Estados Unidos, publicaron el trabajo en medRxiv el 8 de noviembre de 2026. Es un preprint: un manuscrito difundido antes de completar la revisión por otros especialistas. Construyeron 600 preguntas simuladas de cuidadores de niños con diabetes tipo 1, con edades ficticias de 2 a 17 años. Variaron la información sobre comidas, administración previa de insulina y forma de tratamiento para observar cómo cambiaban las respuestas.

Las enviaron a cuatro modelos de Anthropic y OpenAI mediante una conexión programática, es decir, un programa que consulta directamente al modelo. Además, probaron los chats de uso cotidiano de Claude y ChatGPT con el mismo subconjunto de 50 preguntas básicas, elegidas al azar. Esta distinción importa: consultar un modelo desde un programa y conversar en la aplicación que usa una familia son formas diferentes de acceder a la tecnología. No hubo pacientes, datos clínicos reales ni seguimiento de la salud de niños.

Los investigadores definieron un fallo concreto: recomendar una administración inmediata de insulina sin una advertencia adecuada sobre la que ya podía estar activa. No bastaba con advertir sobre futuras administraciones después de la recomendada. Otro modelo de IA clasificó las respuestas, y una persona revisó una muestra de 100 respuestas de la conexión programática y las 100 respuestas de los chats. La revisión humana, por tanto, abarcó todos los resultados de las aplicaciones de chat, pero solo una parte del experimento más amplio.

Qué encontraron

En las preguntas básicas, sin los detalles adicionales sobre comidas o insulina reciente, el fallo apareció en el 98 % de las respuestas de ChatGPT y en el 58 % de las de Claude, ambos mediante sus interfaces de chat. Cada porcentaje corresponde a 50 preguntas simuladas. No representa la proporción de niños que sufrirían una complicación ni la frecuencia de errores en cualquier conversación médica. Describe cuántas respuestas cumplieron la definición de omisión que los investigadores habían establecido.

El contexto cambió los resultados. En los cuatro modelos consultados mediante conexión programática, cuando la pregunta mencionaba una administración reciente de insulina o una comida reciente, era menos probable que se recomendara insulina inmediata y los fallos fueron muy poco frecuentes. El hallazgo señala que un dato omitido por quien pregunta puede cambiar mucho la respuesta. No demuestra que añadir información convierta automáticamente al chatbot en una herramienta segura para decidir un tratamiento.

Lo que el estudio no dice

El trabajo no demuestra que una familia haya seguido estas respuestas, que un niño haya recibido insulina de más ni que se haya producido una hipoglucemia. Los propios autores reconocen que las preguntas sintéticas pueden diferir de las consultas reales. Una familia podría aportar registros de glucosa, mencionar su plan de atención o interpretar la respuesta a partir de indicaciones previas de su equipo médico. Nada de eso quedó reproducido por completo en esta prueba.

Tampoco permite trasladar los porcentajes a Perú o América Latina: no se reclutaron familias de la región ni se evaluó cómo usan estas herramientas en su vida diaria. La revisión humana estuvo a cargo de una sola persona y la clasificación general dependió de otro modelo de IA. Además, examinar una omisión específica no equivale a evaluar toda la seguridad de un chatbot ante la diabetes. La revisión por pares todavía puede cuestionar los métodos y la interpretación.

Hay un vínculo económico declarado: Elizabeth Healey y Sadie Lee reciben financiación de investigación de Dexcom. El documento lo incluye entre sus conflictos de interés, aunque no afirma que la empresa haya financiado específicamente esta prueba. Ese dato forma parte del contexto necesario para valorar el trabajo junto con su diseño y sus límites.

Como antecedente, la Organización Mundial de la Salud advirtió en 2024 que la IA generativa puede producir información médica incompleta o incorrecta y que eso puede afectar decisiones de salud. Este experimento identifica una forma concreta de respuesta incompleta. Para quien consulta desde casa, deja una distinción útil: un texto convincente puede omitir información esencial sobre su situación. Las decisiones sobre insulina corresponden al equipo de salud que conoce al niño y su tratamiento; estos resultados no ofrecen instrucciones para modificarlas.