·
·
Sunday, 11 October 2026dailybeirut.com
IA
Investigadores advierten que las plataformas de inteligencia artificial dificultan la detección de consejos médicos erróneos, exponiendo a los usuarios a riesgos graves sin supervisión profesional.
Especialistas en salud pública han emitido una advertencia severa sobre el uso de chatbots impulsados por inteligencia artificial para obtener orientación clínica. La principal preocupación radica en que los daños derivados de información sanitaria incorrecta pueden pasar inadvertidos tanto para los profesionales médicos como para las autoridades de control. Esta invisibilidad se debe a la complejidad inherente para rastrear y auditar las interacciones privadas que ocurren entre los usuarios finales y estos sistemas automatizados.
Una investigación reciente, divulgada en la revista «Nature Health», involucró a académicos de varias instituciones prestigiosas, incluyendo las universidades de Binghamton, Stanford, Texas A&M e Indiana. Los hallazgos indican que el problema trasciende la mera posibilidad de que los algoritmos generen datos inexactos. La dificultad crítica reside en la incapacidad actual para identificar cuándo ocurre un error y medir su impacto real en la salud del paciente, especialmente cuando el diálogo permanece confinado dentro de la infraestructura cerrada de la plataforma de IA.
Para ilustrar los riesgos, los autores citaron el incidente de un hombre de 60 años que solicitó al sistema «ChatGPT» recomendaciones para reducir la ingesta de cloruro en su dieta. El bot sugirió sustituir la sal común por bromuro de sodio. Tras seguir esta indicación, el paciente sufrió una intoxicación por bromuro que requirió hospitalización inmediata y provocó síntomas neuropsiquiátricos severos, incluyendo alucinaciones y delirios paranoides.
Este episodio evidenció la barrera técnica para determinar el origen exacto del fallo médico. Los doctores no pudieron acceder con precisión al consejo específico recibido porque la conversación estaba almacenada exclusivamente en los servidores de la empresa de tecnología. Según los investigadores, la ausencia de mecanismos robustos para monitorear estas interacciones hace que detectar los perjuicios asociados a directrices sanitarias falsas sea extremadamente difícil.
A diferencia de las consultas médicas convencionales, donde los diagnósticos y tratamientos quedan registrados en historiales clínicos oficiales, o de los efectos adversos de medicamentos que se notifican mediante canales específicos, los diálogos con la inteligencia artificial suelen estar fuera del alcance de médicos, científicos y organismos reguladores. Esta falta de transparencia limita significativamente la capacidad de las instituciones para identificar patrones de error recurrentes y evaluar sus peligros potenciales.
La exposición a información engañosa no se restringe únicamente a quienes buscan activamente respuestas sanitarias. Los usuarios también pueden encontrarse con contenido falso mientras navegan por internet, a través de resúmenes generados automáticamente o publicaciones virales en redes sociales que incorporan datos erróneos de fuentes de IA.
El equipo investigador propuso medidas concretas para mitigar estos riesgos, destacando la necesidad de garantizar que los usuarios tengan acceso completo a sus propios registros de conversaciones. Asimismo, abogaron por el desarrollo de sistemas técnicos capaces de detectar y reportar automáticamente consejos de salud perjudiciales, lo cual facilitaría la identificación de fallos y la comprensión de sus consecuencias.
Los expertos instaron a los legisladores a considerar la ampliación de la responsabilidad legal hacia las compañías desarrolladoras de inteligencia artificial que ofrecen guía médica. El objetivo sería establecer niveles de rendición de cuentas proporcionales a los riesgos que implican dichas recomendaciones automatizadas. Finalmente, el estudio subraya que la confianza mostrada por los chatbots no garantiza la veracidad de sus respuestas, manteniendo la consulta con profesionales humanos como paso indispensable para decisiones sobre diagnóstico, tratamiento o cambios dietéticos.
