La compañía de ciberseguridad alerta sobre diagnósticos erróneos, consejos imprecisos y exposición de datos sensibles cuando las personas consultan síntomas o documentos médicos en herramientas de inteligencia artificial
AquíNoticias Staff
Los chatbots de inteligencia artificial ya forman parte de la vida cotidiana. Responden rápido, están disponibles todo el día y suelen expresarse con seguridad. Pero cuando la consulta pasa de una duda general a síntomas, diagnósticos o tratamientos, el riesgo deja de ser tecnológico y entra al terreno de la salud pública.
ESET Latinoamérica advirtió sobre los riesgos de usar herramientas de inteligencia artificial generativa como si fueran sustitutos de un médico. La preocupación central no es solo recibir una respuesta equivocada, sino compartir información médica altamente sensible con sistemas cuyas reglas de privacidad pueden ser distintas a las de un hospital o consultorio.
“El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital”, señaló Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.
El tema crece en un contexto donde muchas personas recurren primero a internet o a una herramienta de IA antes de decidir si deben acudir a consulta. Esa práctica puede parecer útil para ordenar preguntas, entender términos médicos o preparar una conversación con profesionales de la salud. El problema aparece cuando la respuesta de una máquina se toma como diagnóstico.
Un estudio de la Universidad de Oxford, publicado en Nature Medicine, evaluó si los modelos de lenguaje podían ayudar a personas del público general a identificar condiciones médicas y decidir qué hacer frente a distintos escenarios de salud. El trabajo incluyó 1,298 participantes y encontró dificultades importantes para que los usuarios distinguieran entre consejos útiles y respuestas incorrectas.
La doctora Rebecca Payne, del Departamento Nuffield de Ciencias de Atención Primaria de la Universidad de Oxford, advirtió que la IA “no está lista para asumir el rol del médico” y que preguntar a un modelo de lenguaje sobre síntomas puede generar diagnósticos erróneos o no reconocer cuándo se requiere atención urgente.
La segunda alerta está en la privacidad. De acuerdo con ESET, subir resultados de laboratorio, historiales clínicos, nombres, datos de seguros o números de paciente puede abrir la puerta a que esa información sea almacenada, utilizada para entrenamiento, compartida con terceros o expuesta en caso de brechas de seguridad.
La información médica es especialmente valiosa para ciberdelincuentes porque puede usarse durante largos periodos para fraudes, extorsiones, suplantación de identidad o reclamaciones falsas ante seguros. Por eso, la compañía recomienda reducir al mínimo los datos compartidos y revisar con cuidado cómo cada servicio maneja la información.
ESET también aconseja evitar chatbots de uso general para consultas médicas delicadas, verificar si el servicio explica sus políticas de datos, desactivar funciones de entrenamiento o historial cuando sea posible, y no subir documentos sensibles sin entender antes cómo serán tratados.
La conclusión no es prohibir el uso de IA en salud, sino ubicarla en su lugar correcto. Puede servir para preparar preguntas, explicar conceptos o acompañar una búsqueda inicial de información. Pero no debe sustituir la consulta médica, el diagnóstico profesional ni la atención urgente cuando existen síntomas de alarma.
En salud, una respuesta segura no siempre es una respuesta correcta. Y cuando se trata del cuerpo, la privacidad y la vida, la tecnología debe ayudar a decidir mejor, no reemplazar el criterio médico.
