OpenAI ha anunciado que ChatGPT Health ya está disponible para todos los usuarios mayores de 18 años, en todos los planes incluido el gratuito. Aunque la noticia suena prometedora, desde una perspectiva técnica y empresarial conviene analizar las implicaciones reales. No se trata solo de una nueva funcionalidad conversacional: implica manejar datos sensibles de salud, algo que exige estándares de privacidad y fiabilidad muy superiores a los de un chatbot genérico. Mi escepticismo no es gratuito: he visto cómo la velocidad de publicación en el sector de la inteligencia artificial a menudo sacrifica la madurez necesaria para entornos críticos.
El cambio más preocupante es el retroceso en la protección de la privacidad. Originalmente, OpenAI prometió que las conversaciones de salud no se usarían para entrenamiento y estarían aisladas del resto. Ahora han modificado los términos: solo se consideran conversaciones protegidas aquellas en las que el usuario conecta explícitamente sus registros médicos o datos de Apple Health. Esto significa que si simplemente describes un síntoma sin adjuntar documentación, esa conversación no goza de las mismas garantías. En la práctica, para obtener privacidad real tienes que compartir más datos, no menos. Una paradoja peligrosa que cualquier empresa de desarrollo de software serio evitaría. En Q2BSTUDIO sabemos que la ciberseguridad y la transparencia son pilares innegociables cuando se maneja información sensible.
OpenAI presume de su evaluador HealthBench para afirmar que ChatGPT supera a los médicos reales. Sin embargo, un análisis técnico revela limitaciones graves. HealthBench utiliza rúbricas diseñadas por médicos para calificar respuestas cortas y aisladas, pero no simula conversaciones reales donde los pacientes cambian de tema, usan expresiones coloquiales o presentan condiciones raras. Tampoco evalúa la continuidad asistencial ni el manejo de múltiples especialistas. Además, las propias rúbricas muestran duplicidades sospechosas: una misma respuesta recibe puntos por 'aconsejar buscar atención de emergencia' y luego más puntos por 'indicar que contacte con servicios de emergencia'. Parece más un truco para inflar puntuaciones que una evaluación rigurosa. En el mundo del desarrollo de aplicaciones a medida, cualquier sistema de métricas debe ser validado con datos reales y escenarios de uso variados.
Más allá de los tests controlados, los casos de daño real son innegables. Una demanda reciente de un pastor que casi muere tras seguir consejos de ChatGPT-4o sobre una embolia pulmonar; otras demandas relacionan el chatbot con suicidios y psicosis. La organización médica ECRI ya ha catalogado el mal uso de chatbots de IA como el principal riesgo tecnológico sanitario para 2026. Esto no es una exageración: cuando una herramienta genera respuestas con apariencia de autoridad, el usuario tiende a confiar ciegamente, sobre todo si el sistema dice haber 'conectado sus datos médicos'. La diferencia entre un asistente informativo y un sustituto médico es difusa, y OpenAI no hace lo suficiente para marcarla.
Desde una perspectiva empresarial, el enfoque de OpenAI recuerda a las prisas por lanzar productos mínimamente viables sin la debida verificación. Frente a esto, empresas como Q2BSTUDIO apuestan por un desarrollo basado en necesidades reales, con ciclos de prueba exhaustivos y cumplimiento normativo (GDPR, HIPAA donde aplique). En lugar de depender de un modelo de lenguaje genérico para interpretar diagnósticos, lo sensato es combinar inteligencia artificial con arquitecturas cloud seguras (como AWS o Azure) y sistemas de Business Intelligence (Power BI) que permitan visualizar y auditar la información. La construcción de agentes IA especializados en salud requiere un diseño centrado en el dominio clínico, no simples prompts ajustados con rúbricas cuestionables.
OpenAI ofrece algunos consejos para mitigar riesgos: usar chats temporales, revisar los datos importados, desconectar cuentas con opción de borrado en 30 días, y exigir permiso cada vez que se acceda a los registros. Pero todo esto son parches sobre un problema de fondo. La empresa admite que 'sigue probando' las salvaguardas adicionales, lo que indica que no hay garantías sólidas. Si decides usar ChatGPT Health, hazlo con extrema precaución, entiende que no es un diagnóstico médico y nunca reemplaza el criterio de un profesional. Recuerda que, como dijo un experto en ciberseguridad: 'la privacidad no es una característica, es una responsabilidad'. Y en el ámbito sanitario, esa responsabilidad no puede delegarse en un chatbot sin supervisión humana.
En conclusión, la llegada de ChatGPT Health a todos los usuarios representa un avance en accesibilidad, pero también un riesgo calculado que OpenAI asume con demasiada ligereza. Las empresas que realmente entienden el sector salud saben que la tecnología debe ponerse al servicio del paciente, no al revés. Por eso, desde Q2BSTUDIO recomendamos explorar soluciones de BI y Power BI para la gestión de datos clínicos, plataformas en la nube con controles de acceso granulares, y agentes de IA entrenados con datasets específicos y validados por profesionales. Solo así se puede construir confianza en un ámbito donde un error cuesta vidas.
