rastinza @rastinza@qoto.org

@outis @salvari @fedello @delthia
Perdona, me había perdido este mensaje. Lo que se dice en ese noticia no es relacionado.
Lo que dice Microsoft es que los datos almacenados en Estados Unidos pueden ser revisados por el gobierno de Estados Unidos cuando lo pidan y me imagino con su iter burocratico.
En el mismo artículo se menciona una otra empresa que tiene data centers soberanos europeos. Estos son distintos porqué están completamente en Europa y todos los empleados que trabajan dentro del edificio tienen que tener ciudadanía europea. En ese caso claramente el gobierno de Estados Unidos no tiene un poder directo sobre la empresa.

No creo que Microsoft ofrezca data centers soberanos europeos. Aunque si otras empresas estadounidense, como por ejemplo Oracle.

@outis @delthia @salvari @fedello @ifrit
Hola, un manual sobre los fallos más probables en la práctica clínica, si es esto lo a qué te refieres, no existe. Existen manuales de buenas prácticas, pero esos solo valen por condiciones comunes, en general es el médico a decidir cual sea el tratamiento más adecuado para el paciente. No existe un manual tan preciso para cubrir todos los casos posibles.

Sobre la declaración del director de Microsoft, no la conozco. Me podrías proporcionar un enlace para ver de que se trata?

@delthia @salvari @fedello @ifrit
Sobre lo del tratamiento de los datos. No estoy muy seguro que una infraestructura del sergas sería más segura de una subcontratada.

Claro, la información no saldría del hospital - pero el Sergas no tiene mucha capacidad de cyber seguridad. No digo que sería necesariamente mal gestionada, pero el riesgo de que un ataque llegue a ese información sería más elevado comparado con una empresa especializada.

Ahora, los centros que se podrían evaluar son aprobados por la unión europea. En eso hay una normativa muy estricta. Todos los que trabajan en esos sitios tienen que ser ciudadanos europeos y ningún dato puede salir de ahí. Están monitoreados directamente por organismos europeos.
No quiero decir que sea completamente seguro, pero tampoco estamos hablando de enviarles datos de pacientes a OpenAI.

@delthia @salvari @fedello @ifrit
Yo también era muy poco en favor de la idea, y no me acaba de convencer.
Todavía he visto como trabajan muchos médicos; dudo que un sistema de este estilo pueda peorar como trabajan. La verdad que a menudo los tratamientos se escogen casi casualmente o por cual farmacéutica les ha invitado más a menudo a un chuletón.

El mayor riesgo es claramente que un médico se fie ciegamente de las respuestas del sistema y ponga un tratamiento solo basado en eso. Todavía, imaginate como actuaría ese mismo medico si no tuviera el sistema. O sea, esto solo puede ser peligroso en manos a un incompetente, y estoy bastante cierto que este sistema acierte más a menudo que no un médico incompetente.

En general, en los casos clínicos que hemos estudiado el sistema proporciona soluciones significativamente mejores a las de un médico joven y que a menudo se acercan a las proporcionadas por los mayores expertos a nivel nacional.

@fedello @delthia @salvari @ifrit
Si, esto es un problema. Imagino que quién hizo la entrevista no sabía de lo que estaba hablando.
No creo que se vaya a permitir que un sistema de este tipo sea utilizado por la población.

@delthia @fedello
La utilidad del sistema no deriva simplemente en tener la información organizada, si no también analizar el caso clínico y ayudar al médico en la toma de decisiones.

Seguramente tener la información mejor estructurada por el sistema sería muy útil, y puedo asegurar que ahora no está nada organizada. Ese sería una gran mejora del sistema.

La utilidad de este sistema es que puede ser utilizado por médicos que no son extremadamente expertos en una área para revisar un caso clínico y identificar un plan de tratamiento teniendo en cuenta posibles efectos adversos. Evidentemente un médico en esas condiciones después de diseñar tal plan tiene que consultar con otros médicos más expertos y revisar que el todo tenga sentido.

La necesidad de un sistema de este tipo deriva del problema que en el hospital hay pocos médicos y a menudo uno experto en una enfermedad tiene que ocuparse de otras de las cuales no es experto.
He visto ejemplos concretos en que el piloto de este proyecto ha salvado vidas.
Médico de guardia al cual llega una llamada de una paciente que se está muriendo; el médico no controla de esas cosas. Puso en el sistema los datos de la paciente y los síntomas y el sistema le dió unas posibles causas. Llamó a farmacia para saber los fármacos inmediatamente disponibles y el sistema le aconsejó el tratamiento y las dosis que administrar. Al tener todo el plan desarrollado el médico llamó a otro médico experto de la enfermedad en Coruña para confirmar que el plan fuese correcto.
Por lo que entiendo, sin haber este sistema el médico había hecho una diagnosis fallada y hubiera puesto un tratamiento ineficaz.

El problema se podría solucionar empleando un número adecuado de médicos, pero esto de momento no está sucediendo.

@delthia @salvari @fedello @ifrit
No estoy a lo tanto de los últimos desarrollos del proyecto.
Por donde quedé si que se iba a montar la infraestructura en el Sergas, de hecho yo mismo valoré específicas de servidores por montar en el CHUS a este propósito.
No se trata de entrenar modelos con datos de pacientes, si no de enviar datos de pacientes a los modelos, modelos que han sido entrenados sobre documentación médica.
Se que también se había valorado la hipótesis de utilizar servidores externos, de todas formas esto no sería un gran riesgo en respeto a la información de los pacientes dado que se utilizarían servidores soberanos europeos donde el acceso a los datos solo sería para el Sergas.

Claramente en este aspecto hay mucho control de la información. Seguramente es peor la seguridad informática del mismo hospital: si te vas por la tarde con un Pen Drive y lo insertas en un ordenador te puedes sacar lo que quieras sin mucho problema.

@salvari @fedello @ifrit
En esto estoy completamente de acuerdo.

@fedello
Conozco este proyecto desde muy cerca. En los proyectos pilotos la recepción por los médicos ha sido muy positiva y se que en algunos casos este sistema salvó vidas.

Ahora, que lo pongan en las manos de los pacientes ya me parece mucho más peligroso.

Es verdad que los LLMs no aciertan siempre y por lo tanto no son seguros, pero la verdad es que yo no me fío mucho más de los médicos: he visto varias ocasiones en que el chatbot les corrigió sobre cosas básicas y muy importantes.