Ocurrenseme moitas derivadas disto, ningunha boa.

El Sergas lanza un chat de IA conectado al historial del paciente: «¿Tengo que partir la pastilla?»
:farodevigo: farodevigo.es/galicia/2025/11/

@fedello
Conozco este proyecto desde muy cerca. En los proyectos pilotos la recepción por los médicos ha sido muy positiva y se que en algunos casos este sistema salvó vidas.

Ahora, que lo pongan en las manos de los pacientes ya me parece mucho más peligroso.

Es verdad que los LLMs no aciertan siempre y por lo tanto no son seguros, pero la verdad es que yo no me fío mucho más de los médicos: he visto varias ocasiones en que el chatbot les corrigió sobre cosas básicas y muy importantes.

@rastinza @fedello @ifrit Se os pacientes interactuan directamente có LLM e falla, quen vai detectar esos casos? Quen se vai facer responsable?

Na miña opinión, se tes a pésima idea de usar LLM para misións críticas sempre ten que haber un experto humano supervisando.

Sign in to participate in the conversation
Qoto Mastodon

QOTO: Question Others to Teach Ourselves
An inclusive, Academic Freedom, instance
All cultures welcome.
Hate speech and harassment strictly forbidden.