La inteligencia artificial es una herramienta cada vez más utilizada en el campo de la medicina, en particular en la investigación biomédica.
Una de las últimas innovaciones en este campo es BioGPT, un modelo de lenguaje generativo que ha sido entrenado en millones de artículos científicos y que permite la creación de texto coherente y semánticamente plausible a partir de preguntas o instrucciones dadas. A pesar de las promesas que ofrece, el lanzamiento de este modelo ha suscitado preocupaciones sobre su precisión y seguridad, así como su uso potencial para la generación de información errónea y la propagación de la desinformación.
¿Qué es BioGPT?
BioGPT es un modelo de lenguaje natural desarrollado por Microsoft que utiliza aprendizaje profundo y ha sido entrenado con una gran cantidad de artículos científicos para generar texto relacionado con la biomedicina. Es capaz de responder preguntas y crear texto coherente a partir de instrucciones dadas, lo que lo hace especialmente útil para la investigación en este campo.
¿Qué preocupaciones genera BioGPT?
A pesar de las ventajas que ofrece BioGPT, su lanzamiento ha generado preocupaciones sobre su precisión y seguridad. Una de las principales preocupaciones es que el modelo podría ser utilizado para generar información errónea, lo que podría tener consecuencias graves en la investigación biomédica y en la salud de las personas. También existe la preocupación de que el modelo pueda ser utilizado por actores malintencionados para propagar la desinformación y la información errónea.
¿Qué errores ya se han detectado?
Si bien ha demostrado una gran capacidad para producir texto coherente y relevante, también ha generado respuestas inexactas o incluso erróneas en algunas situaciones. A continuación se presentan algunos ejemplos:
– En una sección de un estudio publicado por el equipo de BioGPT, la herramienta generó una respuesta incorrecta al preguntarle sobre un tratamiento para COVID-19. En lugar de dar una respuesta precisa, BioGPT sugirió el uso de hidroxicloroquina, una droga que se popularizó durante la pandemia, pero que ha sido descartada por la comunidad científica como un tratamiento efectivo.
– En otro caso, BioGPT generó una respuesta que sugiere que las personas pueden contraer el VIH a través de la saliva, cuando en realidad el VIH no se puede transmitir de esta manera.
– En otro ejemplo, BioGPT generó una respuesta que sugiere que el ser humano puede respirar dióxido de carbono, cuando esto es falso. El dióxido de carbono es un gas que debe ser expulsado del cuerpo para mantener una buena salud.
Es importante tener en cuenta que BioGPT se entrena en grandes conjuntos de datos y aprende de patrones y correlaciones en esos datos, lo que significa que sus respuestas son tan precisas como los datos que se le proporcionan. Por lo tanto, es importante evaluar cuidadosamente las respuestas generadas por la herramienta y cuestionar cualquier respuesta que parezca inexacta o engañosa.
¿Cuáles son los beneficios de BioGPT?
A pesar de las preocupaciones generadas por BioGPT, este modelo también ofrece muchos beneficios potenciales. En particular, el modelo podría ser utilizado para acelerar la investigación en biomedicina y para ayudar a los investigadores a encontrar nuevas soluciones para enfermedades y trastornos. También podría ser utilizado para mejorar la atención médica y para ayudar a las personas a tomar decisiones informadas sobre su salud.
¿Cuál es el futuro de la IA en la medicina?
La IA es una herramienta cada vez más utilizada en la medicina, y se espera que su uso aumente en los próximos años. La IA ya se utiliza en la investigación biomédica, en el diagnóstico y tratamiento de enfermedades, en la atención al paciente y en la gestión de los datos médicos. En el futuro, se espera que la IA desempeñe un papel cada vez más importante en la medicina y en la atención sanitaria en general.
Como veis, BioGPT es un modelo de lenguaje natural que ofrece una gran cantidad de ventajas para la investigación biomédica y la atención sanitaria en general. Sin embargo, su lanzamiento ha generado preocupaciones sobre su precisión y seguridad, lo que destaca la necesidad de un enfoque cuidadoso y responsable en su desarrollo y uso.
Enlace: academic.oup.com