Integrantes de iHEALTH participaron de la conferencia anual de la Association for Computational Linguistics (ACL)
El Dr. Denis Parra, investigador principal de iHEALTH; Diego Campanini, investigador joven del instituto; Oscar Loch y Pablo Messina, estudiantes de doctorado UC, formaron parte del evento que se realizó en Bangkok, Tailandia.
La 62nd Annual Meeting of the Association for Computational Linguistics (ACL) de este año tuvo como objetivo reflexionar y estimular el debate sobre la ciencia abierta y la investigación en el procesamiento del lenguaje natural (NLP) reproducible, además de apoyar el movimiento del software de código abierto.
Los integrantes del Instituto Milenio iHEALTH se presentaron en la conferencia anual para mostrar sus trabajos recientes en torno al uso de NLP para la generación de informes de radiología.
Pablo Messina fue el primero en presentar el trabajo que fue publicado en el libro de la conferencia: “Extracting and Encoding: Leveraging Large Language Models and Medical Knowledge to Enhance Radiological Text Representation”.
En un enfoque innovador para mejorar la representación en el aprendizaje profundo en medicina, el trabajo se desarrolló un marco de dos etapas que extrae declaraciones factuales de alta calidad de informes radiológicos en texto libre. Este marco incluye un "Extractor de Hechos" que utiliza modelos de lenguaje grande (LLMs) para identificar datos específicos del dominio, y un "Codificador de Hechos" basado en un modelo BERT, que mejora la representación del texto utilizando esos datos. Además, se introdujo una nueva métrica basada en embeddings (CXRFEScore) que demostró ser más robusta y efectiva que las métricas existentes, mejorando la evaluación de sistemas de generación de texto en radiología y superando métodos actuales en tareas clave.
Diego Campanini presentó el trabajo “In-context Learning and Finetuning of a Large Multimodal Model for Radiology Report Generation”, sobre la generación de informes radiológicos a gran escala, destacando el uso del modelo LLaVA, que combina un codificador visual, un conector de visión y lenguaje, y un modelo de lenguaje grande. Al enriquecer las entradas con texto generado por un modelo más simple, lograron mejorar en 4 de 5 métricas clave. Además, detallaron configuraciones arquitectónicas, estrategias de ajuste fino y configuración de datos para optimizar los resultados.
Por otro lado, Oscar Loch y Pablo Messina mostraron sus resultados en el póster “Template Based Report Generation”, en que presentaron otra estrategia basadas en plantillas para la generación de informes radiológicos a gran escala, utilizando predicciones de clasificadores de imágenes de múltiples etiquetas como entrada. Esta técnica logró una puntuación F1-RadGraph de 19.42, aunque se observaron discrepancias entre las métricas de clasificación y la métrica F1-CheXbert, lo que sugiere posibles limitaciones en la captura de etiquetas por parte de esta última. El enfoque subraya la necesidad de mejorar las métricas de evaluación para reflejar con mayor precisión la calidad de los informes generados.
Acerca de la instancia, el Dr. Denis Parra mencionó: “Excelente workshop y sesión de posters, nos vamos con varias lecciones, contactos nuevos y trabajo por hacer para avanzar nuestra investigación en IA + Salud”.
