Un artículo reciente publicado en Nature analizaba los resultados de un sistema de IA basado en ChatGPT diseñado para imitar el proceso científico de análisis de datos y generación de informes científicos a partir de cero. Los resultados fueron impresionantes y preocupantes a la vez, y sugieren al menos dos formas de mejorar las herramientas de IA generativa:
- Diseñar el sistema de IA para incorporar la evaluación de la novedad y la validez de los resultados a partir de los conocimientos existentes.
- Proporcionar transparencia sobre el funcionamiento del sistema de IA para permitir la comprobación y repetición de los resultados comunicados.
Solicitar a la IA que evalúe la novedad de los resultados generados para garantizar que el sistema de IA continúe más allá de la producción de la primera solución o idea trivial.
El sistema de IA generativa mencionado en Nature produjo un manuscrito bien redactado basado en un análisis sólido de un conjunto de datos. El problema fue que el manuscrito afirmaba que «comer más fruta y verdura y hacer ejercicio está relacionado con un menor riesgo de diabetes» como un hallazgo que «aborda una laguna en la literatura», a pesar de que este hallazgo es muy conocido.
El sistema de IA generativa descrito fue diseñado para imitar el proceso científico, permitiéndole explorar datos, determinar el objetivo del estudio, analizar los datos en función del objetivo del estudio y preparar un informe. El sistema incluso incluía la revisión del texto inicial para imitar el proceso de revisión científica por pares. Sin embargo, la parte de revisión de los resultados del sistema de IA necesitaba una evaluación más profunda de los resultados, teniendo en cuenta los conocimientos existentes, para determinar su novedad y validez, lo cual es una parte integral de la revisión científica por pares.
En consecuencia, el sistema de IA generativa puede mejorarse aún más induciéndolo a comparar los resultados iniciales con la bibliografía existente, realizar una exploración más profunda de los datos y generar nuevas hipótesis si los resultados iniciales ya se conocen o no son válidos. Será interesante ver si los sistemas de IA pueden ayudar a acelerar este proceso iterativo y laborioso de resolución de problemas, tan familiar para científicos y abogados por igual.
La transparencia del sistema de IA es esencial para proporcionar resultados comprobables y repetibles.
Una hipótesis científica debe poder comprobarse y los resultados deben poder repetirse. Por consiguiente, los investigadores responsables de este estudio destacaron que el proceso detallado y el código utilizado por el sistema de IA para explorar los datos, desarrollar los objetivos del estudio, analizar, interpretar y comunicar los resultados se incluyen en el artículo generado, de modo que cualquiera pueda comprender y repetir el proceso basado en IA que dio lugar al artículo publicado.
Diseñar sistemas de IA mejorados que imiten el proceso científico para acelerar la resolución de problemas.
La capacidad de la IA para explorar rápidamente grandes conjuntos de datos e identificar patrones significativos sugiere que los sistemas de IA pueden ser beneficiosos para generar nuevas ideas para resolver problemas que serían difíciles de identificar solo para los seres humanos. Sin embargo, este proceso debe incorporar la evaluación de la creatividad y la validez de los resultados generados por la IA, teniendo en cuenta los conocimientos existentes, para garantizar que el sistema de IA continúe más allá de la producción de la primera solución o idea trivial.
Un par de científicos ha elaborado un artículo de investigación en menos de una hora con la ayuda de ChatGPT, una herramienta basada en inteligencia artificial (IA) que puede comprender y generar textos similares a los humanos. El artículo era fluido, perspicaz y presentaba la estructura esperada para un artículo científico, pero los investigadores afirman que hay muchos obstáculos que superar antes de que la herramienta pueda ser realmente útil.
Ver artículo de referencia
