Aurora: El primer modelo a gran escala de la atmósfera

Aurora: El primer modelo de IA a gran escala de la atmósfera

Cuando la tormenta Ciarán azotó el noroeste de Europa en noviembre de 2023, dejó un rastro de destrucción.

El sistema de bajas presiones asociado a la tormenta Ciarán estableció nuevos récords en Inglaterra, convirtiéndola en un fenómeno meteorológico excepcionalmente raro. La intensidad de la tormenta sorprendió a muchos, puso de manifiesto las limitaciones de los actuales modelos de predicción meteorológica y subrayó la necesidad de contar con previsiones más precisas ante el cambio climático. Mientras las comunidades lidiaban con las consecuencias, surgió la pregunta urgente: ¿Cómo podemos anticiparnos y prepararnos mejor para estos fenómenos meteorológicos extremos?

Un estudio reciente de Charlton-Perez et al. (2024) subraya las dificultades a las que se enfrentan incluso los modelos de predicción meteorológica más avanzados para captar la rápida intensificación y las velocidades máximas del viento de la tormenta Ciarán. Para ayudar a resolver esos problemas, un equipo de investigadores de Microsoft desarrolló Aurora, un modelo de base de IA de vanguardia que puede extraer valiosos conocimientos de grandes cantidades de datos atmosféricos. Aurora presenta un nuevo enfoque de la predicción meteorológica que podría transformar nuestra capacidad de predecir y mitigar los efectos de fenómenos extremos, incluida la capacidad de anticipar la dramática escalada de un fenómeno como la tormenta Ciarán.

Aurora is a 1.3 billion parameter foundation model for high-resolution forecasting of weather and atmospheric processes. Aurora is a flexible 3D Swin Transformer with 3D Perceiver-based encoders and decoders. At pretraining time, Aurora is optimized to minimize a loss on multiple heterogeneous datasets with different resolutions, variables, and pressure levels. The model is then fine-tuned in two stages: (1) short-lead time fine-tuning of the pretrained weights and (2) long-lead time (rollout) fine-tuning using Low Rank Adaptation (LoRA). The fine-tuned models are then deployed to tackle a diverse collection of operational forecasting scenarios at different resolutions.

La eficacia de Aurora reside en su entrenamiento en más de un millón de horas de diversas simulaciones meteorológicas y climáticas, lo que le permite desarrollar una comprensión exhaustiva de la dinámica atmosférica. Esto permite al modelo destacar en una amplia gama de tareas de predicción, incluso en regiones con escasez de datos o escenarios meteorológicos extremos. Al funcionar con una alta resolución espacial de 0,1° (aproximadamente 11 km en el ecuador), Aurora capta detalles intrincados de los procesos atmosféricos, proporcionando previsiones operativas más precisas que nunca, y a una fracción del coste computacional de los sistemas numéricos tradicionales de predicción meteorológica. Estimamos que la velocidad de cálculo que Aurora puede aportar con respecto al sistema de predicción numérica de última generación Integrated Forecasting System (IFS) es de ~5.000 veces.

Más allá de su impresionante precisión y eficacia, Aurora destaca por su versatilidad. El modelo puede predecir una amplia gama de variables atmosféricas, desde la temperatura y la velocidad del viento hasta los niveles de contaminación atmosférica y las concentraciones de gases de efecto invernadero. La arquitectura de Aurora está diseñada para manejar entradas heterogéneas de patrón oro y generar predicciones a diferentes resoluciones y niveles de fidelidad. El modelo consiste en un transformador Swin 3D flexible con codificadores y decodificadores basados en perceptor, lo que le permite procesar y predecir una serie de variables atmosféricas en todo el espacio y niveles de presión. Mediante el preentrenamiento en un amplio corpus de datos diversos y el ajuste en tareas específicas, Aurora aprende a captar patrones y estructuras intrincados en la atmósfera, lo que le permite sobresalir incluso con datos de entrenamiento limitados cuando se está ajustando para una tarea específica.

Un cambio de paradigma en la modelización del sistema terrestre

Las implicaciones de Aurora van mucho más allá de la predicción atmosférica. Al demostrar el poder de los modelos de base en las ciencias de la Tierra, esta investigación allana el camino para el desarrollo de modelos integrales que abarquen todo el sistema terrestre. La capacidad de los modelos de base para sobresalir en tareas posteriores con datos escasos podría democratizar el acceso a información meteorológica y climática precisa en regiones con datos escasos, como los países en desarrollo y las regiones polares. Esto podría tener repercusiones de gran alcance en sectores como la agricultura, el transporte, la obtención de energía y la preparación ante catástrofes, permitiendo a las comunidades adaptarse mejor a los retos que plantea el cambio climático.

A medida que evoluciona el campo de la predicción medioambiental basada en la IA, esperamos que Aurora sirva de modelo para futuras investigaciones y desarrollos. El estudio subraya la importancia de contar con diversos datos de preentrenamiento, escalado de modelos y arquitecturas flexibles a la hora de construir modelos básicos potentes para las ciencias de la Tierra. Con los continuos avances en recursos computacionales y disponibilidad de datos, podemos imaginar un futuro en el que modelos básicos como Aurora se conviertan en la columna vertebral de los sistemas operativos de predicción meteorológica y climática, proporcionando información oportuna, precisa y práctica a los responsables de la toma de decisiones y al público de todo el mundo.

¿Quieres saber más sobre la inteligencia artificial de Microsoft? En DQS/ te asesoramos. ¿Por qué no nos preguntas cómo podemos ayudarte?

Información basada la publicación de un grupo de investigadores de Microsoft: «Aurora, a cutting-edge AI foundation model that can extract valuable insights from vast amounts of atmospheric data» y «Introducing Aurora: The first large-scale foundation model of the atmosphere«.

Publicaciones Similares

¿Te ha parecido interesante? ¿Tienes dudas sobre el contenido?
Para cualquier pregunta ponte en contacto conmigo.