Usando transformadores para prever explosões solares incrivelmente raras | NeuralNet IA

🇧🇷 O Que Isso Significa para o Brasil?

Com o propagação do ecossistema de IA no país e discussões sobre regulação (PL 2338/2023), avanços em perceptibilidade sintético, machine learning e automação impactam diretamente profissionais, startups e empresas brasileiras. Fique prudente a:

• 🎓 Capacitação profissional: Demanda por habilidades em IA cresce 3x ao ano no mercado brasílio
• ⚖️ Marco Regulatório: Proposta de lei sobre IA pode afetar desenvolvimento e uso de ferramentas
• 🏢 Adoção empresarial: Setores porquê saúde, jurídico e financeiro lideram implementação de IA no Brasil

Introdução (X-45)

a previsão muda fundamentalmente sempre que tentamos prever um evento muito vasqueiro. Devemos mudar fundamentalmente o que estamos modelando para focar nos eventos finais. Desde as métricas de desempenho do protótipo e definição de intuito até o protótipo final e as cabeças de saída do transformador, a previsão de eventos raros é difícil. Difícil, mas vale a pena.

As tempestades de Halloween de 2003 começaram porquê uma perturbação no Sol, uma única mancha escura que criou um dos eventos climáticos espaciais mais fortes da era dos satélites. Do final de outubro ao início de novembro, uma série de enormes regiões ativas agitaram-se no disco solar. Isso liberou explosões poderosas e nuvens de plasma magnetizado em direção à Terreno. Oriente evento apresentou um toque estético único com implicações em ondas de rádio.

Os satélites funcionaram mal, o GPS e o rádio foram interrompidos e as companhias aéreas redirecionaram os voos polares. De tratado com a NOAA, as redes elétricas em todo o mundo foram afetadas, com algumas correntes superiores a 100 amperes, levando ao apagão de Malmö, na Suécia. Às 20h07 UT, uma queda de vigor atingiu a região, deixando aproximadamente 50.000 clientes sem eletricidade por 20 a 50 minutos.

O evento causou um choque internacional, saturando os sensores de raios X do GOES, de modo que o tamanho real da erupção solar só pôde ser calculado por meio de reconstrução. Frequentemente chamada de X-45, devido à sua magnitude, 450 vezes maior que a M-1, uma erupção solar de intensidade média. A tabela abaixo mostra a escala Richter da erupção.

O Problema da Predição

Um problema paradoxal das catástrofes é que, quanto mais catastróficas, mais raras tendem a ser. Pense em inundações, tempestades de neve e avalanches. Um evento que ocorre a cada 50 anos acontece apenas uma vez a cada 50 anos. Isso geralmente é algo bom, mas, devido à sua raridade, torna-se incrivelmente difícil de prever.

Existem diversos fatores que tornam a previsão de eventos raros um desafio particularmente interessante em aprendizado de máquina:

1. Nossos critérios para avaliação de modelos precisam mudar.
2. As funcionalidades precisam ser projetadas a partir de dados de magnetismo.
3. Crie um modelo de cauda para capturar especificamente eventos raros.
4. Combine o modelo de cauda com o modelo de distribuição completo usando um transformador.

Uma observação sobre a precisão, que geralmente é uma boa métrica para classificação binária. Poderíamos atingir 99% de precisão mesmo errando todas as erupções solares em 10.000 previsões, se tivéssemos apenas 100 erupções de grande magnitude. Poderíamos simplesmente chutar. Isso não acontecerá sempre.

Precisão = (10.000-100)/10.000 = 9.900/10.000 = 0,99 = 99%

Verdadeiros Positivos = 0

Os dados

Se você tem curiosidade em saber de onde vêm esses dados, saiba que todas as informações que temos sobre erupções solares provêm de uma camada do Sol completamente diferente daquela onde a erupção ocorre. Os dados que temos sobre erupções solares vêm da fotosfera, a primeira camada visível do Sol.

As erupções solares ocorrem na coroa solar e na cromosfera. Os dados são coletados pelo Observatório de Dinâmica Solar (SDO), uma espaçonave da NASA que observa continuamente o Sol para monitorar sua atividade, utilizando o Imageador Heliossísmico e Magnético (HMI).

Entrada do modelo

Felizmente, graças à NASA, a construção, o lançamento e a viagem do nosso satélite até o Sol já foram concluídos, e agora podemos nos concentrar na entrada do nosso modelo. Um magnetograma vetorial estima o vetor do campo magnético B. As primeiras observações vêm em duas formas:

Partindo desse ponto inicial, o patch de região ativa do Space Weather HMI realiza duas funções:

1. Localização
2. Engenharia de recursos

Significa selecionar regiões ativas no Sol (Localização) e calcular parâmetros magnéticos que descrevam melhor a estrutura solar e magnética (engenharia de características).

A lição importante aqui é que, para determinar a raridade do evento que estamos tentando prever, nos concentramos em coletar dados de locais onde é mais provável que ele ocorra. Utilizamos nossos dados iniciais de medição dos campos magnéticos e calculamos diferentes características, como:

Nossos dados de entrada tornam-se uma função do tempo e de características projetadas:

Se o nosso modelo usar as últimas 24 horas e 9 variáveis ​​predefinidas, nossa entrada seria…

Meta do Modelo

Já que estamos aqui, podemos refinar nossa meta. Definimos como a probabilidade de observar um evento de classe M-1 nas próximas 24 horas, dado o histórico magnético. Nesse caso, o histórico magnético seria todo o nosso conjunto de dados de entrada.

Mas existem muitas decisões de design implícitas que tomamos e que a tabela a seguir torna explícitas.

Note que existem muitas opções ao construir nosso alvo. Este é um problema importante ao comparar diferentes modelos. Vale ressaltar que simplesmente coletar mais dados não é necessariamente melhor, pois eventos que ocorreram em um passado mais distante tendem a ser preditores menos eficazes de eventos futuros. Isso introduz um problema de relação sinal-ruído em relação à sua janela de treinamento.

A métrica TSS

Para resolver o problema apresentado anteriormente, de ter um modelo com 99% de precisão e zero recall, introduzimos uma nova estatística chamada Estatística de Habilidade Verdadeira (TSS, na sigla em inglês), definida como a diferença entre a taxa de verdadeiros positivos e a taxa de falsos positivos. A TSS recompensa os verdadeiros positivos e penaliza os falsos positivos.

Criando um modelo de cauda

Devido à raridade das erupções solares, se utilizarmos o seguinte objetivo de risco, descobriremos que eventos comuns, nos quais não houve erupção solar, dominam o termo de perda. Eventos raros contribuem muito pouco, pois ocorrem com pouca frequência, embora sejam os mais relevantes para o que estamos tentando prever. O modelo pode se tornar muito eficiente na maior parte da distribuição, enquanto aprende muito pouco sobre os eventos extremos, que são os que nos interessam. É por isso que faz sentido considerar a personalização do modelo.

Podemos descrever o problema com mais precisão dizendo que nosso objetivo é ponderado pela frequência, o que significa que eventos frequentes dominam o termo de perda, enquanto eventos menos frequentes (raros) contribuem menos, embora seja exatamente isso que nosso modelo precisa aprender.

Assim, nosso modelo pode aprender principalmente com eventos raros. Escolhemos um limiar constante para uma variável contínua, como o fluxo de raios X suaves; qualquer coisa que meça a severidade das erupções solares pode funcionar. Definimos nosso alvo como a diferença entre o limiar e a variável de severidade da erupção observada e usamos apenas dados da cauda da distribuição .

Então, os dados que modelamos são:

Utilizando transformadores

Agora podemos combinar nosso modelo original e o modelo de cauda usando um transformador para obter uma solução mais robusta, que idealmente aprende o que acontece tanto abaixo do limiar para um evento raro quanto acima dele. Em outras palavras, gostaríamos que o modelo aprendesse a origem da função discreta, bem como a forma do risco excessivo definido pelo modelo de cauda. Para isso, podemos usar transformadores com diferentes cabeças. Um modelo pode começar com dados históricos magnéticos e codificá-los em uma representação h ; cabeças separadas podem estimar diferentes quantidades, como probabilidade de erupção solar, excedência da cauda de incerteza e sinal precursor.

O cabeçalho de classificação, que estima a probabilidade de nosso alvo ser um dado os nossos dados, é frequentemente treinado com a entropia cruzada binária, possivelmente ponderada para levar em conta o desequilíbrio de classes.

Podemos usar a Distribuição de Pareto Generalizada (DPG), que fornece um modelo compacto para os excessos (nossa distribuição de cauda). Aqui, σ controla a escala e ξ controla a intensidade da cauda. O transformador produz uma representação dos estados solares recentes ; h mapeia essa representação em parâmetros da DPG, de modo que diferentes histórias magnéticas implicam diferentes distribuições de cauda para uma região ativa (mancha solar).

O objetivo completo combina duas tarefas de previsão. O termo de classificação ensina o modelo a estimar se uma erupção solar ultrapassa o limite escolhido, enquanto o termo de cauda ensina-o a caracterizar a severidade excessiva após esse limite ter sido ultrapassado. Isso é importante porque o modelo não deve apenas aprender “erupção solar ou não”. Ele também deve aprender qual a magnitude que o evento pode atingir ao entrar na parte perigosa da distribuição.

Conclusão

Quando se trata de obter uma boa previsão para um evento muito raro usando um transformador, não basta simplesmente inserir os dados e minimizar a função de perda. Ao prever erupções solares, técnicas de localização e engenharia de recursos devem ser aplicadas aos dados. Em seguida, precisamos especificar um alvo para o modelo que possa distinguir entre eventos positivos e negativos. Devemos escolher uma métrica apropriada que recompense os verdadeiros positivos e penalize os falsos positivos. Além disso, devido ao grande desequilíbrio entre as classes, faz sentido criar um modelo de cauda que utilize a distribuição de Pareto generalizada para modelar as ocorrências acima de um determinado limiar. Essas técnicas e funções de perda podem ser usadas como diferentes cabeças de um transformador capaz de realizar tanto previsão quanto estimativa, e que também aprende a magnitude potencial de um evento ao entrar em uma região crítica da distribuição. O resultado disso é um desempenho preditivo aprimorado e um modelo melhor especificado.

---

📚 Leia Também no NeuralNet:

• 👉 Guia de Inteligência Artificial para Iniciantes
• 👉 Melhores Ferramentas de IA para Aumentar sua Produtividade
• 👉 Ética e Regulação de IA no Brasil: O Que Você Precisa Saber

⚠️ Aviso Importante: Oriente teor é exclusivamente para fins educacionais e informativos. Não constitui aconselhamento técnico, jurídico ou profissional. Tecnologias de IA evoluem rapidamente e podem apresentar limitações, vieses ou riscos. Sempre valide informações em fontes oficiais e use ferramentas de IA com responsabilidade e sátira.