As Redes Neurais de Gráficos surgiram como uma força transformadora em muitas aplicações da vida real, desde a gestão de riscos financeiros até a previsão de tráfego local. Portanto, não há dúvida de que muitas pesquisas têm se concentrado nas GNNs há muito tempo. Uma limitação importante do presente estudo, no entanto, é a sua dependência de dados – ao concentrar-se em paradigmas supervisionados e semissupervisionados, o poder da investigação depende da descoberta da verdade fundamental, um requisito que muitas vezes não é cumprido. Outra razão para a abundância de rótulos reais é a natureza inerente das próprias GNNs. Como um gráfico é uma abstração do mundo real, não é tão simples quanto um vídeo, uma imagem ou um texto, o que requer conhecimento e experiência especializados.
Com os desafios e custos crescentes de resolução de paradigmas de grafos supervisionados, os pesquisadores começaram a se orientar em direção à aprendizagem heterogênea não supervisionada. Ele funciona com base em informações compartilhadas entre visualizações gráficas aumentadas que são geradas pela manipulação de suas superfícies, arestas e recursos. Embora esta abordagem seja promissora e elimine a necessidade de rótulos, nem sempre é possível garantir que os rótulos e a semântica permaneçam inalterados após a expansão, o que prejudica bastante o desempenho dos gráficos. Para entender os efeitos nocivos da expansão, tomemos o exemplo de um nó. Pode-se adicionar ou remover nós de um gráfico existente, adicionando ruído ou removendo informações, sendo que ambos são prejudiciais. Portanto, os métodos de aprendizagem adversários existentes para gráficos estáticos podem não ser bons para gráficos dinâmicos. Este artigo discute pesquisas recentes que generalizam o aprendizado variável para gráficos dinâmicos.
Pesquisadores da Universidade Xi'an Jiaotong, na China, introduziram o CLDG, uma estrutura não supervisionada eficiente para aprendizagem contrastiva em gráficos dinâmicos, que realiza aprendizagem de representação em gráficos dinâmicos e de tempo contínuo. Ele resolve o problema de selecionar períodos como pares distintos ao usar aprendizado inverso em gráficos dinâmicos. CLDG é um algoritmo simples e altamente escalável, um crédito à sua simplicidade. Os usuários experimentam baixa complexidade de tempo e espaço e a oportunidade de escolher entre uma seleção de codificadores.
A estrutura proposta consiste em cinco componentes principais:
- Camada de amostra de visualização de intervalo de tempo
- codificador básico
- atividade de aprendizagem
- chefe de especulação
- função de perda diferente
A equipe de pesquisa primeiro gerou múltiplas visualizações a partir de gráficos dinâmicos contínuos usando o método de amostragem de visualização de intervalo de tempo. Aqui, a camada de amostragem óptica emite sinais transitoriamente persistentes. Eles então aprenderam as representações de recursos de nós e áreas usando um codificador distribuído ponderado, uma função de aprendizagem e um algoritmo de previsão distribuída ponderada. Os autores utilizaram métodos estatísticos como média, quantidade e resumo do desempenho de aprendizagem.
Um insight importante a discutir neste ponto é a dinâmica temporal da tradução. Sob isso, observa-se que independente do codificador utilizado para o treinamento, os rótulos de predição de um mesmo nó tendem a ser os mesmos em momentos diferentes. O artigo introduziu duas perdas diferentes de nível local e de nível global para manter a dinâmica temporal da tradução em ambos os níveis. Na dinâmica translacional de nível temporal, a semântica foi tratada como pares positivos no mesmo espaço entre durações, o que aproximou a representação do mesmo nó de nós diferentes. Em contraste, a perda de consistência global separou ainda mais diferentes nós e a mesma representação. Seguindo o acima exposto, os autores desenvolveram quatro técnicas diferentes de amostragem de tempo de observação para testar a seleção do intervalo de observação apropriado para diferentes pares. Essas estratégias diferiam em escala física e temporal e, portanto, tinham contextos semânticos diferentes.
O artigo validou o CLDG em sete conjuntos de dados de gráficos dinâmicos do mundo real e em todas as doze bases. O método proposto superou oito métodos não supervisionados de última geração e foi compatível com os quatro métodos semissupervisionados restantes. Além disso, em comparação com os métodos gráficos existentes, o CLDG reduziu os parâmetros do modelo em média 2.000 vezes e o tempo de treinamento em 130.
A conclusão: CLDG é uma estrutura simples e eficiente que integra aprendizagem discreta em gráficos dinâmicos. Ele usa mais informações temporais e alcança desempenho de última geração em técnicas de gráficos dinâmicos não supervisionados, enquanto compete com métodos menos supervisionados.
Confira eu Papel de novo Página GitHub. Todo o crédito deste estudo vai para os pesquisadores deste projeto. Além disso, não se esqueça de nos seguir Twitter e junte-se ao nosso Estação telefônica de novo LinkedIn Gracima. Não se esqueça de participar do nosso SubReddit de 60k + ML.
🚨 Tendências: LG AI Research Release EXAONE 3.5: Modelos de três níveis de IA bilíngue de código aberto oferecem seguimento de comando incomparável e insights profundos de conteúdo Liderança global em excelência em IA generativa….
Adeeba Alam Ansari está atualmente cursando um diploma duplo no Instituto Indiano de Tecnologia (IIT) Kharagpur, cursando B.Tech em Engenharia Industrial e M.Tech em Engenharia Financeira. Com profundo interesse em aprendizado de máquina e inteligência artificial, ele é um leitor ávido e uma pessoa curiosa. A Adeeba acredita firmemente no poder da tecnologia para capacitar a sociedade e promover o bem-estar através de soluções inovadoras impulsionadas pela empatia e uma compreensão profunda dos desafios do mundo real.
🧵🧵 [Download] Avaliação do relatório do modelo de risco linguístico principal (ampliado)
