基于Spectral Graph Wavelet Transform的图卷积神经网络（上篇） 原文链接：https://zhuanlan.zhihu.com/p/62300527

（写在前面：由于这方面的内容，楼主在网上并没有看到有存在相关的中文资料，英文资料也零零碎碎的。所以才起了填补这个空白的念头，以下的内容均是在阅读了相当数量的资料后写的，加进去很多资料中跳跃省略的细节的解释，也对其中的数学推导进行了补充和勘误。本文并不是翻译性质的文章，个人觉得算是满满的干货吧，但毕竟作者水平有限，疏漏在所难免，希望大家能给予指正，共同完善我们的知识分享。更希望本文能给大家多多少少带...

GNN（图神经网络）一级目录二级目录三级目录 一级目录 二级目录 三级目录

时空异质性主要关注时空数据在分布上的不均匀性和复杂性，反映了不同空间位置或时间点上变量的特征或关系的显著差异。时空非平稳性则关注时空数据的统计特征随时间和空间的变化情况，要求我们在分析和建模时必须考虑这种变化。这两个概念在时空数据分析和建模中具有重要作用，对于揭示数据中的复杂模式和关系具有重要意义。图的拓扑结构是指图中各元素（如顶点、边）之间的连接关系，而不考虑元素在几何空间中的具体位置或形状。在图论中，一个图（Graph）是由顶点（Vertex）和边（Edge）组成的集合，其中边连接两个顶点。

介绍了图信号处理GSP的matlab工具箱gspbox的功能/下载/导入/使用指导。

【计算机视觉】在计算机视觉里，传统卷积已经彻底输给Transformer了吗？

上一篇文章介绍了论文提出的图深度学习面临的问题和GRNN的部分，接下来这篇文章将要介绍论文提到的GCNs的部分。这一部分作者总结了许多前者提出的神经网络，有些类似有些做了改进，本文就进行相应的详略分配，不一一详解。 要了解GCN，首先要搞清楚什么是图卷积。卷积的操作想必对机器学习有所了解的读者再熟悉不过了，但是图卷积又是什么。这个部分笔者结合了论文和网上一些大神写的见解做了个总体的汇总。这里非常推荐阅读下面这篇文章，这篇文章深入浅出很好地解释了图傅里叶变换。 图傅里叶变换 - 知乎 (zhihu.com

在深度学习中，看到很多人说CNN是架构，也有人说CNN是层。同时，也看到很多人说Transformer是架构，但有人说Transformer是层......我去了解了一下，卷积神经网络（CNN）和Transformer这两个术语既可以指代整个网络架构，也可以指代网络中的单独层，具体取决于上下文。

摘要：本文提出基于提升方案的双正交可调小波单元(LS-BiorUwU)，突破传统小波的正交性与滤波器长度限制，有效解决CNN池化层的高频细节丢失问题。通过2阶提升步构建的双正交滤波器在CIFAR-10和DTD数据集分类任务中分别取得2.12%和9.73%的准确率提升，在MVTecAD异常检测任务中SegAUROC达97.21%。该单元兼容ResNet架构，计算复杂度与标准池化相当，为高频敏感任务提供了新的特征提取范式。

《WF-VAE：基于小波能量流的视频变分自编码器》提出了一种新型视频压缩方法，通过小波变换分解视频信号并优化能量流路径，显著提升了潜在视频扩散模型（LVDM）的效率。该方法创新性地结合多级小波分析和CausalCache机制，在保持重建质量（PSNR 35.87）的同时，将吞吐量提高2倍、内存消耗降低4倍。实验表明，WF-VAE有效解决了现有方法的高计算成本和潜在空间不连续问题，为大规模视频生成提供了高效解决方案。

链接：https://www.zhihu.com/question/531529633编辑：深度学习与计算机视觉声明：仅做学术分享，侵删作者：知乎用户https://www.zhihu.com/question/531529633/answer/2473781572是，输得很惨，我现在一看到面试者对Transformer一脸热情过度的样子都有点PTSD了前面波尔德已经讲得很好了，Transform...

实现FCVIT，并迁移预训练模型

0 前言 通常，将GCN分为基于空间域spatial-based和基于谱域spectral-based."所谓的两类其实就是从两个不同的角度理解"[4]，这也是我对两类的理解，因为从公式上看并没有较大区别，只是细节和适用场景不同，比如，图是否有向等。 基于空间域的GCN关键在有aggregate的概念，将中心节点表示和相邻节点表示进行聚合，具体实现是用neighbor feature更新下一层的hidden state。代表模型有：NN4G(neural network for graph)、DCNN.

1、Transform简介 Transformer中抛弃了传统的CNN和RNN，整个网络结构完全是由Attention机制组成。更准确地讲，Transformer由且仅由self-Attenion和Feed Forward Neural Network组成。一个基于Transformer的可训练的神经网络可以通过堆叠Transformer的形式进行搭建，作者的实验是通过搭建编码器和解码器各6层，总共12层的Encoder-Decoder，并在机器翻译中取得了BLEU值得新高。 2、Transform结构

cvpr2019 accepted papers title（官方分类，需科学前往） Github论文汇总链接（欢迎star) 论文PDF下载（更新中，提取码：osvy） 论文解读汇总 目录：(也欢迎大家推荐自己的CVPR2019文章，以下篇幅较大，分类如有错误欢迎留言指出和补充谢谢~） 检测38分割50分类、识别19跟踪20人脸12人体姿态估计/手...

课程八学习笔记：卷积和Transformer结合的ViT1. 回顾Swin Transformer2. 卷积和Transformer结合——MobileViT3. 实践Swin Transformer4. 实践数据加载Dataloader 1. 回顾Swin Transformer 经过shift的矩阵，计算注意力 2. 卷积和Transformer结合——MobileViT Conv：刻画局部——Local Transformer：刻画全局——Global 11的卷积：调整我们的Cha

谱卷积的GNN原理解释（Spectral Network） 写在最前面：基于谱分解的GNN的思想来自Kipf大佬的论文： Semi-supervised classification with graph convolutional networks， 后边许多文章都从这篇文章获得了灵感。但是由于这篇文章的理解需要建立在很深的数学功底之上，包括中科院的博士大佬在内都没有很透彻地说明以下几个问题： ...

https://zhuanlan.zhihu.com/p/36070173

https://zhuanlan.zhihu.com/p/34897270