Skip to content

Commit ce714d8

Browse files
RunsStudioRunsStudio
committed
Site updated: 2025-05-09 20:29:52
1 parent a13571f commit ce714d8

3 files changed

Lines changed: 34 additions & 34 deletions

File tree

‎2025/05/06/Graph WaveNet学习笔记/index.html‎

Lines changed: 17 additions & 17 deletions
Original file line numberDiff line numberDiff line change
@@ -26,21 +26,21 @@
2626
<meta property="og:site_name" content="Run&#39;s Studio">
2727
<meta property="og:description" content="【论文地址】：https:&#x2F;&#x2F;arxiv.org&#x2F;pdf&#x2F;1906.00121.pdf【代码地址】：github.com&#x2F;nnzhan&#x2F;Graph-WaveNet 论文摘要动机：时空图建模是分析时间关系和空间关系的重要任务，过去的方法大多数都是从固定的图结构上提取空间依赖性，假设实体之间的基本关系是预先确定的。但是，显式的图结构不一定反应真实的以来关系，而且由于数据中连接不完整">
2828
<meta property="og:locale" content="zh_CN">
29-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png">
30-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-1.png">
31-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-2.png">
32-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-3.png">
33-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-4.png">
34-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-5.png">
35-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-6.png">
36-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-7.png">
37-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-8.png">
38-
<meta property="og:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-11.png">
29+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png">
30+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-1.png">
31+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-2.png">
32+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-3.png">
33+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-4.png">
34+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-5.png">
35+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-6.png">
36+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-7.png">
37+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-8.png">
38+
<meta property="og:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-11.png">
3939
<meta property="article:published_time" content="2025-05-06T13:04:52.000Z">
40-
<meta property="article:modified_time" content="2025-05-09T12:27:07.228Z">
40+
<meta property="article:modified_time" content="2025-05-09T12:29:38.475Z">
4141
<meta property="article:tag" content="交通">
4242
<meta name="twitter:card" content="summary_large_image">
43-
<meta name="twitter:image" content="https://runsstudio.github.io/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png">
43+
<meta name="twitter:image" content="https://runsstudio.github.io/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png">
4444

4545

4646

@@ -304,11 +304,11 @@ <h1 id="seo-header">Graph WaveNet - 学习笔记</h1>
304304
</ul>
305305
<p>问题定义</p>
306306
<p>交通预测问题，可以认为是给定一张图</p>
307-
<p><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
308-
<p>其中V是节点，E是边，交通预测问题可以描述为：<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-1.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>式中：<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-2.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>分别表示X个特征在过去T个时刻的值（流量变化情况），这里N是节点数，D是数据维数，T是时间步，简单来说就是用过去的S步预测未来的T步。<br> 空间卷积<br>GCN时代：<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-3.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>其中要求邻接矩阵A已知，实际上很多情况下，A可能是变化的，或者存在未能被挖掘到的节点，对当前节点存在影响。文章不用传统的GCN，而是用了扩散的卷积层，形式如下：<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-4.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>式中：Pk代表是转移矩阵的k次乘方，K的次数是可以改变的，X是原来的特征，对于无向图，P&#x3D;A&#x2F;rowsum(A)，对于有向图，区分正反向，正向是Pf&#x3D;A&#x2F;rowsum（A），反向是Pb&#x3D;At &#x2F;rowsum(A_T)<br>从而扩散图卷积层款可以写成式4的形式。</p>
309-
<p>文章同时提出一种自适应邻接矩阵的概念，这种矩阵不需要任何先验知识，而且是可以从端到端的方式进行梯度下降训练。可以表示成：<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-5.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>这里面，E1 E2是两个科学系的Embedding矩阵，案例来说应该就是原始输入X乘了一个Embedding矩阵之后得到的。。那么这个公式，岂不就是自注意力嘛<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-6.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>（自注意力的计算公式，Q Kt分别对应这里的E1 E2）区别在于文章这里加了个Relu （这是GAT的做法）只关注对当前节点正向的内容。<br>所以，在图已知的情况下，可以用式6的方式计算 图卷积，如果是图未知的情况下，就用公式7计算<br><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-7.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>文章提到：值得注意的是，我们的图卷积属于基于空间的方法。尽管为了保持一致性，我们将图信号与节点特征矩阵互换使用，但我们在方程 7 中的图卷积确实被解释为聚合来自不同邻域顺序的转换特征信息。<br>时间卷积层<br>时间卷积文章采用了 空洞因果卷积 作为时间卷积层（TCN），空洞卷积神经网络能够以非递归的方式处理长距离序列。公式可以描述成：</p>
310-
<p><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-8.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
311-
<p><img src="/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-11.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
307+
<p><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
308+
<p>其中V是节点，E是边，交通预测问题可以描述为：<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-1.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>式中：<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-2.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>分别表示X个特征在过去T个时刻的值（流量变化情况），这里N是节点数，D是数据维数，T是时间步，简单来说就是用过去的S步预测未来的T步。<br> 空间卷积<br>GCN时代：<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-3.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>其中要求邻接矩阵A已知，实际上很多情况下，A可能是变化的，或者存在未能被挖掘到的节点，对当前节点存在影响。文章不用传统的GCN，而是用了扩散的卷积层，形式如下：<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-4.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>式中：Pk代表是转移矩阵的k次乘方，K的次数是可以改变的，X是原来的特征，对于无向图，P&#x3D;A&#x2F;rowsum(A)，对于有向图，区分正反向，正向是Pf&#x3D;A&#x2F;rowsum（A），反向是Pb&#x3D;At &#x2F;rowsum(A_T)<br>从而扩散图卷积层款可以写成式4的形式。</p>
309+
<p>文章同时提出一种自适应邻接矩阵的概念，这种矩阵不需要任何先验知识，而且是可以从端到端的方式进行梯度下降训练。可以表示成：<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-5.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>这里面，E1 E2是两个科学系的Embedding矩阵，案例来说应该就是原始输入X乘了一个Embedding矩阵之后得到的。。那么这个公式，岂不就是自注意力嘛<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-6.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>（自注意力的计算公式，Q Kt分别对应这里的E1 E2）区别在于文章这里加了个Relu （这是GAT的做法）只关注对当前节点正向的内容。<br>所以，在图已知的情况下，可以用式6的方式计算 图卷积，如果是图未知的情况下，就用公式7计算<br><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-7.png" srcset="/img/loading.gif" lazyload alt="alt text"><br>文章提到：值得注意的是，我们的图卷积属于基于空间的方法。尽管为了保持一致性，我们将图信号与节点特征矩阵互换使用，但我们在方程 7 中的图卷积确实被解释为聚合来自不同邻域顺序的转换特征信息。<br>时间卷积层<br>时间卷积文章采用了 空洞因果卷积 作为时间卷积层（TCN），空洞卷积神经网络能够以非递归的方式处理长距离序列。公式可以描述成：</p>
310+
<p><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-8.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
311+
<p><img src="/2025/05/06/Graph%20WaveNet%E5%AD%A6%E4%B9%A0%E7%AC%94%E8%AE%B0/image-11.png" srcset="/img/loading.gif" lazyload alt="alt text"></p>
312312
<p>门控TCN：<br>门控机制在RNN中特别重要，可以有效的控制信息的流动（在层和层之间流动），在TCN中也是这样。该文章采用的门控TCN采用如下方式：</p>
313313
<p>g()是激活函数，σ（·）是sigmoid函数，决定了信息传递到下一层的比例</p>
314314
<p>（未完待续）</p>

‎categories/index.html‎

Lines changed: 16 additions & 16 deletions
Original file line numberDiff line numberDiff line change
@@ -341,22 +341,22 @@
341341

342342
<div class="category row nomargin-x">
343343
<a class="category-item collapsed
344-
list-group-item category-item-action col-10 col-md-11 col-xm-11" title="常用知识"
345-
id="heading-bd784cf0c2650eda5577f4512adc7422" role="tab" data-toggle="collapse" href="#collapse-bd784cf0c2650eda5577f4512adc7422"
344+
list-group-item category-item-action col-10 col-md-11 col-xm-11" title="杂谈"
345+
id="heading-195eb419639d73192945705b06502324" role="tab" data-toggle="collapse" href="#collapse-195eb419639d73192945705b06502324"
346346
aria-expanded="false"
347347
>
348-
常用知识
348+
杂谈
349349
<span class="list-group-count"></span>
350350
<i class="iconfont icon-arrowright"></i>
351351
</a>
352352

353-
<a href="/categories/%E5%B8%B8%E7%94%A8%E7%9F%A5%E8%AF%86/" class="category-count col-2 col-md-1 col-xm-1">
353+
<a href="/categories/%E6%9D%82%E8%B0%88/" class="category-count col-2 col-md-1 col-xm-1">
354354
<i class="iconfont icon-articles"></i>
355355
<span>1</span>
356356
</a>
357357

358-
<div class="category-collapse collapse " id="collapse-bd784cf0c2650eda5577f4512adc7422"
359-
role="tabpanel" aria-labelledby="heading-bd784cf0c2650eda5577f4512adc7422">
358+
<div class="category-collapse collapse " id="collapse-195eb419639d73192945705b06502324"
359+
role="tabpanel" aria-labelledby="heading-195eb419639d73192945705b06502324">
360360

361361

362362

@@ -365,10 +365,10 @@
365365

366366

367367

368-
<a href="/2025/03/04/hexo%E6%96%B0%E5%BB%BA%E6%93%8D%E4%BD%9C%E5%B9%B6%E4%B8%8A%E4%BC%A0%E6%B5%81%E7%A8%8B/" title="Hexo新建博客并上传Github全流程"
368+
<a href="/2025/03/31/hello-world/" title="Run&#39;s Studio 重新出发"
369369
class="list-group-item list-group-item-action
370370
">
371-
<span class="category-post">Hexo新建博客并上传Github全流程</span>
371+
<span class="category-post">Run&#39;s Studio 重新出发</span>
372372
</a>
373373

374374

@@ -383,22 +383,22 @@
383383

384384
<div class="category row nomargin-x">
385385
<a class="category-item collapsed
386-
list-group-item category-item-action col-10 col-md-11 col-xm-11" title="杂谈"
387-
id="heading-195eb419639d73192945705b06502324" role="tab" data-toggle="collapse" href="#collapse-195eb419639d73192945705b06502324"
386+
list-group-item category-item-action col-10 col-md-11 col-xm-11" title="常用知识"
387+
id="heading-bd784cf0c2650eda5577f4512adc7422" role="tab" data-toggle="collapse" href="#collapse-bd784cf0c2650eda5577f4512adc7422"
388388
aria-expanded="false"
389389
>
390-
杂谈
390+
常用知识
391391
<span class="list-group-count"></span>
392392
<i class="iconfont icon-arrowright"></i>
393393
</a>
394394

395-
<a href="/categories/%E6%9D%82%E8%B0%88/" class="category-count col-2 col-md-1 col-xm-1">
395+
<a href="/categories/%E5%B8%B8%E7%94%A8%E7%9F%A5%E8%AF%86/" class="category-count col-2 col-md-1 col-xm-1">
396396
<i class="iconfont icon-articles"></i>
397397
<span>1</span>
398398
</a>
399399

400-
<div class="category-collapse collapse " id="collapse-195eb419639d73192945705b06502324"
401-
role="tabpanel" aria-labelledby="heading-195eb419639d73192945705b06502324">
400+
<div class="category-collapse collapse " id="collapse-bd784cf0c2650eda5577f4512adc7422"
401+
role="tabpanel" aria-labelledby="heading-bd784cf0c2650eda5577f4512adc7422">
402402

403403

404404

@@ -407,10 +407,10 @@
407407

408408

409409

410-
<a href="/2025/03/31/hello-world/" title="Run&#39;s Studio 重新出发"
410+
<a href="/2025/03/04/hexo%E6%96%B0%E5%BB%BA%E6%93%8D%E4%BD%9C%E5%B9%B6%E4%B8%8A%E4%BC%A0%E6%B5%81%E7%A8%8B/" title="Hexo新建博客并上传Github全流程"
411411
class="list-group-item list-group-item-action
412412
">
413-
<span class="category-post">Run&#39;s Studio 重新出发</span>
413+
<span class="category-post">Hexo新建博客并上传Github全流程</span>
414414
</a>
415415

416416

0 commit comments

Comments
 (0)