本文探讨了因果卷积在处理序列问题中的应用，它依赖于历史状态预测未来。为了扩大感受野而不增加计算复杂度，引入了膨胀卷积，即空洞卷积。然而，空洞卷积可能导致信息连续性的损失和栅格效应。为了解决这个问题，文章介绍了混合膨胀卷积（HDC），其特点包括独特设计的膨胀率序列和避免栅格效应的策略。通过对比实验，展示了HDC在序列理解和物体识别任务上的优势。
因果卷积：
常常用于CNN网络来处理序列问题，针对序列问题x1，...xt,和y1，...,yt-1来预测yt。
时间t的状态预测依赖于前t-1个状态，具有因果关系。
如果考虑很久之前的变量x，就会导致卷积层数的增加。网络过于深会带来梯度下降，训练复杂，拟合效果不好的问题，因此提出了空洞卷积。
膨胀卷积（空洞卷积）
个人理解觉得膨胀卷积是因果卷积的变种。 在卷积核中增加空洞来增加感受野，不增加过多计算。
普通卷积有着3*3的卷积核 空洞卷积有着3*3的卷积核，空洞rate为2
可以使得神经网络在同样的层数下，拥有更大的感受野。。
空洞卷积存在的问题：</
4858
1671
1680
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
扫一扫
