Dynamic Routing Between Capsules

Introduction 本文的三位作者来自Google Brain，Toronto。 胶囊（Capsule）是一组神经元，其活动向量（activity vector）表示特定类型实体(如对象或对象部分)的实例化参数。换句话说，越低级的胶囊捕获越细粒度的特征。我们拿人脸来举例，轮廓、五官都可以被视为低级别的特征，被低级别的胶囊的活动向量所表示。当多个低级别的胶囊预测一致，激活更高级别的胶囊（比如，...

胶囊网络叫做向量神经元 (vector neuron) 甚至张量神经元 (tensor neuron) 更贴切。 不变性指不随一些变换来识别一个物体，具体变换包括平移 (translation)，旋转 (rotation)，视角 (viewpoint)，放缩 (scale) 等。不变性通常在物体识别上是好事，因为不管雕像怎么平移、2D旋转、3D旋转和放缩，我们都可以识别出它是雕像。如果我们的任务比...

文章目录1.背景2.什么是capsule3.capsule原理和结构4.CapsNet模型介绍5.源码解析6.实验结果7.capsule相关论文参考文献 capsule在出现之后就除了Hinton老爷子的两个版本之外，还有例如Investigating Capsule Networks with Dynamic Routing for Text Classification这样的新作，可见cap...

0 前言 昨天的面试官讲了利用自动驾驶激光雷达数据探测路上行人、车辆问题的局部空间关系的见解，提到了Vector向量多方位，多角度问题，我感觉和Capsule里的Vector有相似之处，但是面试官认为Hinton的Capsule有很多局限，在应用上目前只用在了mnist数据集上，并且建议我再好好读读Hinton的这篇论文。今年5月份时候我大概花了两三天看这个网络的讲解，后来仍然是一知半解就搁置了...

paper：《Dynamic routing between capsules》 出处： NIPS 2017 作者：Hinton 一、摘要

Dynamic Routing Between Capsules（NIPS2017） Dynamic Routing Between Capsules这篇文章已被NIPS 2017接收。2017年10月28日被提交到了预印版论文平台上。 Abstract：A capsule is a group of neurons whose activity vector represents thein

相信大家最近被hinton的这篇capsule的论文刷屏了，这篇论文是发表在nips2017上的。其实capsule这个概念最早是hinton的一篇发表在ICANN 2011上的论文中提出的，不过当初没有引起太大的关注。今年的早些时候，hinton也在多个公开场合表达capsule这样一种想法。在此，笔者在这里记录下自己对这篇论文的理解。首先在这里推荐几篇与这篇论文相关的，笔者认为比较有用的资源，可

《Dynamic Routing Between Capsules》提出了一种全新的胶囊网络（CapsNet）架构：用向量而不是标量来表示实体，向量长度对应实体存在概率、方向承载姿态参数；通过“动态路由”机制，让低层胶囊根据预测与上层胶囊输出的一致性不断调整耦合系数，将注意力聚拢到最匹配的整体胶囊上；再辅以“压扁”非线性、两头合页式Margin Loss和重建辅助任务，使网络在MNIST分类及高度重叠数字识别中表现优异，既保留了卷积网络的平移共享优势，又实现了更细腻的部件—整体层级建模和抗遮挡能力。

Dynamic Routing Between Capsules 2018年11月18日 14:39   <https://arxiv.org/abs/1710.09829> https://github.com/ageron/handson-ml             屏幕剪辑的捕获时间: 2018/11/18 14:43 C类似于max_poolin...

听了吴大大deep learning ai 课程对Hinton大牛研究的Capsules(胶囊)感兴趣。先挖个坑，以后有时间来填。

本文是对于Sara Sabour, Nicholas Frosst, Geoffrey E. Hinton在2017年发表的论文《Dynamic Routing Between Capsules》的翻译。 胶囊间的动态路由（Dynamic Routing Between Capsules） 摘要：胶囊（Capsule）是一组神经元，它的激活向量（activity vector）表示特定的类

Capsule介绍 Hinton在《Dynamic Routing Between Capsules》中提出了capsule，以神经元向量代替了从前的单个神经元节点，以dynamic routing的方式去训练这种全新的神经网络。又在第二篇论文《Matrix Capsules With EM Routing》中以神经元矩阵代替了神经元向量，我们以em routing的方式进行训练。本文分析第一篇c...

前言：限于本人翻译水平有限，请结合原文自行理解。原文下载地址为：论文下载地址Dynamic Routing Between Capsules摘要胶囊（capsule）是一组神经元，神经元中的向量用以表示特定类型实体（例如对象或对象部分）的参数。我们使用向量的长度来表示实体存在的可能性，用向量的方向来表示实体的方向①。 在一个层次上的被激活的胶囊，通过变换矩阵对更高层次的胶囊的实例化参数进行预测。 ...

Dynamic Routing Between Capsules 作者：Sara Sabour, Nicholas Frosst,Geoffrey E. Hinton 机构: Google Brain Toronto 连接：https://arxiv.org/abs/1710.09829 源码：https://github.com/naturomics/CapsNet-Tensorflow...

点此原文 本人最近初学 Hinton 大神的论文《Dynamic Routing Between Capsules 》，对深度神经网络的内容进行了简要总结，将观看 “从传统神经网络的角度解读 Capsule” 视频的内容做了笔记。感谢网络资源，让我学习到很多知识。以后会有更新。 作者： 嫩芽 33 出处： http://www.cnblogs.com/nenya33/p/807986...

Router的设计必须在严格的面积和功耗限制下满足延迟和吞吐量要求；这是设计人员在多核系统 扩展过程中面临的主要挑战。router的复杂性随着带宽需求的增加而增加；当不需要高吞吐量时，可以构建具有low area and power开销的非常简单的router（unpipelined, worm hole, no VCs, limited buffering）。当片上网络的延迟和吞吐量需求增 加时，挑战就出现了。