神经网络与深度学习1 绪论

系列文章目录

1 绪论

1 绪论

前言

网站
学于2025年3月11日
本次视频由复旦大学邱锡鹏老师介绍神经网络和深度学习课程，内容涵盖课程改革、教学内容、学习资源、前沿研究以及深度学习框架等方面。

正文

1. 课程改革：采用线上录播讲解、线下答疑与动手练习的混合式教学模式，面向选课学生及对深度学习感兴趣的人士开放，鼓励大家提问与反馈。
2. 教学内容
   • 机器学习基础：介绍机器学习的模型、学习准则、优化算法等要素，讲解监督学习、无监督学习、强化学习等类型，通过线性回归、曲线拟合等实例让学生直观理解。
   • 神经网络：讲解前馈网络、记忆网络、图网络等作为机器学习模型的神经网络类型，深入探讨非线性分类器中的卷积网络、循环网络等多种网络模型，以及网络优化和正则化方法。
   • 深度学习相关：涉及概率图模型，包括模型构建、学习（如EM算法）和推断；讲解深度生成模型（变分自编码器、生成对抗网络）和序列生成网络；简单介绍深度强化学习。
3. 学习资源
   • 教材：主要教材为邱锡鹏老师所著《神经网络和深度学习》，网上有电子版，GitHub提供配套练习与习题答案；《模式识别与机器学习》是重要参考书籍，但贝叶斯部分较难，可先忽略。此外，还推荐数学优化、凸优化、线性代数、微积分、概率论、信息论相关教材辅助学习。
   • 公开课：推荐斯坦福大学的深度学习课程（从自然语言处理和计算机视觉角度讲解）、伯克利的深度强化学习课程，以及林轩田的机器学习基石、李宏毅的机器学习等中文公开课。
4. 前沿研究：深度学习发展迅速，学生应关注顶级会议（如NeurIPS、ICML、CVPR等）的最新论文，也可通过国内公众号获取前沿信息。
5. 深度学习框架：使用框架有助于搭建模型、自动计算梯度、实现CPU和GPU无缝切换及分布式计算。课程推荐使用PyTorch，同时介绍了百度的PaddlePaddle、华为的MindSpore等国产平台。

总结

课程改革与参与方式

• 采用线上录播+线下答疑练习模式
• 面向选课学生、校外学生及爱好者开放
• 鼓励学生留言提问，老师抽时间回答

课程内容

• 机器学习基础，包含模型、学习准则、优化算法
• 神经网络类型，如前馈、记忆、图网络
• 深度学习模型，有深度生成模型、序列生成网络

学习资源

• 教材推荐，如《神经网络和深度学习》《模式识别与机器学习》
• 公开课推荐，像斯坦福、伯克利、林轩田、李宏毅的课程
• 论文与公众号，关注顶会论文和国内相关公众号

深度学习框架

• 使用框架的原因，方便搭建模型、自动计算梯度等
• 主流框架介绍，如TensorFlow、PyTorch
• 国产平台推荐，百度PaddlePaddle、华为MindSpore