如果从应用广度和深度来看,其实是深度强化学习(DRL);
但未来极限二选一,选DRL+IL(模仿学习)混合模式。
从两者的策略思路来看,
DRL的学习方式是,看攻略自学,从试错中找到最优策略。
工作场景中,机械臂抓各种形状的物体、开门、以及组装零件,DRL能从大量尝试里总结规律。
IL属于学徒偷师,直接模仿老专家的示范动作。
两者的核心优势是,
DRL自主性强,能发现人没想到的新策略,适应未知环境能力强;
IL入门快,数据效率高,上手新任务贼6。
短板也明显,
DRL数据效率低,训练耗时耗力;策略可能复杂不直观;训练的时候可能需要机械臂重复上万次操作,成本高还容易坏硬件。
IL性能很难超越老师傅的示范水平,天花板整个横住了;没见过即干不了,泛化emmm
运用的现状,
DRL思路,目前也可以上仿真迁移至物理现实(Sim2Real,又名域随机化),又或者用模仿专家的操作搭建行动框架再让DRL精调,数据需求降低。
Sim2Real在多机器人任务中的基准测试,参考ing~
Online vs. Offline Adaptive Domain Randomization Benchmark
摘要:为离线和在线方法(SimOpt、BayRn、DROID、DROPO)提出了一个公开基准,以探究它们在多种设置和任务中的当前局限性。结果发现,在线方法受限于下一次迭代时当前学到的策略质量,而离线方法在仿真中使用开环指令重放轨迹时有时可能失败。</


415

被折叠的 条评论
为什么被折叠?



