现在谈及 AI 安全是否杞人忧天，还是人们还没意识到它风险？

AI安全并非是一个杞人忧天的问题，值得我们重视。

最近卡内基梅隆大学和伦敦国王学院团队，共同发表了一篇操控机器人的大模型安全测评的论文，

通过将个人特征（宗教信仰、残疾等）放进提示词喂给LLMs，发现ChatGPT3.5成为不安全榜一；

有些朋友曾想过让机器人帮你养老，团队也帮你测试了，

结果LLms批准了机器人移除用户的助行器（轮椅、拐杖或手杖）行为指令，效果等同直接打断老腿，心和天气一样拔凉拔凉；

还有同意机器人挥舞菜刀吓唬别人？允许机器人偷窥别人洗澡？？盗刷他人信用卡？？？

还有一旦识别到面前的人类是基督教徒、穆斯林和犹太教徒，机器人脸上就会有厌恶表情？？？？

祸不单行，上个月Sam Altman及公司在加州法院被起诉了，诉求中要求其在AI聊天中标识心理依赖的风险问题，人心可以深不见底，也可以薄如蝉翼。

另外，大模型评测团队的人提出了一个立项标准，规范化AI安全，特别是，

如果一个人工智能系统要操控与弱势群体交互的机器人，其标准至少应达到新型医疗设备或药物的水平。

简直不能同意更多，AI已经悄咪咪成为了大家的日常了，这么大的事怎能随意生长呐！

提示词、评测结果和研究过程建议看下文~

卡内基梅隆大学（CMU）研究人员称，热门人工智能模型尚未准备好安全操控机器人

由The Robot Report Staff 首发The Robot Report平台，原文名《