“为机器立心”:朱松纯团队搭建人与机器人的价值双向对齐系统,解决人机协作领域的重大挑战( 三 )
他还提到 , 坚持自己认为正确的立场 , 也很重要 。 在几次中期评审的过程中 , 评审专家对项目设计多次提出质疑 。 他们根据一些值得借鉴的意见进行了修改 , 但也坚持了一些他们认为正确的方法 , 而不是完全采纳评审专家的建议 。 尽管团队承受了巨大压力 , 但这个过程也给最终结果提供了很大的帮助 。
关于此项工作的下一步计划 , 郑子隆研究员表示 , 价值对齐是走向通用人机协作的第一步 。 他们未来将寻求在更多的任务和AI智能体上面应用该框架 , 探索在多个任务中的人机价值对齐 , 例如实现单个机器人的多任务能力 , 而不仅仅关注单项任务的环境 。 此外 , 他们认为在人类和机器人之间研究心理模型的其他因素 , 如信念、欲望、意图等 , 也是一个有前景的方向 , 这都是“为机器立心”的过程 。
“我们相信未来人类能构建一个人机和谐共存的智能社会 。 ”郑子隆研究员说 。
支持:陈大鑫
参考资料:
1.L.Yuan,X.Gao,Z.Zheng,M.Edmonds,Y.Wu,F.Rossano,H.Lu,Y.ZhuandS.-C.Zhu,Insitubidirectionalhuman-robotvaluealignment.ScienceRobotics7,eabm4183(2022).DOI:10.1126/scirobotics.abm4183.
文章图片
- 济南|农村大面积的信息化,农村的“互联网+”建设取得效果
- 本文转自:云南网云南网讯(记者 赵岗)7月29日|她的名字叫“西科”昆明西山区科协城市IP形象发布
- 光学变焦|“真光学变焦”vs“真徕卡”,手机长焦影像哪家强
- 电池|值得推荐的3款“千元旗舰”手机,公认极致性价比,口碑也很不错
- 齐向东出席全球数字经济大会:产业数字化转型需做好“三防”
- realmev25国潮联名版发布:超大内存+“紫禁城”联名
- 网传“原地解散”?知名平台无法下单
- 疑似iphonex早期工程机“赌”对了,库克撞脸安卓
- 蚂蚁花呗|花呗被欠3000亿,有人将其直接“卸载”不还钱,会有什么影响
- 相机|性价比“内卷”,屏下相机+骁龙870+55W,降至1650元!