2023年7月(yue)7日，在瑞(rui)士日内(nei)瓦“人工智能造福人类全球峰会”上，一名(ming)参会者给仿真机(ji)器人索菲亚拍照。新华社记者 连漪 摄

据新华社北京5月(yue)12日电(dian) 人工智能系(xi)统是否会欺骗人类，一直是各方都(dou)关心的(de)问题。近(jin)期美国麻省理工学院一个研究团队称，部分人工智能系(xi)统已经学会如何欺骗人类，其中包(bao)括部分号(hao)称已被训练成乐于助人和诚实的(de)系(xi)统。该研究成果发表在美国细胞出版社旗(qi)下的(de)《模式》杂志上。

文(wen)章第一作(zuo)者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他(ta)的(de)同事们分析了一些文(wen)献，重点关注了人工智能系(xi)统传播虚假信息(xi)的(de)方式——通过习得性欺骗，它们系(xi)统地学会了“操纵”他(ta)人。

研究人员发现的(de)最引人注目的(de)人工智能系(xi)统欺骗例子是元宇宙平台公司的(de)“西塞罗”人工智能系(xi)统，它被设计在一个虚拟外交战略游戏中作(zuo)为人类玩家的(de)对(dui)手。尽管元宇宙平台公司声称，“西塞罗”人工智能系(xi)统“在很大程度上是诚实和乐于助人的(de)”，并且在玩游戏时“从不故意背刺”它的(de)人类盟(meng)友，但该公司发表的(de)论文(wen)数据显示，该系(xi)统并没有公平地玩游戏。