人工智能技术的进步：系统现在能编织谎言

来源：【濮阳日报】

据新华社北京5月12日电 人工智能系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。

“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”研究人员说，“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”

研究人员表示，虽然人工智能系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工智能能力的突破”，并在未来演变成更高级的人工智能欺骗形式。

本文来自【濮阳日报】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt