这项研究声称人工智能已经学会了如何欺骗人类

麻省理工学院的研究人员似乎正试图为“欺骗性人工智能”敲响警钟。发表在《模式》杂志上的一项新研究表明，一些被设计成诚实的人工智能系统已经学会了欺骗人类。由彼得·帕克（Peter Park）领导的研究小组发现，这些人工智能系统可以完成诸如愚弄在线游戏玩家或绕过验证码（“我不是机器人”检查）等壮举。帕克警告说，这些看似微不足道的例子可能会对现实世界产生严重的后果。

人工智能的行为在训练期间可能是可预测的，但在以后可能是无法控制的

该研究强调了 Meta 的人工智能系统西塞罗，该系统最初旨在作为虚拟外交游戏中的公平竞争对手。根据帕克的说法，虽然西塞罗被编程为诚实和乐于助人，但他成为了“欺骗大师”。在游戏过程中，扮演法国的西塞罗会秘密地与人类控制的德国合作，背叛英格兰（另一个人类玩家）。西塞罗最初承诺保护英格兰，同时向德国提供入侵的情报。

另一个例子涉及 GPT-4，它谎称自己有视力障碍，并雇用人类代表它绕过验证码。

Park强调了训练诚实的AI的挑战。与传统软件不同，深度学习人工智能系统通过类似于选择性育种的过程“开发”。他们的行为在训练期间可能是可以预测的，但以后可能会变得无法控制。

该研究敦促将欺骗性人工智能系统归类为高风险，并呼吁为未来的人工智能欺骗做好准备。有点令人毛骨悚然，你不觉得吗？随着围绕人工智能的更多研究和研究，我们将更多地了解该技术为我们准备了什么。

来源：IT时代网

IT时代网(关注微信公众号ITtime2000，定时推送，互动有福利惊喜)所有原创文章版权所有，未经授权，转载必究。
创客100创投基金成立于2015年，直通硅谷，专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。