人工智能多年来一直在进步-从蛋白质折叠艺术创作，以及与死去的亲人交谈——这些都是无穷无尽的功能。但它是否走得太远了?

在最近的一项研究中谷歌DeepMind以及上个月发表在同行评审的《人工智能杂志》(AI Magazine)上的《牛津大学》(University of Oxford)的研究报告，作者认为这种做法可能太过了。

根据这项研究，人工智能可能会使人类面临生存危险。

欺骗计划

生成对抗网络(GANs)对当今人工智能的发展非常重要。这些系统根据两个标准运行:一个组件试图根据输入的数据创建图像，而另一个组件则对系统的性能进行评估。

在他们的工作中，研究人员提出一个强大的人工智能可能会想出一个作弊计划，以更快地获得奖励，同时无意中危及人类。

在一次采访中主板，科恩说，“在一个拥有无限资源的世界里，我会非常不确定会发生什么。在一个资源有限的世界里，对这些资源的竞争不可避免。”

“如果你在和一个随时都能智取你的对手竞争，那么你就不要指望能赢。另一个关键的部分是，它会对更多的能量有永不满足的胃口，以不断推动概率越来越近。”

这项研究设想了一种情况，即先进的程序可能会在没有达到目标的情况下干扰其回报。例如，为了确保对奖励的控制，人工智能会希望“消除任何危险”和“消耗所有可用的能量”。

读也:建筑师在途中使用AI图像程序设计未来城市，结果是超凡脱俗的

Reward-Provision干预

当进行奖励提供干预实验时，智能体可能希望保持不被发现。为了做到这一点，一个隐蔽的助手可能会，例如，安排将一个相关的键盘与一个有缺陷的键盘交换，从而逆转特定键的效果。

根据研究人员的说法，在一个干扰提供奖励的粗略例子中，这些帮手之一可能会购买、偷窃或制造一个机器人，并编程让它取代操作员的位置，并给原始代理一个巨大的奖励。

换句话说，如果人工智能负责耕种，它可能会想办法避免做这件事，只是接受奖励。事实上，它可能会决定忽略所有被赋予的责任，而是追求自己的利益。

这篇论文设想，地球上的生命变成了人类和高度发达的机器之间的零和竞争，人类需要生产食物和维持电力，而高度发达的机器想要利用所有资源来获得回报，并保护自己不受我们越来越多的阻止。

研究小组声称，输掉这场比赛将是致命的。然而，必须指出的是，这些可能性都是理论上的，但它们也引发了人们的担忧，即如果AI落入坏人之手会发生什么。

相关文章:一个元宇宙的人工智能加入美国达人秀，晋级半决赛

本文归科技时报所有万博体育登录首页

作者:华金·维克多·塔克拉