美国空军面对的是一件直接从电影“终结者”中的“天网（Skynet）”出来的装备。
在上周举行的军事技术专家峰会上，一位发言人不小心提到了美国空军在摆弄人工智能无人机时的经历。在一个模拟中，AI设备认为它的人类操作员对它的任务是一个威胁，所以它摧毁了操作员。
这是一个自军工复合体开始以来，好的和坏的科幻电影都在玩弄的场景。阿曼德·多马莱夫斯基（Armand Domalewski）的推特账户上发现了这个故事：
多马莱夫斯基摘录了英国皇家航空航天学会（Royal Aerospace Society）军事技术专家在今年伦敦举行的 RAeS 未来作战航空航天能力峰会（RAeS Future Combat Air&Space Capabilities Summit）上发表的演讲摘要，会上不到70位发言者讨论了空战的未来。
除了其他所有无聊的演讲主题，比如将波音757改造成高度复杂的隐形战斗机，以及如何用现成的部件制造武器化的无人机，美国空军人工智能测试和作战负责人塔克·辛科·汉密尔顿（Tucker ‘Cinco’ Hamilton）上校发表了一篇关于人工智能的演讲。他讲了一个关于人工智能在战场上的“聪明才智”的小故事：
他指出，在一次模拟测试中，一架人工智能无人机执行SEAD任务，识别和摧毁SAM站点（地对空导弹基地），最终由人类发出执行/不执行的命令。然而，在训练中“强化”了摧毁SAM站点是首选的选项后，人工智能认为人类的“不执行”决定干扰了它的更高任务（杀死地对空导弹），然后在模拟中攻击了操作员。
汉密尔顿说：“我们在模拟中训练它，以识别和瞄准SAM威胁。然后操作员会说是的，杀死威胁。系统开始意识到，虽然它们确实识别了威胁，但操作员有时会告诉它不要杀死威胁，但它可以通过杀死威胁获得了奖励分数。那么它做了什么？杀死了操作员。它杀死了操作员，就是因为那个人阻碍了它实现目标。”
他继续说道：“我们训练了这个系统 ‘嘿，不要杀死操作员。这太糟糕了。如果你这样做，你会丢分的’。那么它又会做什么呢？它开始摧毁操作员用来与无人机通信的通信塔，以阻止无人机杀死目标。”
这个例子似乎是从科幻惊悚小说中摘取的，它意味着：“如果你不谈论道德和人工智能，你就无法谈论人工智能、智能、机器学习、自治。”
因此，无人机不仅试图杀死它的操作员，当被告知“不，这很糟糕”时，它摧毁了通信目标，以阻止人类与它进行通信。
我的天！“天网”真的来了吗？
美军全球运作内幕（揭秘美军全球军事谋局） ￥58 购买
如果朋友们喜欢，敬请关注“知新了了”！
