blog

当机器人打仗时,我们需要让人类保持在循环中

想象一下,一群数以千万计的AI驾驶员驾驶的六角恐龙,就像一些人称之为“杀手机器人”,被派去消灭特定的一群人 - 比如,某个城市中某个年龄段的所有男人听起来像科幻小说但是人工智能(AI)教授斯图尔特·拉塞尔(Stuart Russell)上周在瑞士举行的世界经济论坛上讨论战争中的机器人,这是一个场景。他声称,这一群可以在大约18到24岁的时候开发出来。曼哈顿项目风格资助的几个月一个人可以释放一百万武器化的AI,人类几乎没有任何防御武器制造商BAE系统公司董事长Roger Carr爵士巧妙地将罗素的愿景描述为“极端”但罗杰爵士确实强烈支持保持人类在自主武器设计中的循环,作为维持“有意义的人类控制”的手段。人与机器之间的“脐带”是必要的,他说责任机器的行动和对战争法的遵守应该分配给人而不是机器卡尔说武器业务受到更严格的监管,任何其他行业他都强调,不是他作为设备倡导者的角色相反,他的角色是根据政府的规格和要求建造设备即便如此,他强调自主武器将“没有责任”,并且“没有情感或怜悯感”。他说,建造机器是个坏主意。决定“谁战斗,如何战斗以及在哪里战斗”BAE的研究项目之一是一个遥控飞行战斗机轰炸机,Taranis如果英国政府指定那个,它可能会合理地演变为“人类循环”武器要求总是存在这样的风险:在战斗条件下,从人到机器的卫星链路可能会失效“脐带”可能会突然发现目前尚不清楚Taranis将如何表现环境是否会游荡并等待其信号重新建立?它会回归基地吗?如果受到攻击会怎么办?这些细节需要明确澄清,前联合国裁军事务高级代表安吉拉凯恩在辩论中发言,将“特定常规武器公约”(CCW)谈判的进展描述为“冰川”定义仍然是难以捉摸的联合国之后2014年和2015年的专家会议,“自主”,“完全自主”和“有意义的人类控制”的含义仍然存在争议有两个不同的领域,人们可能想要对自主武器进行“有意义的人为控制”:当前的讨论重点关于后者 - 在触发循环中执行策略(选择参与)广泛接受的术语是“在循环中”,“在循环中”和“在循环中”让我解释三个不同的术语如何在实践中应用当代无人机是遥控的机器人不决定选择或参与;雷神爱国者反导系统是一个“循环中的人”系统爱国者可以选择一个目标(基于人类定义的规则),但在人类按下按钮确认雷神的方阵,防守之前不会参与“近距离武器系统”(CIWS)旨在击落反舰导弹,可以是一个“在环”系统一旦激活,它将选择并参与目标它将弹出一个中止按钮供人类击中但是如果人类没有超越机器人决定就会开火地雷是一个“离开环境”武器的例子人类无法中止并且不需要确认引爆和杀死的决定如果你把标准的机器人教科书定义为“自治”指的是一个系统在没有外部人类操作员的情况下长时间运行的能力,那么最古老的“自主”武器就“离开”。例如,同盟军使用海军和地雷(称为“在美国内战期间(1861-65),许多人采用了更具远见的“自主”概念,即未来AI创造或发现(即启动)其将在其中执行的政策规则的能力。它通过无人监督的机器学习和进化博弈理论作出决定我们可能会认为这是政策循环这在选择和参与的触发循环之前运行谁或是什么使得目标规则是控制的关键因素,特别是作为机器人,不像人类,机械地遵循他们的编程规则 因此,除了远程控制的概念和人类在射击中的内外,循环中和循环外,人们可能会探索人类政策控制和人类在政策形成循环中,内外的概念(即启动定义谁的规则) ,我们在哪里和如何战斗)爱国者有人类政策控制程序员关键目标规则进入系统并在这些规则的基础上爱国者选择目标因此启动目标规则是一个控制元素好莱坞的天网,终结者小说,相反,举例说明一个机器人在其政策或解雇环路中没有人类。一些非军事的现代政策是“人类在循环中”,因为气候的AI计算机模型可能会提出政策建议,但这些可以由人类审查和批准。卡尔描述的是一个令人反感的机器,它设计了自己的目标规则(谁,如何以及在哪里打架)遵循人类定义或批准的目标规则的机器人更多显然更接近“人类控制”,而不是发起不受人类审查的规则的机器人如果要允许一些自主武器,那么有效的法律控制必须建立在他们身上,这样他们才能犯下灭绝种族罪和战争罪。一群用于杀害平民的颅轰炸机已经成为战争罪,并且已经禁止使用已经禁止使用现场自动武器的第36条法律审查,以确保它们可以按照国际人道法运作。一些例外情况,即人类处于政策循环中并离开射击循环(例如反坦克地雷和长期接受的武器的海军地雷)以及战斗空间速度(快速移动的敌人物体)需要人类在射击环路上的情况一旦系统被激活(例如密集阵)理想情况下,战斗空间速度允许的地方,政策和射击循环都应该有人类。

查看所有