智能化时代,人与武器关系如何变化

2020年02月25日 11:15:25
来源: 解放军报 作者: 闫晓峰 张德群 吴永亮

  编者按

  人与武器是战争中两大基本要素,二者的本质属性及相互关系直接影响战争胜负和战争形态的发展演变。总的看,无论多么强大的武器,始终是人手中的“工具”,在人的使用下发挥威力。智能化时代,随着武器装备智能化水平的提高,人与武器的关系将发生微妙变化,如何处理好人与武器的关系,确保在人类的掌控下释放武器的最大威力和效能,是我们应该予以关注的现实问题。

  传统战争形态下,武器的智能化程度严格限制在“物”的水平。在人工智能技术飞速发展的大趋势下,人与武器的关系基础发生极大改变,武器开始具有智能特征并成为战争中不可或缺的重要部分,人与武器的关系和边界将大幅重构。据资料介绍,一些外国军队已经开始制订“机器人部队组建计划”,准备将机器人部队作为新的兵种纳入作战力量体系。因此,很有必要对智能化时代人与武器的关系进行审视和分析,根据不同关系模式采取针对性的有效措施,确保智能化战争中人与武器相互促进、协调发展。

  主次辅助——

  人处于绝对主导地位

  人与武器的主次辅助关系,是指人居于主导地位,武器为人提供辅助服务。人仍然承担绝大多数指挥控制职能,武器更多地负责重复性、规则性任务。这种关系模式中,武器智能化水平尚未突破“物”的界限,人是绝对的主导者,属于弱人工智能的初级发展阶段。在根本属性上,人与武器的关系没有发生本质变化,人是主体,起着决定作用;武器是客体,处于被动服从的地位。虽然武器各方面性能持续增强,但仍然被人当作纯粹的工具使用,武器的潜在学习能力没有得到释放。如之前谷歌发布的量子计算机,声称可以在200秒内完成目前世界最快计算机需要工作1万年的任务,虽然计算能力更强、应用范围更广,但智能水平没有显著提升,作为“物”的属性没有改变,仍然处在服从服务于人的位置。

  针对这种关系模式,应注重挖掘现有武器潜力,并加强人工智能技术研究。该模式下人的作用和地位进一步强化,仍然牢牢占据主导地位,武器的智能水平没有取得实质性进化发展,缺乏知识积累或深度学习等经验能力的优化。根据相关专家推测,短时间内人工智能技术很可能无法取得重大突破,今后相当长一段时期内人类大概率会一直处于这种模式下。因此,需要积极拓展武器装备的应用领域,提高武器装备的精准、敏捷、多能等特性,推动武器装备体系化发展,最大限度把现有武器技术成果转化为战斗力。同时,加快人工智能技术原创性研究,突破人工智能可解释性、通用性等关键瓶颈,制定出台严宽相济的人工智能发展规范,防止过分严格的制度标准阻碍技术创新。

  平等互补——

  武器脱离“物”的范畴

  人与武器的平等互补关系是指二者在作战中的分工各有侧重,通过相互配合、协同工作,最终实现取长补短。人类主要承担战略判断、艺术创造、模糊推理等任务,武器主要承担技术性分析、自动化处理、数据化管理、智能化决策辅助等任务。这种关系模式中,武器的智能化水平得到长足发展,但只聚焦于人类不擅长的领域,从而和人类形成优势互补。在根本属性上,人与武器是平等关系,武器已经基本脱离传统“物”的范畴,是具有不同类型智能的“智慧体”,虽然不具备人类智能的创造性和艺术性功能,但已初步具有智能化信息处理和分析能力,只是与人类智能分属不同的智能领域,这与传统武器有本质区别。

  针对这种关系模式,应注重组织体制和编成模式创新。该模式下,人与机器各自天然优势能够得到充分发挥,既可激发人的创造性思维和大局掌控能力,又可使武器智能得到开发利用和不断演进。例如武器装备能够在大数据、物联网的支撑下为人类提供高精度的图像识别和高算力的运筹策划等分析辅助工作,人与武器发挥各自优长、相互配合,这是未来战争中理想的关系模式。因此,应着眼建立深度挖掘人机优势互补的制度机制,进一步规范完善人工智能发展战略,突出人工智能的特定领域优势;创新军事力量组织体制,重新评估武器作为“智慧体”在军队组织中的定位和作用,为可能出现的机器人军团、大型智能自主作战平台等进行组织设计;优化人与武器的编成模式,突破传统上由人直接指挥控制武器的方式,探索人与武器的任务分配、功能界限、权责划分、协作方式等一系列相互关系,更好地释放新型人机编成模式的组织势能。

  失衡错位——

  武器地位作用变强势

  人与武器的失衡错位关系是指,武器智能化水平持续提高,进而产生挤压人类价值、替代人类地位的倾向,人的作用地位相对弱势,武器的作用地位更加重要。产生这种关系的原因主要是:当武器智能化逐步朝着“反事实推理”的强人工智能方向发展,通过持续人机交互和战争实践复杂环境的深度学习,武器在与真实对手不断博弈的过程中不断修正算法、优化实战模拟程序,自主能力迭代高速发展,特别是在可解释性、可靠性、通用性等方面获得重大突破,最终实现对人类战争能力的全面赶超。

  针对这种关系模式,应注重人与武器关系的调节和技术路径设计。当武器朝着更加强势的方向发展时,不仅能够发挥其传统优势,在模糊推理、多重博弈等人类优势领域的能力也日益加强,这将产生难以估量的后果。一方面,人类得以从繁重的体力和脑力劳动中解脱;另一方面,人类天生优势也逐步削弱,可能导致人与武器的关系失调,甚至增加武器反制人类的可能性。因此,需要全面深入考虑武器智能化高度发展带来的深刻影响,明确人与武器的应用界限,将人工智能技术限制在人类不具优势的领域;科学设计人工智能技术发展路径,避免无限制追求武器智能化发展,谨慎对待人工智能的推广应用,全面评估智能化武器实战化的消极影响,提前做好武器侵入人类主导领域的应对措施。

  分离对立——

  警惕武器摆脱人控制

  人与武器的分离对立关系是指,武器具有一定自主决策和行动能力,不再完全受人类控制,人与武器关系协调失灵。造成这种关系的原因有两种:一是技术性原因,由于人工智能技术突破瓶颈,带来武器高度智能化,武器具备摆脱人类控制的能力;二是制度性原因,由于武器研发、使用、管理不规范,战争法规制定不科学等,使武器应用缺乏限制而对人类发展造成严重后果。人与武器的分离对立是一种危险关系,当武器智能化高度发达时,同时具有机器智能和人类智能的综合优势,一旦失去控制就会对人类构成巨大威胁。在根本属性上,武器实现独立自主,成为与人类地位平等且对立的“智慧体”。这种情况下智能化武器可能产生严重反噬,其正向价值远远低于负向价值,带来的不仅仅是国家危机而是人类危机。

  针对这种关系模式,应注重法规约束和道德规范。出于预防目的,2019年欧盟委员会发布了人工智能道德准则,从人类的能动性和监管,技术的健全性和安全性,隐私和数据管理,透明性,多样性、非歧视性和公平性,环境和社会福祉,问责制等7个方面,对未来人工智能发展提出了要求;美国国家标准与技术研究院也发布了关于如何制定人工智能技术和道德标准的指导意见,概述了合理使用人工智能的举措和指导未来技术标准的基本原则。因此,为应对可能产生的威胁,需要制定足够严格的人工智能行业标准和法律法规,既防止技术损害人类利益,同时又足够灵活,可鼓励创新并促进技术发展;研究人工智能武器系统质量与安全性评估的技术和机制,制定人工智能武器安全使用指南,科学设定人工智能武器“门槛”和“禁区”;坚持基于现有关于战争和人权的法律制度,理清人工智能武器道德准则清单,形成完整的人工智能伦理规范。

标签 - 编成模式,关系模式,模糊推理,谷歌,智能自主
网站编辑 - 王慧