人工智能对指控领域的影响*

从军事上说,指挥控制是一种围绕作战任务提出的作战需求。指挥、控制、通信、计算、杀伤、情报、监视与侦察(C4KISR)业务支撑着指挥控制活动。指挥、控制、通信、计算、杀伤、情报、监视与侦察设备和相关服务,是指挥控制活动的依托。人工智能技术作用于C4KISR的各个领域和各个环节。

不同于指挥控制这种活动,在这里人工智能包括数据、算法、算力的系统和服务。人工智能技术所能实现的功能和所能达到的水平,受数据来源、数据类型、数据数量、数据特性及算法、算力和服务的影响[1⇓-3]。

指挥控制通过作战需求、作战环境,与人工智能发生联系,同时,指挥控制在人工智能技术和系统的加持下,影响作战需求、作战环境。

作战需求和作战环境反映了作战方式、作战对手、作战地域和作战人员及装备。

指挥员就打什么仗,跟谁打,在什么环境下打,用什么工具打,打什么目标,打到什么程度等初始作战想定,对C4KISR诸要素全方位地提出初始需求。面对特定作战想定牵引所提出的作战需求,军事人员从人工智能方法工具箱中,寻找恰当的模型、数据与服务进行匹配,进而形成C4KISR诸要素的初步能力。

然后,指挥员依据C4KISR诸要素所能提供的能力,再就打什么仗,跟谁打,在什么环境下打,用什么工具打,打什么目标,打到什么程度调整想定。之后,指挥员对指挥控制领域的C4KISR诸要素全方位地提出需求,如此往复。人工智能与指控要素影响关系图,如图1所示。

图1 人工智能与指控要素影响关系图

其中,人工智能工具箱会随着C4KISR诸要素所提出的需求和时间的推进,出现自我进化。即它可以通过不断进行数据采集、算法进化、算力调整、服务改进等形式,逼近式地满足作战需求并提升其能力水平。并随需求的不断提出,演进式地拓展出新的功能。任务—系统—技术循环影响关系,如图2所示。

图2 任务—系统—技术循环影响关系图

人工智能技术一个突出的特点是能够从数据中归纳总结规律,再将规律应用于实践。人工智能具有不断学习与进化的特征。现代战争中的指挥控制要素在任务、算法、数据、算力的驱动下,很多互联、互通、互操作过程可以自动乃至自主完成,这就导致其内在关系非常复杂,靠人类自身较为可靠地找到规律几乎不可实现。而人工智能技术恰恰能够利用指挥控制要素在运行时所积累的数据,自主学习和挖掘规律,并利用规律来满足作战需求[4-5]。因此,人工智能与指挥控制是一个相互学习,协同进化的过程。其具体作用方式主要体现在以下四方面。

指挥控制要素C4KISR中的KISR涉及目标和信号的识别,它包括目标几何特征的识别、目标光学和红外特性的识别、无线信号身份的识别等诸多识别任务。人工智能中的深度学习技术,可以通过数据累计进行各种目标分类,从而有效地识别目标和信号。由于人工智能系统识别目标更加快速、准确、持久,且能24小时持续不断地识别目标和信号,因此,它能够支持更多类型的作战任务。目标识别精细度的提升,可支撑军事人员设计新的作战方式,进而产生新的指挥控制需求。

指挥控制的终极目标是协助指挥员完成组织、指挥、决策与实施(执行),人工智能中的强化学习技术,可以支持红蓝对抗推演,利用多Agent仿真,可以更快速、更大范围地推演战场进程,可以更多地搜寻、探索作战方案,可以在更大深度和覆盖广度上预测战场走势,从而更有效地支持各类计划、部署、决策与实施(执行)。人工智能技术可以实现战中仿真推演,战中战场设计,战中系统更新。这将对指控系统的软硬件性能和功能提出新的要求。

现代战争变化多端,可以看成是一种预设之外的战争,是一种“边打边学”式的战争。开战之前,没有人能精准预测仗会怎么打,需要指挥员在战场上“见招拆招”。人工智能大语言模型以其“高超的理解和领悟能力”可以支持战场指挥员临时设计各种各样的“奇招妙法”,只要指挥员“说得明白”打算怎么办,大语言模型几乎可以“立等可得”地提供软件和系统服务的支持,从而让现代战争成为一场“看不懂的战争”。现代战争可以用人类语言下达指令,由人工智能机器理解指令,分解指令,直到执行指令,人类的指挥领域不仅仅是覆盖人类,而且能够覆盖到人工智能机器和系统。人工智能机器和系统将成为指挥员的高级参谋、超级助手,这会对指挥控制提出新的要求。

人工智能加持下的无人系统+精准识别+精准攻击+拼装式自主协同约等于无人作战,它可以根据攻击目标的特点和特性,临机设计攻击模式,用最适合的方式、最适合的角度和距离,使用最适合的弹药量,采用最适合的战术,对敌目标最大效率、最好效果的攻击。这对指控系统自主攻击能力提出要求。特别是远距离大规模无人蜂群作战,面向自主性体系打击能力的指挥控制要求,会有新的不同。在人类给定的目标任务确定的情况下,人工智能攻击系统自主完成判断,自主实施决策,是其突出特点。

人工智能对指控的影响是一个渐进的过程,一方面人工智能系统需要依赖数据进行学习,另一方面它是一个协同进化的过程。就像盖楼房,有了底层的智能系统支撑,才能获得上层的系统构建。由需求特性和人工智能技术本身的特点,可以得到人工智能对指控的影响趋势。

虽然人工智能技术应用增加非常快,但是,从机制上看,它却不是一个无限增长模型,随时间而产生的影响指数AII(t)可以用如图3所示的规律定性地加以刻画。

图3 有极限的能力增长示意图

其中,包络形式为Logistic函数,影响指数随时间震荡变化的周期形式为Logistic函数,它表示人工智能对指挥控制的影响程度的变化幅度会在算力和精度的共同作用下趋于一个常数,其影响更新周期也会受天文时间影响而趋于一个常数。这既是由指挥控制所需要执行的任务的颗粒度大小决定的,也是由人工智能系统物理能力限制造成的。通俗的比喻就是,人们希望看东西更清楚,但是人们并不希望带着显微镜看世界。适可而止才是最好的。这一规律潜在地表明,指控领域的人工智能系统,从长期演化趋势看,它不是一个混沌系统。它将是一个从有序到无序,再到有序的过程。其中无序阶段可预测性最差,是技术影响战争最危险的阶段。

人工智能系统与传统系统一个非常大的不同在于,人工智能系统是一个“活的系统”,它会随着训练数据的增加和训练活动不断更新自身,不断提升或者改进自身性能。因此,人工智能与指控的关系是一个协同进化的过程,其相互影响也是一种协同进化的影响。这就好比开始的时候是两个乒乓球爱好者,但是随着两个人相互切磋并且提升水平,一段时间之后会发展出一个乒乓球队,并最终形成一个乒乓球俱乐部。它不仅仅是外在性能的影响,更是可以有机制性的影响。由此,需要动态地看待人工智能对指挥控制的影响。

由于训练好的人工智能系统反应速度远超人类,人类很难在操作级或者是战术级跟上人工智能的速度,因此,在包含人工智能成分的指挥控制活动中,自适应指挥控制特性会更加突出。也就是说,但凡能交给人工智能完成的指控任务,都会交给人工智能来完成,甚至很多时候只能交给人工智能系统来完成,而人类仅仅扮演了宏观指导和决策者的角色。即无人作战的占比会大幅度增加,这就意味着,有人工智能的指挥控制,会从“人在回路中”向“人在回路上”甚至“人在回路外”转变。例如,忠诚僚机系统中,僚机只能由人工智能机器完成。这意味着指挥控制中的人机关系,将不得不面临重大调整[6⇓-8]。

如果设定战场上包括C4KISR的全部操作由人类操作和无人作战自动操作(自主操作组成),其总和占比为1,则有人类操作占比+无人作战自动操作占比=1。随着人工智能技术的进步,其发展变化趋势如图4所示。

图4 C4KISR中人类操作占比/无人操作占比随人工智能技术发展水平变化示意图

随着人工智能技术的发展,人类在C4KISR中所承担的决策层次也会发生变化,其趋势如图5所示。

图5 C4KISR中人类直接决策层次/人机混合决策/无人作战自主决策层随人工智能技术发展水平变化示意图

随着大语言模型和多模态人工智能的发展,指控会建立起多领域深度融合的C4KISR关联。C4KISR资源的众筹式协同作战已经开始显现,人工智能会将这种协同关联强化。众筹式协同如同网上协同软件开发,参与各方将各种资源在网上如搭积木一般进行拼接。例如,民用车辆所携带的行车记录仪数据,经过大数据+人工智能处理,可以成为高可靠性动态情报数据。传感器到射手,从指控渠道到信息保障,都可以在人工智能系统的介入下完成[9⇓-11]。作战指挥从实打实的“物理可见”变为基于服务逻辑的“逻辑可达”。

由于人工智能与指控是一个协同进化的关系,因此,它是一个动态的过程,其行为表现具有环境边界敏感性和初始条件敏感性,由此,一方面它会对指控带来极大的增益,另一方面它必然存在一些风险与挑战。

一般,人工智能可以认为是一个技术工具,但是它是一个极端特殊的技术工具,它的特性和表现是通过数据和训练习得而来。人工智能系统就像一个婴儿,它会被数据和训练塑造成什么样子,预先不可尽知。一个在学校受过训练的孩子,我们知道他能说能写能算,但是他在遇到“难题”的时候会有什么表现,我们不可预知。这种不可预知的表现,就是涌现。对于被称为“神兽”的孩子,我们只能大概率地预测他的表现,同样面对极端复杂的指控领域人工智能系统,我们也只能概率性地预测它会有什么表现。

人工智能系统难以进行全面可靠性测试,在系统变得足够复杂的时候,它的安全可靠性问题会变得愈加突出。自组织、自运行、自运用人工智能一旦出现故障后是否可控,故障是否可以有效隔离就成为一个巨大的隐患。安全性不仅仅受训练数据和算法的影响,也受使用的影响。恰当使用和极端化使用,会有不同的表现。例如,目前ChatGPT在常规输入下,会表现得自然而聪明,但是如果输入超过ChatGPT“训练可及范围”,它会一本正经地胡说八道。如果用于指挥控制领域,人工智能系统是否会“发疯”,如何识别“发疯”?如果“发疯”,如何制止?就成为一个值得高度关注的安全问题。

随着人工智能系统的日益强大,人工智能的表现越来越好,它的人工替代范围和领域会日益扩大。当人工智能系统表现足够好的时候,人们会越来越依赖人工智能系统,就像今天人们对手机的依赖一样。一旦依赖形成,人类本身的一些分析和决策能力将会不可避免地出现退化。现实中可以观察到的是,在汉字拼音输入法普及下,“提笔忘字”现象越来越普遍。在人工智能替代人类操作的基础上,过度依赖人工智能所带来的路径依赖,人类长此以往地疏于思考、不做训练,将导致指挥控制工作存在体系性风险。

人工智能系统是一个数据依赖型的复杂系统,它会随着训练而不断进化。军事活动具有对抗性,在系统受到打击出现毁坏时,是否可以做原始状态恢复,就成为一项挑战。这就好比,我们无法让一个孩子清零大脑,恢复至出生时的状态一样。人工智能支持下的指控系统可恢复性,是一个非常值得研究的理论和现实问题。直觉和经验所提出的历史数据备份法,在系统高度复杂的情况下,是否依然有效,值得探索。

人工智能每天都在无声无息地不断发展,对指挥控制的影响深刻而深远。受军事系统特性和人工智能技术本身影响,它对指挥控制的影响在非战争期间不容易显性捕捉,难以显性度量。这就要求相关研究人员,既从数据、算法、算力和服务上发力,更要从作战概念和应用构想上开展头脑风暴。“设计战争”针对的是可知的战争,“战争设计”面对的是不可知的战争。人工智能像是一股“黑旋风”来去匆匆,因此不能守株待兔,而是要逐渐适应以月、以周、以日为单位的“从战争中学习战争”的新节奏,努力从“设计战争”向“战争设计”转变。