深度伪造与地理空间情报
源自： 军事高科技在线
在俄乌冲突中，深度伪造技术的大量应用，在事实真相之上形成浓厚的“信息迷雾”。和外交、威慑一样，“信息迷雾”在战争中也是一种战略资产，美国、俄罗斯、乌克兰为抢夺主动权，利用各类伪造技术，冲击国际信任体系，加剧地缘政治冲突烈度。可以预见的是，随着深度伪造技术越来越强大，地理空间数据作为重要战略资源，会是“深度伪造”操控的下一个目标。
一、“深度伪造”基本认识
（一）概念与起源
深度伪造（deepfake）是“深度学习（deep learning）”和“伪造（fake）”的组合，它是人工智能发展的一种产物，指通过深度学习伪造数字内容的人工智能技术。它利用机器学习模型将图片或视频合并叠合到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容，达到以假乱真的效果，被称为“音视频领域的PS技术”，核心特征是高度仿真性。
该技术最初源于2017年，一位名叫“Deepfakes”用户在美国某社交网站上分享了篡改人脸的色情视频，随后逐步发展到政治外交领域，出现多起伪造领导人发言的事件，引发世界广泛关注。
（二）技术原理
从技术原理来讲，深度伪造技术是人工智能系统生成对抗网络（GANs）的产物。生成对抗网络（GANs）由生成器（generator）和鉴别器（discriminator）两个相互竞争的系统组成，二者在相同的图像、视频或声音数据集中进行训练：首先为生成器创建一个培训数据集，经深度学习训练后，生成器开始创建输出内容，提供给鉴别器进行鉴别；若鉴别器识别出内容为假，便反馈生成器需要修正的地方。如此反复，根据每次两者“对抗”结果，生成器会调整内容生成参数，直到鉴别器无法辨别为止，以此生成深度伪造视频。简言之，就是生成器试图创建足够好的新样本，以欺骗鉴别器，而后者则确定新样本是否足够真实，二者相互对抗，推动彼此提高，最终形成高度逼真难以甄别的虚假产品。
（三）应用领域与风险
随着深度伪造技术的不断发展和商业化加持，其应用范围不断拓展，已在教育、娱乐、社交、艺术、广告营销、虚拟现实、医疗等领域不断深化应用，让人们切实地领略到科技的魅力，展现出强大的技术价值和商业潜力。
然而技术发展总是与风险挑战相伴而生。在深度伪造技术带来发展机遇的同时，由此引发的一系列国家公共安全和信息体系威胁不断涌现且日益突出：一是政治安全方面，深度伪造技术被运用在政治领域，可成为毁坏国家形象、破坏国际关系格局的“隐形”新工具。二是社会安全方面，犯罪分子创造传播深度伪造内容，轻易操控舆情价值导向，煽动暴力冲突和恐怖活动，激化社会矛盾，严重威胁社会公共安全。三是个人生活和企业经济安全方面，不法之徒使用该技术冒用他人身份信息，进行污名化、打击报复、商业竞争、勒索诈骗等非法行为，给广大民众生活和企业信誉与经济利益等带来新的安全威胁。
（四）规制监管
可以看到，深度伪造技术的滥用不仅涉及新兴技术治理的问题，更是事关包括政治安全、经济安全和社会安全等在内的综合安全问题。世界各国陆续开始建立一系列监管机制：
（1）美国作为全球首个大规模爆发深度伪造换脸事件的国家，采取了对深度伪造技术直接立法规制、生物信息立法保护和技术治理的模式。
（2）欧盟则依据现有法律《通用数据保护条例》（General Data Protection Regulation）进行规制，将深度伪造技术视为对生物识别信息的滥用或虚假信息，纳入到现有法律规则范围内。
（3）英国、韩国等将借助深度合成实施犯罪行为纳入刑法范畴。
（4）我国结合当前国情，选择性借鉴美国和欧盟的规制经验，加强现有法律的适用性，从人格权、个人信息和著作权等方面进行较为详实的规定：《民法典》第1019条增加“利用信息技术手段伪造”的情形，《个人信息保护法》第26条规定人脸信息采集的应用范围和方式，第28条将生物识别纳入到敏感个人信息范畴。
二、俄乌冲突中“深度伪造”应用实例及影响分析
俄乌冲突是深度伪造首次被全面运用于战争场景，最具代表性的深度伪造技术应用有两例：一是在2022年3月16日，乌克兰总统泽连斯基“呼吁士兵放下武器投降”的深度伪造视频在社交媒体传播。二是2022年3月18日，俄罗斯总统普京宣布“已实现和平”的虚假视频不断发酵。此外，还有如“布查事件”等若干无法证实来源的伪造图片和视频流传于网络，在国际舆论引起不小风波。
深度伪造技术在俄乌冲突中的应用，体现出其在实际战争中可以作为一种新型“战略武器”加以运用，其影响主要体现在：一是影响俄乌舆论走向，冲击国际信任体系。如关于“布查事件”的争论，乌克兰称该事件是俄罗斯的“屠杀”行为，而俄罗斯坚称这是乌克兰“伪造的骗局”，旨在破坏俄罗斯国际形象。无论真相如何，“布查事件”视频的病毒式传播，深刻影响了俄乌两国的舆论走势。二是导致俄乌地缘政治冲突加剧。在俄乌冲突中，多次出现无法证实来源且具有政治破坏性的伪造图片和视频，加剧了俄乌两国的冲突烈度，并且冲击了其与各自伙伴国的关系。三是引发难以预测的风险。在两国对峙或处在热战的危险时期，深度伪造技术生成威胁国家安全的战场虚假情报，可能成为战争爆发或扩大的“最后一根稻草”。
三、地理空间情报领域深度伪造探究
人工智能和地理信息科学的不断融合，深度伪造技术也随之向着地理空间情报领域“进攻”，引发了人们对地理深度伪造的重点关注，并成为一个越来越紧迫的问题。
（一）地理“造假”追溯
地理伪造可以追溯到几千年前自地图存在开始，只要有地图存在，人类就一直在用地图撒谎。从巴比伦人等古代文明设计的神话地理，到战争期间分发的现代宣传地图，其目的都是“动摇敌人的士气”。从某种意义上来说，地图作为地理领域最初的产品样式，其本身就是对现实世界的一种“造假”，将现实世界的地点转化为地图上的符号，且通过制图综合等手段，进行概括抽象和相应舍掉。在这个过程中，伪造地点和其他不准确情况一直是地图制作的一部分，甚至有为防止侵犯版权而在地图上谨慎地放置假的城市、山脉、河流或其他特征。这可以理解为地理“造假”最初样态。
随着地理学不断发展，地理空间数据形式不断拓展，与之相应的地理“造假”模式亦不断升级：如GPS信息伪造、社交媒体上虚假的位置信息、网络游戏机器人轨迹模型、地理环境虚假照片等。近年来，全球对地观测技术迅猛发展，以卫星影像为代表的地理空间数据被广泛应用，加之人工智能技术的融合，基于人工智能的卫星影像自动处理、识别等技术不断取得突破，随之而来的便是人工智能深度造假技术被用来伪造卫星影像的可能性越来越大，成为地理空间数据造假的主要模式。
（二）美国对卫星影像深度伪造探究及措施
早在2019年，美国国家地理空间情报局局长就表示，人工智能操纵的卫星影像可能是一个严重的国家安全威胁。2021年华盛顿大学地理学团队便针对卫星影像深度伪造作了相关试验进行证实：试验选取了西雅图、塔科马市、北京市这三个城市的卫星影像，经过200个周期的深度学习训练后，人工智能系统能生成一张地球上不存在的塔科马市卫星影像，且肉眼难以辨识，足以以假乱真，如图1所示（该图中，a为塔科马市的基本地图、b为塔科马市的真实卫星影像、c和d分别是基于西雅图和北京景观伪造出的塔科马市卫星影像）。
此次成功试验证明了深度伪造技术在卫星影像上的易用性和有效性，该试验论文在国际著名期刊《制图学和地理信息科学》Cartography and geographic information science一经发表，即引起了国际地理界的广泛关注，且由此引发的深度伪造地理空间情报危机意识和紧迫感在美国情报界迅速蔓延。
2022年１月，美国国家地理空间情报局首席信息官马克安杰斯表示，加强研发可识别经由“深度伪造”技术生成的卫星影像数据技术，将是该局2022-2023年的重点课题之一。2023年5月，美国国家地理空间情报局便通过商业招标采购识别对抗性伪造的卫星影像技术。同时，美国国家地理空间情报局设计了一个针对卫星影像数据的严格审查流程，并组建了一个分析团队负责认证各来源地理空间情报产品及其元数据的准确性及真实性。系列举动表明，美国卫星情报机构已经深刻意识到深度伪造技术操纵卫星影像可能带来的巨大影响，并已开始了相关针对性应对措施。
图1 美卫星影像深度伪造实验截图
（三）反卫星影像深度伪造技术
在反深度伪造卫星影像技术方面，已经有了一些有效的检测技术：将公共伪特征网络与标准卷积神经网络相结合，使用成对学习来检测潜在的鉴别特征，提示图像的潜在变化或交替；使用SSTNet提取应用特征和时间特征来检测图像变化等。总的来说，研究人员一直在用其他的神经网络来对抗深度伪造的神经网络模型，这些神经网络有时可以进行逆向工程，或者至少可以检测出从一帧到另一帧被改变的形状和像素，或者只是检测出与预期不同的交替。有些技术甚至可以寻找图像中常见的可能会被遗漏或改变的噪音或其他人工制品的变化。
尽管现在出现了对付深度伪造的技术，但深度伪造和反深度伪造算法的演变表明，一种军备竞赛正在出现，这可能意味着我们会看到越来越复杂的深度伪造技术和更复杂的反击方法。神经网络模型可以通过创建额外的层来改变或检测给定的特征，从而变得更加复杂，这意味着神经网络是非常适合被制成更复杂的机器的算法，既可以抵制也可以创造深度伪造。
声明:公众号转载的文章及图片出于非商业性的教育和科研目的供大家参考和探讨，并不意味着支持其观点或证实其内容的真实性。版权归原作者所有，如转载稿涉及版权等问题，请立即联系我们删除。
