像素化的人类，屏幕之外的死亡
故事始于2024年，地点是加沙地带的一个难民营。一位年轻的以色列士兵，大约二十出头，桌上放着冰冷的屏幕，而不是家人的照片。他的任务不是在尘土飞扬的战场上奔跑。他坐在凉爽的控制室椅子上，看着屏幕上的无数点、线，以及人工智能（AI）标记为“目标”的像素块。
名为“薰衣草（Lavender）”的AI生成了一份包含39,000名被怀疑为哈马斯成员的名单。另一款名为“福音（The Gospel）”的AI则精准地找到了他们可能居住的建筑物。士兵只有20秒的时间。他只需要“用肉眼”确认AI的判断，然后按下批准按钮，任务就完成了。只需点击一下，曾经是某人温馨家园的公寓就会在地图上像尘埃一样消失。没有爆炸声，也没有尖叫声。只有屏幕上滚过的数据量才说明了他的“成绩”。
这不再是遥远的未来。在乌克兰广阔的平原上，AI无人机互相捕食。在硅谷的心脏地带，世界顶尖人才正在开发更快、更精准地杀人的方法，即“杀戮链（Kill Chain）”算法。人类的战争方式正在从根源上动摇。
战争的范式已经从长矛和剑发展到火药，再到核武器，现在正试图将“人类”这个最后的变量也排除在系统之外。我们正站在“算法战争时代”的巨大门槛上，人工智能将成为战争的主角。
这场新的战争不仅仅是武器变得更强大。它正在动摇战争的速度、规模，以及最重要的一点——战争的“伦理”。当人类的手指离开扳机，取而代之的是硅芯片的快速计算时，我们会得到什么，又会失去什么？将“附带损害”这个冰冷的词语背后隐藏的无数生命重量，托付给AI的概率计算，真的没问题吗？
这篇文章就是踏上寻找这些冷峻问题的答案的旅程。我们必须正视自己设计的“死亡算法”是如何敲响我们的家门，并在我们为它敞开大门之前，一起思考应该做些什么。因为人类的未来，取决于我们是否能为这项可怕的技术戴上道德的枷锁。
第一章：新战场之神，代码（Code）
有人说，战争史就是技术史。更远、更精确、更具破坏力。但我们现在面临的变革有所不同。正是因为“决策主体”正在离开人类之手。
1.1 摆脱“人机环”的杀人机器
要理解AI战争，我们首先需要了解“人机环（Human-in-the-Loop）”的概念。根据人类对武器系统的介入程度，可以分为三个阶段。
- 以人为中心的阶段（Human-in-the-Loop）
- 这是最传统的方式。由人直接设定目标并决定是否发射。AI则扮演着辅助瞄准或提供信息的助手角色。想象一下战斗机飞行员在AI的帮助下瞄准敌机，并亲自按下导弹发射按钮。
- 人机监控的阶段（Human-on-the-Loop）
- AI找到目标并提出攻击建议，人类进行监督，并最终拥有否决权。以色列的“铁穹”防御系统是一个很好的例子。系统会自动识别来袭的火箭并准备拦截，但最后的发射批准由控制室的人员做出。然而，在大量导弹来袭的情况下，人类的角色逐渐变成了形式上的监督者。
- 人机分离的阶段（Human-out-of-the-Loop）
- 这是最具争议的最后一个阶段。AI在没有人为干预的情况下，自主决定和执行从目标识别到摧毁的全过程。这就是我们常说的“杀手机器人”，即“自主致命武器系统（LAWS）”。这些武器一旦启动，就会在无需人类进一步命令的情况下，自行判断并消灭“敌人”。
问题在于，战争的速度如此之快，以至于人类无法一一介入。想象一下数百甚至数千架无人机像蜂群一样攻击的“无人机蜂群”攻击。一个人能一一判断和阻止吗？最终，防御方只能用同样的AI蜂群来应对。这会导致一场超出人类控制速度的“机器战争”，而人类可能只是那个按下启动按钮然后袖手旁观结果的人。
1.2 乌克兰：巨大的AI战争试验场
2022年爆发的乌克兰战争，被称为“首次AI战争”，它成为了一个巨大的试验场，浓缩地展示了未来战争的面貌。
特别是乌克兰军队，通过美国数据分析公司Palantir的AI平台“Gotham”，正在改变战争格局。Palantir自称是“服务于西方民主的技术伙伴”，并积极投身于战争。他们的技术将所有分散的信息连接成一个巨大的“杀戮网络（Kill Web）”。
侦察无人机影像、民用卫星照片、通信监听数据，甚至是TikTok上发布的俄军视频，AI都能实时分析。过去需要多个部队分别分析的信息，现在在一个平台上整合，预测俄军的位置、规模甚至下一步行动。指挥官如同神一般俯瞰战场，获得最佳攻击地点和时间的建议。这使得乌克兰能够有效地抵抗数量上占优的俄军。
然而，这项惊人技术的背后，留下了一个令人不安的问题。如果Palantir算法推荐的炮击地点是一家平民医院，责任该由谁承担？如果AI无人机误将一辆校车当作坦克攻击，那又是谁的错？是程序的错误，还是决定使用该程序的人的责任？在乌克兰惨烈的抵抗背后，这些令人恐惧的问题如影随形。
第二章：“薰衣草”的福音，人命变成的悲剧
如果说AI战争的可能性在乌克兰经受了考验，那么其可怕的现实则在加沙地带得到了证明。以色列国防军（IDF）以“高效作战”的名义，跨越了一条将人类生命转化为统计概率的危险界线。
2.1 杀人工厂（Mass Assassination Factory）的诞生
通过以色列的调查性媒体，两个名为“薰衣草”和“福音”的AI系统的存在公之于众。前情报官员的证词令人震惊。
- 薰衣草 (Lavender)
- 这个AI的唯一任务是找出“所有被怀疑为哈马斯成员的人”。薰衣草通过学习230万加沙居民的通话记录、社交媒体活动、加入特定群组聊天室的情况等海量数据，为“与哈马斯关联的可能性”打分。达到一定分数后，就会自动被列入“杀戮目标名单”。IDF明知薰衣草的判断存在约10%的错误率，也就是说，每10个人中可能有1人是无辜平民，但仍然批准使用该系统。这意味着，在39,000人的名单中，可能包含了约3,900名无辜的生命。
- 福音 (The Gospel)
- 如果薰衣草决定“杀谁”，那么福音就决定“炸哪里”。这个AI能在短时间内从大量建筑物和设施中生成数百个攻击目标。
这两个系统的结合彻底改变了IDF的作战方式。与过去为减少平民伤亡而谨慎行事不同，现在甚至将低级成员作为目标，并有意攻击他们与家人同住的“家”。甚至有一个名为“爸爸去哪儿？（Where’s Daddy？）”的AI，负责跟踪目标进入家中那一刻，并通知空袭部队，执行着可怕的任务。
2.2 “附带损害”的统计化和人性的麻木
AI系统的引入打破了对平民伤亡的衡量标准。过去，即使为了抓捕一名恐怖分子可能造成一两名平民伤亡，也可能取消行动，但现在，为了消灭一名低级成员，最多可以预先批准15-20名平民伤亡，而为了消灭一名高级指挥官，甚至可以预先批准100名以上的平民伤亡。
这意味着战争的悲剧从“伦理困境”变成了“统计计算”的问题。一位前军官坦承道：
“一切都很统计化，很干净。我按下了按钮，机器就报告任务已完成。我杀了那么多人，但因为没有看到血，所以罪恶感没那么强。”
这个告白揭示了算法战争如何摧毁人类的心灵。在屏幕上抹掉像素与杀死真人是完全不同的心理体验。当“算法”这个屏幕插入杀戮行为与其结果之间时，责任感和罪恶感变得模糊，人性被麻木。薰衣草和福音的案例表明，AI是改写战争规则本身的可怕“游戏规则改变者”。
第三章：硅谷的黑色参战，养大怪物的双手
算法战争这个怪物并非军队可以独自培育。其背后是那些曾承诺让世界变得更美好的硅谷科技巨头。他们理想化的口号，在巨额国防预算的诱惑面前，常常迷失方向。
3.1 “别做恶（Don’t Be Evil）”的终结
2018年，谷歌参与了美国国防部的人工智能无人机影像分析项目“Project Maven”，结果遭到了公司内部员工的强烈反对。技术人员的伦理抵抗，如“谷歌不应涉足战争业务”，最终迫使公司退出了该项目。
然而，谷歌留下的空缺很快被Palantir等公司填补。Palantir从一开始就接受了CIA的投资，其目标是与国防和情报机构合作，因此它成为了硅谷的“异类”。Palantir的CEO Alex Karp批评硅谷回避国防合作的文化，并表示“我们的使命是为维护西方民主提供最先进的技术”。对他而言，技术是维护价值观的强大武器。（最终有报道称，谷歌似乎也对与国防部的合作持开放态度。）
最近，以“ChatGPT”闻名的OpenAI也悄悄删除了其条款中关于“军事和战争”领域的禁止使用条款，为与国防部的合作打开了方便之门。最终，仿佛形成了一种巨大的趋势，所有公司都追随Palantir开辟的道路。
3.2 技术霸权竞争下的AI成为人质
大型科技公司深度参与国防领域的根本原因，在于中美之间的技术霸权竞争。中国在国家主导下，将本国的大型科技企业全部投入到军队现代化建设中。在这种情况下，美国国防部施压企业参与，称“如果最优秀的公司不参与，我们只能用技术落后的武器与中国的AI军队作战。”
最终，大型科技公司面临着选择的困境。参与国防项目可以赚大钱，但会受到参与“恶的平庸性”的批评；拒绝则会遭受不爱国的指责，并面临被竞争淘汰的风险。
问题在于，在这种巨大的趋势中，本应丰富人类生活的顶尖技术，正在变成摧毁人类最锋利的矛。
第四章：机器里的幽灵，人类伦理的蒸发
算法战争最危险的变化，不是武器的形态，而是执行战争的“人”的内心变化。当机器成为判断的中心，责任和伦理的概念正在变得模糊。
4.1 “责任真空”的黑洞
想象一下，一架自主杀伤无人机误将一场婚礼当成恐怖分子聚集地而发动攻击，导致大量平民伤亡。这场可怕的悲剧，该由谁负责？
- 程序员？ 他会说，自己只是根据既定条件编写了代码。
- 制造商？ 公司会说，产品是按照军队的要求制造的，不负责操作。
- 指挥官？ 他会说，自己只是部署了无人机，无法预测无人机的具体行动。
- 无人机（AI）？ 无法追究机器的责任。
最终，会出现一个无人完全负责的**“责任真空”（Accountability Gap）**。要惩处战争罪，必须证明“故意”，而AI的决策过程，常常是连开发者也无法完全解释的“黑箱”。这种责任真空，会给士兵一个危险的“免罪符”——“我只是执行系统指令”，从而麻痹人类的道德反思。
4.2 “无感情杀戮”与PTSD的悖论
远程操作员在安全的基地，通过屏幕执行战争，会觉得杀戮行为像电子游戏一样不真实。这种**“心理距离”短期内能减轻罪恶感。**
但矛盾的是，他们也会出现严重的创伤后应激障碍（PTSD）。白天在屏幕上杀人，晚上又像什么都没发生一样和家人吃饭，这种日常的割裂会摧毁他们的精神。当AI推荐目标，并用数据“证明”攻击的合理性时，人类就将自己的道德判断交给机器，逐渐沦为系统的一部分。
4.3 未来的困境：有伦理的AI可能吗？
针对这些问题，也有人尝试制造“有伦理的AI”，让它学习战争法和交战规则，从而尽量减少平民伤亡。
然而，像“军事利益”和“平民伤亡”之间的平衡，这种极其人性化的价值判断，如何能通过算法来实现？ 这可能是我们试图用几行代码解决人类几千年都未曾解决的“电车难题”，是一种危险的傲慢。是时候提出根本性的问题了：我们真正想要的是“更符合伦理的杀人方式”，还是“不杀人的方式”？
第五章：无法控制的烈火，迈向人类的最后战争
AI战争技术的发展，不仅是更强大武器的出现，更像是打开了**“潘多拉魔盒”**，可能将人类引向一场无法控制的灾难。
5.1 机器速度的战争与“闪电战”（Flash War）的恐惧
未来的战争，可能在人类来不及干预的情况下，几分钟甚至几秒钟内就升级为全面战争。
例如，一个国家的AI预警系统探测到疑似敌国导弹发射的热源。这个信息被传送到AI指挥系统，系统判断这是明确的攻击，会在无人批准的情况下自动执行反击。但最初的热源，实际上可能是山火或陨石，而非导弹。这一切可能在几分钟内发生，两国领导人都来不及了解情况。这种脱离人类控制的速度进行的战争，被称为**“闪电战”（Flash War）**。
这种恐惧促使各国陷入“AI军备竞赛”。“如果我们不发展，敌人就会发展”的逻辑，让人联想到冷战时期的核武器竞赛。但AI比核武器便宜得多，也更容易扩散，危险性更大。
5.2 AI技术的扩散与新型恐怖主义
AI技术不再是强国的专利。现在，即使是恐怖组织，也可以用几十架装有面部识别技术的小型自杀式无人机，在城市里针对特定人物或团体发动袭击。AI学术大师在警告视频**“ Slaughterbots”**中所描绘的可怕未来，已经成为现实。
此外，利用深度伪造（Deepfake）技术制造的假新闻和宣传，可以摧毁一个国家的社会信任，瘫痪民主制度。战场现在已经扩展到我们每个人的“大脑”和“心灵”。
5.3 脱缰的怪物，国际规范的缺失
尽管存在如此明显的危险，国际社会在控制AI武器方面的努力却进展缓慢。联合国（UN）的讨论已持续多年，但由于主要开发国的反对，未能达成任何有约束力的协议。在监管的真空下，AI武器技术正以失控的速度发展。我们留给自己的时间不多了。
机器提出的问题，人类该回答的时刻
我们正站在人类历史的关键时刻。算法战争的时代似乎是不可避免的未来，其破坏性的潜力正指向战争的非人化和失控的灾难。
机器正在问我们：“我被允许到什么程度？”
这不是一个技术问题，而是关于人类价值和尊严的哲学问题。我们会屈服于效率和速度的诱惑，将杀戮这一最沉重的伦理决定，交给机器冰冷的逻辑吗？
这个问题的答案，是我们所有人的责任。我们必须在为时已晚之前，让科学家、伦理学家和公民们共同努力，设定**“AI武器开发的明确红线”**。全面禁止开发和使用脱离人类直接控制的自主杀伤性武器，并制定有约束力的国际条约，将是第一步。
AI并非价值中立的工具。如果我们教AI“高效杀戮”，那么AI将成为历史上最可怕的毁灭工具。但如果我们教AI生命的价值和和平的重要性，它也可能成为促进人类繁荣的最伟大发明。
选择权在我们手中。我们必须记住，在屏幕像素背后，是一个个鲜活的人。在那死亡算法彻底打开大门之前，我们必须以人性之名，将其牢牢锁住。人类的未来，取决于我们现在，会给这台机器怎样的回答。