算法决定目标,20秒内炸弹获批,我们失去了什么?
- 以色列的AI目标系统“薰衣草”、“福音”如何运作
- AI战争会减少平民伤亡的说法为何破灭
- 加沙事件对未来战争和国际规则的影响
以色列特种情报部队的一名军官盯着显示器。屏幕上的人不是经过深思熟虑才选定的目标。他的命运是由AI战争算法决定的,军官在短短20秒内就批准了轰炸。本文深入探讨了人工智能是如何在加沙制造了被称为“大规模暗杀工厂”的悲剧,揭示了这些系统的运作方式及其可怕后果。战争的创伤反而成了“道德脱钩装置”,让人们远离暴力的后果。
破坏的设计师:AI战争系统的真相
加沙的悲剧核心是多个AI系统的协同运作。它们不仅仅是辅助工具,而是前所未有地加速杀戮速度和规模的关键驱动力。
薰衣草,人类猎手
“薰衣草”(Lavender)是以色列8200部队开发的AI数据库,它分析了加沙230万居民的海量监控数据,以识别疑似武装分子。在战争初期,“薰衣草”生成了一个“死亡名单”,将多达37,000名巴勒斯坦男子列为潜在目标。
该系统会给个人打1到100分的危险评分。仅仅是与可疑人员在同一个WhatsApp群组,或频繁更换电话号码,都可能成为怀疑的依据。换句话说,巴勒斯坦人的日常生活本身就被算法定为犯罪。
以色列军方**在明知该系统出错率高达10%的情况下,仍批准使用。**这意味着每10个目标中就有1个可能是无辜的。这并非系统缺陷,而是故意设计的一部分。
福音(Havsorah),建筑猎手
如果“薰衣草”是针对人的,那么“福音”(The Gospel)就是针对建筑的。该系统加速了目标生成,达到了工业规模,正如一位前军官所说,它创造了一个**“大规模暗杀工厂”。**人类分析师一年能生成50个目标,而“福音”一天就能生成100个新目标。
它将军事设施、住宅高层建筑、大学等民用建筑识别为“高价值目标”并加以攻击,这在国际法上没有依据。
“爸爸在哪儿?”,杀戮过程的最后环节
名为“爸爸在哪儿?”(Where’s Daddy?)的追踪系统会在“薰衣草”锁定的目标进入其家中时进行捕捉,从而触发空袭。一名情报官员作证说,“炸毁家园要容易得多。”这表明,这是旨在最大化平民伤亡的战术。
| 系统名称 | 主要功能及目标 |
|---|---|
| 薰衣草 (Lavender) | 识别人类目标:分析监控数据,生成最多37,000人的“死亡名单”。 |
| 福音 (The Gospel) | 识别建筑物目标:批量指定与目标相关的建筑,特别是民宅。 |
| 爸爸在哪儿? | 实时追踪:捕捉目标进入家人住宅的瞬间,触发空袭。 |
速度吞噬判断:AI战争的新教条
在加沙,AI并没有被用来通过精确打击来保护平民,而是被用来最大化破坏的速度和规模。以色列国防军发言人承认了这一点,他说:“我们更关注的是破坏,而不是精度。”
系统不断提供目标,一名军官痛苦地回忆说:“还有36,000个目标在等着你。”AI并非精密的解剖刀,而是加速“大规模暗杀工厂”的引擎。
可容忍的死亡计算
以色列国防军为每次空袭设定了允许的平民死亡人数上限。
- 摧毁一名低级武装分子,最多允许杀死15到20名平民。
- 摧毁一名哈马斯高级指挥官,甚至会批准杀死100多名平民。
这些袭击主要使用了廉价的非制导炸弹,即“傻瓜炸弹”。一名军官解释说:“我们不想把昂贵的炸弹浪费在不重要的人身上。”这是我在调查此事时最震惊的地方。这是一种令人不寒而栗的证词,展示了在效率的名义下,人的生命价值如何被分级和漠视。
“我孩子的小小的身体被撕碎了”
统计数字背后总是有人类的痛苦。AI工厂的“产物”不是数据,而是牺牲的生命。
半岛电视台记者瓦埃尔·达杜在直播中得知,他的妻子、儿子、女儿和孙子在以色列的空袭中丧生。他们当时正在一个寻求安全的难民营。他的悲剧向全世界表明,在加沙没有安全的地方。
作家艾哈迈德·纳乌克在一次爆炸中失去了21位家人,包括他的父亲、兄弟姐妹和侄子。根据国际特赦组织的一份报告,伊斯兰·哈尔布在空袭中失去了除四岁的女儿琳以外的所有家人,他作证说:“我孩子的小小的身体被撕碎了。”
这真的是“精确”的AI战争的结果吗?我们看到一个悖论:随着战争越来越以数据为中心,受害者反而被进一步非人化。
加沙,成为AI战争的试验场
加沙成为了以色列军方自己所说的“第一场人工智能战争”的“试验场”。全体巴勒斯坦人口沦为AI学习的“数据身体”,通过人脸识别、通话监听和社交媒体监控。
更令人不寒而栗的是,空袭获得的数据又被用来改进系统。_巴勒斯坦人的死亡成了下一场战争的研发(R&D)资源。_加沙发生的事情正在为全球未来的冲突设定技术和伦理先例。
全球影响与“杀手机器人”辩论
加沙事件点燃了关于自主致命武器系统(LAWS)的国际辩论。联合国秘书长和国际红十字会(ICRC)紧急呼吁制定一项关于LAWS的国际条约,并强调**“由机器自主选择目标,是我们绝不能跨越的道德底线。”**
然而,美国和中国等大国已经在AI军备竞赛中投入巨资。在加沙试验的技术仅仅是更大规模全球竞争的开端。
结论
加沙的AI战争给我们带来了沉重的问题。当一个10%出错率的系统导致一个家庭的死亡时,责任在于程序员、指挥官,还是机器本身?
- AI改变了战争的本质: AI并未被用作提高精确性、减少伤亡的工具,而是成为了加速杀戮速度和规模的“大规模暗杀工厂”的引擎。
- 人的道德责任缺失: “20秒批准”等程序排除了人类的道德判断,助长了将责任推给机器的“道德脱钩”。
- 这是对全世界的警示: 加沙是未来生命和死亡决定权被委托给算法的可怕预演,并表明了制定自主致命武器国际法规的紧迫性。
希望通过本文,更多人能关注AI战争的悲惨现实及其伦理问题。请将这些信息分享给您身边的人,开启关于技术应如何为人类服务的社会讨论。
参考资料
- +972 Magazine ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza
- Lieber Institute West Point The Gospel, Lavender, and the Law of Armed Conflict
- Tech Policy Press When Algorithms Decide Who is a Target: IDF’s use of AI in Gaza
- The Guardian ‘The machine did it coldly’: Israel used AI to identify 37,000 Hamas targets
- AI Now Institute The Algorithmically Accelerated Killing Machine
- El País Lavender, Israel’s artificial intelligence system that decides who to bomb in Gaza
- Democracy Now! A “Mass Assassination Factory”: Israeli Journalist Yuval Abraham on AI-Powered Tool Used in Gaza
- Human Rights Watch Questions and Answers: The Israeli Military’s Use of Digital Tools in Gaza
- Al Jazeera To kill a family: The loss of Wael Dahdouh’s family to an Israeli bomb
- Amnesty International New evidence of unlawful Israeli attacks in Gaza causing mass civilian casualties amid real risk of genocide
- ICRC Joint call by the United Nations Secretary-General and the President of the International Committee of the Red Cross for States to establish new prohibitions and restrictions on Autonomous Weapon Systems
- Stop Killer Robots Use of automated targeting system in Gaza