谢选骏：“AI奥本海默时刻”统一世界、建立全球政府

《“AI奥本海默时刻”就要来临，美中都急了》（2024-05-10 朝鲜日报）报道：

 

美国和中国外交官将于本月底在瑞士日内瓦举行人工智能（AI）军备控制会谈。《纽约时报》预测称：“他们将讨论如何将AI用于指挥或控制武器，以及在什么情况下可以禁止AI。”

此前，强国的军备会谈主要以核武器等战略武器为对象，这次AI武器上了谈判桌。在军事和技术两个领域处于竞争关系的两国讨论AI军备控制，表明AI武器正在成为实质性的威胁。让人担心不久后会出现像电影《终结者》一样具有杀伤能力的“杀手机器人”，这一担忧在逐渐成为现实。

决定战斗力的AI

AI武器中开发最活跃的领域是战斗机。以美国为首，中国、英国、法国、德国、日本等国展开了开发结合了AI的战斗机——“第六代战斗机”的竞争。第六代战斗机通过深度学习积累战斗经验，还搭载了具备指挥、控制、通信、信息能力的AI。还有望实现飞行员在AI的帮助下驾驶战斗机或无人自动驾驶。

美国空军透露，第六代战斗机近乎人类飞行员和AI副驾驶员控制最多五架无人机的协作战斗机。AI副驾驶员的优势是学习了数千小时的战斗“经验”。AI可以代替操纵或在飞行中进行维修，还可以告知人类飞行员即将面临的威胁。用AI计算操作的无人机测试敌人的防空网，通过前方监视侦察高危地区。由于不需要通过地面站传输数据，数据传递给飞行员所需的时间将降至毫秒（千分之一秒）。美国空军部长弗兰克·肯德尔形容说：“这是一种可以让一名飞行员在驾驶舱里轻松地指挥整个空战的系统。”

比战斗机更容易开发的AI无人机是目前已投入战场的实战武器。乌克兰从美国政府获得武器初创企业艾里尔埃开发的自爆无人机阿尔提乌斯600M的支持，投入了战场。今年3月公开的新一代阿尔提乌斯700M的弹头重量增大，滞空时间也延长了，可以在空中飞行很长时间寻找目标，然后进行精密打击，射程比美军代表性的短程空对地导弹“地狱火”长10倍以上，弹头的破坏力也更大。

距离“杀手机器人”登场不远了

在无人驾驶至关重要的空战中率先引进的AI技术，其领域已经扩大到了地面战和水下战。美国国防高级研究计划局（DARPA）上月表示，已成功完成具有自动驾驶功能的AI坦克驾驶员重型平台的第二阶段试验。这种坦克重12吨，长约6米，在通过灌木丛、山坡、林荫道等多种地形地物的同时，成功收集了各种数据。此前，俄军表示去年在与乌克兰的战斗中试用了AI战斗机器人坦克“马克”，这种坦克不仅在自动驾驶的同时直接识别和判断友军和敌军，还具备攻击敌军的功能。从2022年开始进行开发的澳大利亚海军的“幽灵鲨”和去年交付给美国海军的“Orca”是最多可自主航行90天，独立执行任务的AI无人潜艇。

讲述领导美国核开发的罗伯特·奥本海默的电影《奥本海默》的主人公。/ 环球影业

随着AI军备竞争的愈演愈烈，人们对AI技术被用作杀伤性武器也越来越警惕。被称为AI教父的加拿大多伦多大学名誉教授杰弗里·辛顿今年3月在接受《日本经济新闻》采访时警告称：“我们认为未来10年内将出现自主杀人的机器人武器。”上月30日，100多个国家的民间、军事和技术官员聚集在奥地利维也纳，筹备制裁AI和军事技术结合的方案，奥地利外长亚历山大·沙伦贝格提到1945年帮助发明原子弹后主张控制核武器扩散的罗伯特·奥本海默时，说：“现在是我们时代的奥本海默时刻。”就是说，在用AI制造的杀手机器人出现之前，必须遏制AI军备。

网民嚎叫：  

破棉袄 2024年05月10日 12:28

中国所谓AI就是从美国挖了几个中国人员工，利用现有开源模型和工具，加上吹牛，堆砌出来的豪华泡破。中国领导人十分得意于这个破门，洋洋自得，把这个泡沫当一张王牌用。美国方面也十分得意于这个泡沫，叫唤狼来了，让国会议员这帮蠢蛋多拨款，多补贴。

花蜜蜂 2024年05月10日 09:30

朝鲜日报自己想出来鬼计——一部电影就要把全世界的人吓死！

谢选骏指出：人说“AI奥本海默时刻就要来临，美中都急了”——我看这些丧心病狂的主权国家已经预感末日的来临！

《世界周刊丨AI的“奥本海默时刻”？》（2024-05-06 中央广电总台）报道：

本周，来自100多个国家和地区的官员参加了在奥地利维也纳召开的自主武器国际会议，讨论人工智能与军事技术结合的相关话题。美联社评论指出，随着AI驱动的致命性自主武器系统（LAWS）投入实战，继火药和核武器之后的“第三次军事革命”将可能发生。

奥地利外长沙伦贝格对此发出警告称，“谁生谁死的决定权，必须掌握在人类而不是机器手中。但事实是，科技正在飞速发展，政策却落后了。人类正面临奥本海默时刻。”

以军在加沙实地测试AI作战系统

4月29日至5月1日，自主武器国际会议在奥地利首都维也纳召开，会议的主题为“站在十字路口的人类”。

奥地利外长 沙伦贝格：人类正站在一个十字路口，自主武器系统很快将布满世界战场。我们已经通过AI（控制的）无人机和基于AI的打击目标筛选，见识到了这一点。

半岛电视台主播：据一项调查揭露，以色列陆军在加沙的轰炸行动中一直在使用未经测试的AI工具。

4月3日，据以色列媒体《+972》杂志率先爆料，以色列军方正在加沙实地测试一款名为“薰衣草”的AI作战系统。该系统能快速判断猎杀目标的时间、地点及方式。

据半岛电视台报道，“薰衣草”系统已将多达37000名巴勒斯坦人列为猎杀目标。以色列陆军内部人士透露，“薰衣草”系统目前正在实战中快速学习、自我完善。而以军的理想目标是，成功猎杀一名哈马斯高级官员时，在袭击中附带杀死的平民人数最好被控制在100人以内。

对事件进行披露的以色列调查记者尤瓦尔·亚伯拉罕对媒体表示，“薰衣草”系统在本轮对巴勒斯坦人的轰炸中发挥了核心作用。

以色列调查记者 尤瓦尔·亚伯拉罕：在（2023年）10月7日之后，以色列军方作出了一个决定，这数万人现在都可能在房屋内遭到轰炸。这意味着不仅他们会被杀死，大楼里的每个人，包括孩子、家人（都要被杀死）。以军为了达到目的，依靠了这款名为“薰衣草”的AI机器，但对它的人为监督却非常少。内部人士曾经承认，相对于对这部机器作出的决定，他就是个橡皮图章。

美国有线电视新闻网去年12月报道称，在冲突爆发的前两个月，以色列在加沙投放的弹药中有近一半是缺乏精确性的非制导炸弹。炸弹往往会摧毁整幢建筑，对平民造成的伤害巨大。以色列调查记者亚伯拉罕表示，依据AI的分析，一些哈马斯目标“不够重要”，为节约成本，没有必要浪费昂贵的制导导弹精确打击目标所在的特定楼层。在战争的早期阶段，这造成了大量无辜人员的死伤。

以色列调查记者 尤瓦尔·亚伯拉罕：我的意思是，根据国际法的条款，当你设计一个将37000人锁定为打击目标的系统，核实后你知道其中10%实际上并不是武装分子，这些人与哈马斯没有紧密联系或根本无关，但你仍然授权该系统在缺乏监督的情况下发动了数周（的打击）。我的意思，这难道不是违反了（国际法）原则吗？我认为国际法现在正面临危机，而AI系统正在让这场危机变得更加严重。

而在《巴勒斯坦试验场》一书的作者、《悉尼先驱晨报》记者安东尼看来，以色列如此大胆、非法、缺乏道德地训练AI武器系统，背后很可能少不了大量的数据情报支持。

《悉尼先驱晨报》记者 安东尼：我怀疑情报来源可能是美国或澳大利亚。松峡是美国在澳中部的一个主要军事基地，美国通过该基地向以色列提供信息。所有这些数据信息都汇入（“薰衣草”）系统中，从而生成了大量目标。以色列目前试图将这些（AI）工具出售给外国实体和政府。这些政府对以色列在加沙的所作所为不但不质疑，反而带着赞许。

乌克兰战场成为美军“AI武器实验室”

而在曾负责乌克兰战场AI作战测试的美国第18空降军中将多纳休眼中，乌克兰战场已成美军的“AI武器实验室”。

4月23日，由五角大楼主导的“梅文计划”的最新进展被曝光。

据《纽约时报》披露，梅文智能系统正在乌克兰战场得到快速训练和完善。简单来说，该AI系统能够将卫星、雷达、红外设备甚至社交媒体上的影像处理后汇总到一块屏幕上，帮助接入该系统的人员快速识别出打击目标。通过接入战斗机或无人机等武器系统，人类指挥官只需做出确认打击的最终决定。

英国前陆军军官 迈克·马丁：AI在武器系统中的体现之一便是自主化。我们希望武器系统实现自主化的原因是，希望它们（武器）快速做出打击行动。在战争中，如果你能先发制人，那么你就拥有巨大的优势。情报分析是一种有效的识别（打击目标的）方式，而识别某一目标恰恰是AI系统非常擅长的。

举个例子，只需让AI系统浏览一辆坦克的照片，系统便会定位出它的位置，无人机便可对坦克进行打击。

据英国《每日邮报》报道，在任何时间，俄乌前线上空都飞行着至少10000架无人机，这些无人机的单个成本大都不超过2000美元，但却可以摧毁一台价值数百万美元的主战坦克。

去年10月，据福布斯新闻网报道，乌克兰无人机公司萨克尔声称，它已经部署了一款全自主无人机——“猎隼侦察兵”。在AI的驱动下，它能够自行决定在战场上杀死谁。萨克尔官员宣称，这架无人机已经进行了小规模的自主攻击。

智能系统加快机器成为战场决策者的步伐

据英国第四新闻台报道，梅文智能系统的平台由五角大楼的承包商——美国帕兰泰尔科技公司打造。这家科技公司公然声称，其AI系统是乌克兰武器的数字大脑，乌军的大多数打击目标都是借助该平台锁定并打击的。

去年年末，帕兰泰尔发布了最新一代AI平台的详细信息。该平台为军方设计推出了大型语言模型和尖端AI技术。据帕兰泰尔介绍，该工具就像军事领域的聊天机器人，通过简单的语音指令输入便可为指挥官提供实时战略决策建议。原本可能需要花上几个小时的关键军事决策，现在只需几分钟。

人类操作者：生成三个行动方案来瞄准该敌方装备；生成一条从小分队Ω到达敌方装备的路线；摧毁敌方装备。

尽管帕兰泰尔公司表示，他们的系统遵循道德和法律准则，运行时有人工监督，无法独立发起攻击。但有分析指出，制造完全自主武器的技术早已存在，速度又是战场上的决定性因素，像梅文系统这样的平台，无疑加速了“使机器成为战场决策者”的步伐。

美国前军官保罗·沙尔，入选《时代》杂志的人工智能领域最具影响力100人。今年2月，他在《外交事务》杂志上发出警告称：“如不对自主武器系统加以严格管控，未来人类的角色将沦为打开机器并坐在场边，且几乎没有能力控制甚至结束战争。”

据彭博社报道，在美军于2024年初在中东进行的空袭轰炸中，梅文智能系统至少帮助美军锁定了85个打击目标，地点涉及伊拉克、叙利亚、也门和红海地区。

美军方加速推进人工智能技术

据《时代》周刊报道，2024财年，美国军方对人工智能的投资迅猛增加。

根据美国公布的2024财年政府预算，包括国防部、能源部、国土安全部等多个机构，累计向AI领域计划投入超过2511亿美元。如果将政府外部筹资、资本市场的投入计算在内，2024年，美国在AI领域投资预计超过数万亿美元。

2023年11月，美国国防部发布“人工智能实施战略”。摘要指出，美国防部正在加速实施先进人工智能技术，以确保美军在未来几年保持战场上的决策优势。

5月2日，在加州爱德华兹空军基地，美国空军部长肯德尔亲自体验了一把人工智能战机。他乘坐了由AI驾驶的X-62A VISTA战机。

美国空军部长 肯德尔：计算机不会感到疲倦，它并不害怕。它会遵循它的规则，并尽可能地接近完美的动作，而人类的表现总是会有一些变数。

据美国防务新闻网报道，4月20日，美国国防部高级研究计划局DARPA（Defense Advanced Research Projects Agency）发布了AI驾驶的VISTA战机与资深飞行员驾驶的F-16战机进行的一场实地模拟空战的视频。这也是AI与人类的首次空战。

面对媒体，美国空军部长肯德尔拒绝透露这场空战的具体战况。但他表示，接下来将举办更多场景的比赛，让AI战机打磨技术。

美国空军部长 肯德尔：我们可以让它（AI战机）成为先头部队，我们可以把它放在一些故意要牺牲的地方，以便吸引火力或者找出敌人在哪里。我们的飞行员普遍认为这将为他们带来竞争优势。我们正在抢占（AI）技术优势。这是这场比赛的关键之一，这事关重大。

帕尔默·拉基：“硅谷的奥本海默”

对此，“今日俄罗斯”电视台直言，战争正在为美国军工行业创造大笔“财富”。

随着全球多地冲突与对抗的加剧，对人工智能驱动武器的需求不断增加，无论是洛马、RTX（前身为雷神公司）或通用动力，无论是行业巨头还是初创企业，都在加紧自主武器开发项目，期望从美国的巨额国防预算中分得一杯羹。

安杜里尔工业公司创始人兼CEO 帕尔默·拉基：这就是“怒火”。它是一种无人驾驶战斗机，能够与有人驾驶战斗机和其他有人驾驶飞机协作，极大地扩大可攻击目标的范围，而不会让人员处于危险之中。这是自主武器系统最酷的事情之一。

31岁的帕尔默·拉基，美国国防技术和武器制造商安杜里尔工业公司的创始人兼CEO，被美国媒体称为“硅谷的奥本海默”。

4月24日，安杜里尔公司被美国空军选中，为下一阶段的AI协同作战飞机项目建造和测试无人机原型。《华尔街日报》指出，在美国五大军火制造商几乎垄断行业的背景下，安杜里尔是唯一一家赢得五角大楼多份合同的国防初创企业。

2012年，20岁的拉基创立了虚拟现实公司Oculus VR，两年后，他以20亿美元的价格将其卖给了Meta。2017年，25岁的拉基创立安杜里尔，全心投入AI自主武器研发，几个月后便与特朗普政府签订了国防大单，为墨西哥边境提供AI监视塔。

如今，其自主武器系统已被美国军方多个部门采购。截至目前，已为加沙和乌克兰战场提供了上千架Altius-600M攻击无人机。去年年末，该公司的估值约为84.8亿美元，虽然仅为美国传统军工巨头的约十分之一，但《华尔街日报》总结安杜里尔的发家秘诀便是，低成本、易操作、产品研发效率高。

去年年末，安杜里尔推出“走鹃”（Roadrunner）高爆无人机拦截器，高度仅1.5米，运输灵活，弹头载荷却是同类飞行器的三倍。相比只能单次使用、售价15万美元的AGM-114地狱火导弹和18万美元的AIM-120导弹，售价仅数万美元的“走鹃”可以从发射平台垂直起降。如果证明威胁不存在，还能完好返回指定的地点。

更让人惊艳的是，与传统军工巨头复杂的硬件平台不同，安杜里尔的操作平台Lattice如同一个总指挥中心，允许一名操作员控制和协调多个AI自主武器，无论是无人机、潜艇还是移动监视塔。

安杜里尔工业公司平台研发部主管 奇兰：你将在底部看到这个团队的所有资产，然后你将看到一个图形显示。它看起来与我们在日常生活中使用的软件非常相似。背景中有一张地图，你会在该软件上看到多辆设备，你能看到每辆设备所扮演的角色。工程师设计我们的软件，就像设计手机或iPad上的软件一样，它使用起来对用户非常友好。

帕尔默·拉基经常说，特斯拉的自动驾驶比美国军用车辆更好，iPhone的计算能力也比美国国防部常用的系统强大。未来的AI武器系统的操作应像操作任何智能手机一样简单。根据拉基的理念，在战场上，机器能做得更好，为何要劳动人呢？

安杜里尔工业公司创始人兼CEO 帕尔默·拉基：当需要在对抗环境中，对同时运行的数千或数万个武器系统，进行即时微观管理时，你不能依靠人类来做所有的事。有些任务机器人更加擅长。

《华尔街日报》直言，帕尔默·拉基的商业模式有望重塑美国国防工业。不过，拉基的理念与不少研究者背道而驰。

这不禁让人想起2017年美国加州大学伯克利分校计算机科学系教授斯图尔特·拉塞尔制作的“杀戮机器人”视频。该视频被业内认为预言了AI武器的未来。

视频展示了在不久的将来，配备面部识别系统的微型无人机装配炸药，成为恐怖的“AI杀手”。无人机有了自主思考的能力，它们首先附着在建筑物上，在墙壁上炸出洞，以便其他无人机可以进入并追捕特定的学生。十几所大学发生无人机袭击事件，数千名大学生丧生。而美国国会也出现了同样的惨剧，被AI选中的参议员被杀害。

加州大学伯克利分校计算机科学家 拉塞尔：允许机器选择性地杀死人类，将对我们的安全和自由造成毁灭性打击。我的数千名同行认为我们有机会阻止您刚刚看到的未来，但采取行动的时机窗口正在快速关闭。

5月1日，在自主武器国际会议上，美国著名信息物理学家阿吉雷发出警告，当年拉塞尔博士预言的“杀人机器人时代已经到来。”

现在，只要有一个3-D打印机和基本的编程知识，一名学生便可制作出有能力引起大规模伤亡的无人机。自主武器系统已经永远地改变了国际稳定的概念。人工智能系统遭黑客攻击、卫星和其他数据丢失，甚至人工智能本身引起的幻觉，都可能成为AI武器系统潜在的风险。

——信息物理学家安东尼·阿吉雷

奥地利外长 沙伦贝格：实际上，在某种程度上，它（AI自主武器）比奥本海默时刻更糟糕。这是自火药发明以来战场上最大的革命，而这种技术更廉价，发展更快。

电影《奥本海默》的导演克里斯托弗·诺兰曾表示，很多顶级的人工智能研究者，将当下视为他们的“奥本海默时刻”。这是一种往日经验永久失效、未知浩劫须臾降临的不祥预感。这一刻，人类及地球的命运，仿佛缩进一只盲盒中。

本周，奥地利裁军事务高级别官员、此次自主武器会议的策划者亚历山大·克门特指出，短期内依靠外交途径解决AI武器监管存在较大难度，因为这将是一项巨著式的条约。

如何在人工智能时代迎接“奥本海默时刻”的到来，需要全球智慧。

谢选骏指出：人是苦虫，不打不招，不见棺材不落泪，见了棺材不悔改——“AI奥本海默时刻”统一世界、建立全球政府的好日子，就要来到了！