“杀人机器人时代”已经到来？

  近日，来自100多个国家和地区的官员参加了在奥地利维也纳召开的自主武器国际会议，讨论AI与军事技术结合的相关话题。评论指出，随着AI驱动的致命性自主武器系统（LAWS）投入实战，继火药和核武器之后的“第三次军事革命”将可能发生。

  奥地利外长沙伦贝格对此发出警告称：“谁生谁死的决定权，必须掌握在人类而不是机器手中。但事实是，科技正在快速的提升，政策却落后了。人类正面临‘奥本海默时刻’。”

  4月29日至5月1日，自主武器国际会议在奥地利首都维也纳召开，会议的主题为“站在十字路口的人类”。

  奥地利外长沙伦贝格表示，人类正站在一个十字路口，自主武器系统很快将布满世界战场。我们已通过AI（控制的）无人机和基于AI的打击目标筛选，见识到了这一点。

  半岛电视台主播声称，据一项调查揭露，以色列陆军在加沙的轰炸行动中一直在使用未经测试的AI工具。

  4月3日，据以色列媒体《+972》杂志率先爆料，以色列军方正在加沙实地测试一款名为“薰衣草”的AI作战系统。该系统能较快地断定猎杀目标的时间、地点及方式。

  据半岛电视台报道，“薰衣草”系统已将多达37000名巴勒斯坦人列为猎杀目标。以色列陆军内部的人偷偷表示，“薰衣草”系统目前正在实战中快速学习、自我完善。而以军的理想目标是，成功猎杀一名哈马斯高级官员时，在袭击中附带杀死的平民人数最好被控制在100人以内。

  对事件进行披露的以色列调查记者尤瓦尔·亚伯拉罕对媒体表示，“薰衣草”系统在本轮对巴勒斯坦人的轰炸中发挥了核心作用。

  而在曾负责乌克兰战场AI作战测试的美国第18空降军中将多纳休眼中，乌克兰战场已成美军的“AI武器实验室”。

  据《》披露，梅文智能系统正在乌克兰战场得到快速训练和完善。简单来说，该AI系统能够将卫星、雷达、红外设备甚至社会化媒体上的影像处理后汇总到一块屏幕上，帮助接入该系统的人员快速识别出打击目标。通过接入战斗机或无人机等武器系统，人类指挥官只需做出确认打击的最终决定。

  举个例子，只需让AI系统浏览一辆坦克的照片，系统便会定位出它的位置，无人机便可对坦克进行打击。

  据英国《每日邮报》报道，在任何时间，俄乌前线架无人机，这些无人机的单个成本大都不超过2000美元，但却可以摧毁一台价值数百万美元的主战坦克。

  去年10月，据福布斯新闻网报道，乌克兰无人机公司萨克尔声称，它已经部署了一款全自主无人机——“猎隼侦察兵”。在AI的驱动下，它能够自行决定在战场上杀死谁。萨克尔官员宣称，这架无人机已经进行了小规模的自主攻击。

  据英国第四新闻台报道，梅文智能系统的平台由五角大楼的承包商——美国帕兰泰尔科技公司打造。这家科技公司公然声称，其AI系统是乌克兰武器的数字大脑，乌军的大多数打击目标都是借助该平台锁定并打击的。

  去年年末，帕兰泰尔发布了最新一代AI平台的详情信息。该平台为军方设计推出了大型语言模型和尖端AI技术。据帕兰泰尔介绍，该工具就像军事领域的聊天机器人，通过简单的语音指令输入便可为指挥官提供实时战略决策建议。原本在大多数情况下要花上几个小时的关键军事决策，现在只需几分钟。

  尽管帕兰泰尔公司表示，他们的系统遵循道德和法律准则，运行时有人工监督，无法独立发起攻击。但有分析指出，制造完全自主武器的技术早已存在，速度又是战场上的决定性因素，像梅文系统这样的平台，无疑加速了“使机器成为战场决策者”的步伐。

  美国前军官保罗·沙尔，入选《时代》杂志评出的AI领域最具影响力100人。今年2月，他在《外交事务》杂志上发出警告称：“如不对自主武器系统加以严格管控，未来人类的角色将沦为打开机器并坐在场边，且基本上没有能力控制甚至结束战争。”

  根据美国公布的2024财年政府预算，包括国防部、能源部、国土安全部等多个机构，累计向AI领域计划投入超过2511亿美元。如果将政府外部筹资、长期资金市场的投入计算在内，2024年，美国在AI领域的投资预计超过数万亿美元。

  2023年11月，美国国防部发布“人工智能实施战略”。摘要指出，美国防部正在加速实施先进人工智能技术，以确保美军在未来几年保持战场上的决策优势。

  5月2日，在加州爱德华兹空军基地，美国空军部长肯德尔亲自体验了一把人工智能战机。面对媒体，肯德尔拒绝透露这场空战的具体战况。但他表示，接下来将举办更多场景的比赛，让AI战机打磨技术。

  肯德尔表示：“我们正在抢占AI技术优势。这是这一场比赛的关键之一，这事关重大。”

  5月1日，在自主武器国际会议上，美国著名信息物理学家安东尼·阿吉雷发出警告，美国加州大学伯克利分校计算机科学系教授斯图尔特·拉塞尔此前预言的“杀人机器人时代”已经到来。

  阿吉雷表示，现在，只要有一个3-D打印机和基本的编程知识，一名学生便可制作出有能力引起大规模伤亡的无人机。自主武器系统已经永远地改变了国际稳定的概念。AI系统遭黑客攻击、卫星和其他数据丢失，甚至人工智能本身引起的幻觉，都有几率会成为AI武器系统潜在的风险。

  电影《奥本海默》的导演克里斯托弗·诺兰曾表示，很多顶级的人工智能研究者，将当下视为他们的“奥本海默时刻”。这是一种往日经验永久失效、未知浩劫须臾降临的不祥预感。这一刻，人类及地球的命运，仿佛缩进一只盲盒中。

  奥地利外长沙伦贝格表示，实际上，在某一些程度上，AI自主武器比“奥本海默时刻”更糟糕。这是自火药发明以来战场上最大的革命，而这种技术更廉价，发展更快。

  奥地利裁军事务高级别官员、此次自主武器会议的策划者亚历山大·克门特指出，短期内依靠外交途径解决AI武器监管存在比较大难度，因为这将是一项巨著式的条约。