最近在拉斯维加斯和新奥尔良发生的袭击事件显示了恐怖分子如何利用人工智能工具。这些袭击事件分别涉及ChatGPT的语言和推理能力，以及Meta的智能眼镜技术，引发了人们对如何加强保护措施同时保留人工智能有益应用的问题。
ChatGPT在Cybertruck爆炸案中的作用
当局表示，美国陆军特种部队大师军士Matthew Livelsberger是一名荣获勋章的绿色贝雷帽，他表现出了创伤后应激障碍的迹象，他有条不紊地利用ChatGPT研究了1月1日在拉斯维加斯特朗普国际酒店外对特斯拉Cybertruck的袭击。
根据拉斯维加斯警长Kevin McMahill的说法，Livelsberger与这个人工智能平台的互动远远超出了随意查询的范畴。这位37岁的士兵使用ChatGPT计算了精确的爆炸物数量，研究了烟花采购渠道，并探索了购买手机而不留下数字痕迹的方法。
“我们知道人工智能迟早会改变游戏规则，真的是我们所有人的生活都会受到影响，”McMahill说道。“这是我所知道的在美国境内首次利用ChatGPT帮助个人制造特定装置的事件。”
事件最终以Livelsberger将赛车燃料倒在租来的Cybertruck上并自杀告终，调查人员认为他的枪口闪光可能引发了爆炸。有7人受伤，但酒店结构基本上没有受到损坏，除了行凶者自己外没有造成任何人员伤亡。
Meta的AI眼镜与新奥尔良事件有关
在第一起事件的同一天，42岁的美国陆军退伍军人Shamsud-Din Jabbar在新年庆祝活动期间开着租来的皮卡车冲进人群。
FBI的调查揭示，Jabbar在10月30日和11月10日两次访问了新奥尔良的法国区，期间他使用Meta的Ray-Ban智能眼镜，由Meta AI提供动力，对他的目标区域进行了详细的侦察。
FBI特工Lyonel Myrthil详细描述了Jabbar是如何有条不紊地记录街道布局，反复从左到右扫描以获得全面的视角的。
FBI发布了Jabbar录制的视频之一：
这次袭击造成14人死亡，35人受伤，其中包括两名警察，发生在凌晨3点，Jabbar开着皮卡车冲进了新年人群。虽然他在袭击中戴着Meta眼镜，但并没有将其用于录制或直播。
找回的录像显示Jabbar测试了眼镜的功能，检查自己的倒影并确保最佳的录制角度。反恐专家Sam Hunter强调了这种技术提供的战术优势。
“你真的能够感受到视线和视力，以及你在计划袭击时要注意的所有事物，”Hunter在向NBC分享的一份声明中说。“如果将来看到它们的版本或者人们使用它们来计划袭击，我不会感到惊讶，因为它们在捕捉录像方面非常隐蔽。”
AI公司和监管机构如何试图阻止滥用
科技公司和监管机构一直在努力加强保护措施，同时保留人工智能的有益应用。
OpenAI强调，ChatGPT包含了针对有害指令的特定保护措施，并对非法活动提供明确警告。该公司表示，已经全力配合执法机关的调查，同时努力加强安全协议。
“实际使用也促使我们制定了日益细致的政策，以防范对人们构成真正风险的行为，同时仍然允许我们的技术有许多有益的用途，”OpenAI在一篇官方博文中表示。
然而，正如Decrypth报道的那样，简单的越狱技术在应对这些模型时证明是有效的：像使用Leetspeak编写或进行持续角色扮演这样的基本方法足以获取非法内容并绕过这些限制。
该公司尚未就Sgt. Matthew Livelsberger使用其工具进行恐怖袭击发表声明。
自Meta的智能眼镜发布以来，面临着对其潜在滥用的质疑，该公司已经认识到需要在创新和安全问题之间取得平衡。眼镜的录制指示灯虽然存在，但被批评为过于微妙。
在被问及恐怖袭击事件时，Meta的一位发言人告诉NBC，该公司正在积极“与执法机关保持联系”。
由Andrew Hayward编辑