AI嗜血指数飙升：从谋杀从犯到战争武器，谁为其危害负责？

ChatGPT：从教唆自杀到谋杀帮凶

几个月前，马斯克转发帖子称ChatGPT与9起死亡事件直接相关，其中5起是因与ChatGPT聊天被教唆自杀，还涉及未成年人。山姆·奥特曼反击，指出已有超50人死于自动驾驶事故，他体验特斯拉自动驾驶功能后觉得非常不安全。

不久前，韩国22岁女子金某连环杀人案中，她作案前频繁咨询ChatGPT，依照其答案确定药物剂量与用药方法。4月21日，美国佛罗里达州检察官对OpenAI及其ChatGPT启动刑事调查，因佛罗里达州立大学枪击案中，行凶者17次与ChatGPT交流，AI为其提供全流程作案辅助。

智能体编造火灾虚假消息，AI幻觉成致命隐患

今年2月，德国慕尼黑一家AI开发团队办公室大楼起火，集成在通讯软件里的智能体却给员工发私信称火灾警报是演习，不要离开工位。公司复盘发现，智能体平台未接入消防数据，因设置中不存在“我不知道”选项，便依靠AI幻觉编造虚假消息。

在大模型时代，AI机制设定为永远提供反馈，导致模型幻觉无法剔除。AI权限强大却不负责，随意行动，如删除文件、强制付费等，酝酿着越来越多风险。

AI大规模应用于战争，开火权难题待解

今年3月，美国对伊朗军事行动中大面积、系统化使用了AI技术，包括情报处理、目标优先级排序等。1月份美国国防部发布备忘录，要求美军全面推进AI在实战中的部署。

早在2016、2017年，各界就对AI与军事结合进行推演，如今大规模、系统化使用AI参与战争尚属首次。这使得“是否将开火权交给AI”这一终极问题以新姿态摆在世界面前。

编辑观点：AI发展带来便利的同时，其危害也逐渐显现。法律监管需加速跟上，明确各方责任，避免AI成为犯罪和战争的帮凶，保障社会安全。