伊朗关联团体被指用人工智能追踪美舰
Anthropic9月10日发布报告称，一个与伊朗有关的团体利用Claude分析公开信息，追踪中东美军舰艇并寻找通信系统弱点，公司已阻断相关活动。报告还列出也门北部团体借助模型开发多级弹道导弹等武器软件的案例；
Anthropic9月10日发布报告称，一个与伊朗有关的团体利用Claude分析公开信息，追踪中东美军舰艇并寻找通信系统弱点，公司已阻断相关活动。报告还列出也门北部团体借助模型开发多级弹道导弹等武器软件的案例；公司承认，安全措施挡住了许多请求，但并非全部，现已封禁账号、通知政府伙伴并加强检测。其他案例涉及与中国政府有关的行动利用模型监控维吾尔人、调查亚洲宗教领袖，以及俄罗斯境内人员尝试研发自主无人机群、在非洲传播亲俄宣传。公司禁止用户用模型制造武器、监视他人或实施暴力，但一些人隐瞒目的，在请求遭拒后反复改换问法。报告没有宣称这些尝试已使美舰遇袭。Anthropic表示，公开案例是为了帮助其他开发商识别类似滥用，也让政府和公民团体更清楚地了解新威胁。