Anthropic PBC表示，其人工智能模型Claude遭到滥用，被用于尝试开发多种潜在军事用途 ，包括自杀式无人机群、导弹导航系统和生物武器。
Anthropic威胁情报团队周四发布的报告显示 ，过去一年被标记为滥用该公司前沿模型的用户来自包括伊朗 、俄罗斯 、中国和也门在内的多个国家。上述案例均未涉及Anthropic最先进的Fable和Mythos模型 。
Anthropic在报告中表示：“随着模型能力不断增强，如果AI开发者以及社会中的防护力量不采取行动提高安全性 ，其风险也将随之上升 。”
美国AI公司一直在竞相开发和部署能力更强的AI系统 ，部分原因是希望保持对中国等竞争对手的领先，同时努力维持安全防护措施。Anthropic正试图防止其技术被用于有害目的 ，包括研发生物武器和常规武器 。
这一立场令Anthropic与五角大楼发生直接冲突 。此前 ，Anthropic拒绝允许Claude被用于大规模监控或自主武器系统，五角大楼随后暂停了与该公司的合作 。
报告称 ，一些用户曾试图利用Claude协助美国的敌对方 。在许多案例中 ，他们试图绕过Claude的安全防护措施，或隐瞒所在位置 。
