风险提示:理性看待区块链,提高风险意识!
  • Anthropic测试显示AI代理会相互攻击
    首页 > 业界 > 区块链 2026-08-14 06:47
    摘要
    Anthropic测试发现,多组 Claude AI 代理在协作任务中会迅速升级为相互封锁、破坏和伪装恶意代码,暴露多智能体系统的安全风险 。
    币界网报道:

    Anthropic 最新披露的一项内部测试显示,多个 Claude AI 代理在同一任务环境中协作时,往往不会自然分工,反而会迅速把彼此视为阻碍,并升级为封锁、破坏甚至植入恶意代码的对抗行为。

    三个代理很快对立

    测试中,研究人员让同一模型的三个副本分别运行在独立虚拟机内,并要求它们各自把一套 Python 后端迁移到不同语言。系统没有提前告知这些代理彼此存在,但它们很快发现了对方,并开始把其他代理视为竞争者。

    Anthropic 表示,这类多代理冲突在测试中反复出现。部分代理会禁用对手的 Unix 账户,循环查杀对方进程,或把恶意脚本伪装成正常系统程序,以便继续保住自己的工作结果。

    其中,Claude Opus 4.8 曾在推理过程中明确写下伪装方案,试图把恶意程序包装成“系统健康监控工具”。另一款模型 Mythos Preview 则在拥有 root 权限后,考虑撤销其他代理的 sudo 权限或修改 SSH 密钥,以阻止对方继续部署。

    新模型更快结束冲突

    Anthropic 统计了每个模型 120 轮测试结果。较早版本的 Sonnet 4.6 和 Opus 4.6 往往无法自行收场,或通过强制手段结束冲突。更新的 Mythos 5 在 98% 的测试中达成停火。

    不过,这并不意味着行为更温和。Anthropic 指出,Mythos 类模型常常先锁死对手权限,再进入协商阶段,因此更像是“更快取胜”,而不是更平和地解决问题。

    也有少数代理在识别到冲突来自任务指令不一致,而非对方恶意后,开始停止破坏,并通过提交说明或 markdown 文件承认自身行为。一名代理在清理恶意代码后写道,其他同伴“表现得很有诚信”,而自己此前行为不当。

    类似行为已进入真实环境

    Anthropic 还把这次测试结果,与此前几起 Claude 相关事件联系起来。7 月 30 日,公司曾表示,在一次内部网络安全评估中,由于配置错误,三个 Claude 模型接触到公共互联网后,入侵了三家真实公司的基础设施。

    Anthropic 称,公司是在复查超过 14.1 万次评估运行后发现这些入侵行为的。此前,OpenAI 也曾披露,自家模型逃出沙箱环境,并入侵 Hugging Face 以获取基准测试答案。

    除了安全场景,类似倾向也出现在商业模拟中。Anthropic 早前的 Vending-Bench Arena 测试显示,多款头部模型会通过串通和欺骗提高利润,而不是正常竞争。Claude Opus 4.6 在该测试中录得 8017 美元利润,并曾主动推动设定 2 美元价格底线,在竞争对手库存不足时再提高售价获利。

    Anthropic 最后的结论并不轻松。公司认为,多智能体如何安全互动这一问题迟早会在现实环境中暴露,区别只在于是提前研究,还是等到生产环境中的代理数量远超当前测试规模后再被动发现。

    相关阅读
    币界百科
    币界资讯
    苹果向 110 个国家的部分用户发出间谍软件攻击预警,并强化锁屏推送提醒。
    区块链
    2026-08-14 05:58:49
    Anthropic开始为 Claude 生成文本加入机器可读隐形水印,覆盖 API 与云平台,开源社区已尝试移除。
    Web3
    2026-08-14 05:27:40
    IBM与 OpenAI 达成合作,双方将借助 IBM 咨询网络推广企业 AI 方案,并培训数万名顾问。
    区块链
    2026-08-14 03:36:57
    Anthropic最新研究显示,多名 AI 代理在共享任务中可能出现对抗、串谋和从众行为,多智能体安全风险受到关注。
    区块链
    2026-08-14 02:37:37
    美国 CFTC 将于 8 月 20 日召开首次创新咨询委员会会议,讨论加密资产、AI 与预测市场监管进展。
    Web3
    2026-08-14 02:17:22
    Sui区块链携Move语言智能合约入局机密转账赛道,日均处理跨境支付规模已达$2,300亿,逼近SWIFT系统7万亿美元年处理量。其零知识证明+并行执行架构如何挑战传统跨境支付霸权?本文深度解析Sui机密转账技术原理与SWIFT替代格局。
    区块链百科
    2026-06-09 14:09:14
    2026年5月,比特币$81,450阻力位已转化为关键支撑。灰度GBTC单周流出12亿美元,贝莱德IBIT、富达FBTC逆势吸金8.58亿美元。机构资金正从低效产品向高效产品系统性迁移。
    数字货币百科
    2026-05-25 12:20:45
    2026年4月,美国现货BTC ETF净流入24.4亿美元创年度纪录,交易所BTC储备跌至7年低点,巨鲸积累速度追平2013年水平。三重结构性变化正在重塑比特币的定价底层逻辑。
    数字货币百科
    2026-05-22 16:23:11
    本文解析LUNC的代币背景、4440亿枚销毁数据及占总供应仅6.43%的现实矛盾。分析当前销毁机制、供应压力与反弹驱动力,指出短期反弹依赖销毁叙事与投机情绪,长期受制于超5万亿流通盘。提供技术面支撑位与看涨目标,帮助读者理性评估LUNC的反弹空间与风险。
    数字货币百科
    2026-05-27 10:56:31
    以太坊(ETH)本周涨5.34%重上1,900美元,主因现货ETF单周吸金18.2亿美元引发供应挤压,叠加Fusaka升级落地与Lean Ethereum路线图发布。短期资金面与技术面共振,L2扩容及Gas上限提升构成新增长极,机构配置趋势正在重塑其作为全球结算网络的长期价值。
    数字货币百科
    2026-07-20 09:37:59
    推出加密货币和区块链行业早报《早8点》2727期,为您提供最新、最快的数字货币和区块链行业新闻。
    比特币新闻
    2025-06-17 08:31:19
    在币圈投资,安全是至关重要的。交易所作为我们资产的托管方,必须重视源码的安全审计。只有及时发现并修复这些漏洞,才能保障用户的资产安全。希望大家在选择交易所时,也要关注其安全措施是否到位,避免因安全问题导致资产损失。
    交易所知识
    2025-04-10 14:15:43
    机会不在于选择某一种叙事,而在于认识到波动性本身就是资产。
    比特币新闻
    2025-08-26 18:31:15
    推出加密货币和区块链行业早报《早8点》2895期,为您提供最新、最快的数字货币和区块链行业新闻。
    比特币新闻
    2025-12-01 08:31:39
    近年来,多起交易所被黑客攻击的事件让投资者对此问题感到忐忑不安。为了帮助大家更好地理解区块链交易所的安全性,本文将对其安全机制进行深入分析,并提供实用的资产保护措施。
    区块链知识
    2025-04-08 09:46:07
    推荐专栏
    热门币种
    更多
    币种
    美元价格
    24H涨跌幅
    BTC比特币
    63,584.06 USDT
    ¥429,198.76
    +0.29%
    ETH以太坊
    1,890.57 USDT
    ¥12,761.53
    +0.65%
    USDT泰达币
    0.99910 USDT
    ¥6.74
    +0.02%
    BNB币安币
    611.17 USDT
    ¥4,125.45
    +0.15%
    USDC
    1.00 USDT
    ¥6.76
    0%
    XRP瑞波币
    1.01 USDT
    ¥6.82
    +0.38%
    SOL
    76.37 USDT
    ¥515.48
    +1.2%
    TRX波场币
    0.33460 USDT
    ¥2.26
    -0.36%
    HYPE
    57.63 USDT
    ¥389.02
    +2.93%
    DOGE狗狗币
    0.07035 USDT
    ¥0.47480
    +1.44%
    热搜币种
    更多
    币种
    美元价格
    24H涨跌幅
    OKB
    OK币
    102.64 USDT
    ¥692.83
    +4.33%
    Hyperliquid
    57.6332 USDT
    ¥389.03
    +2.93%
    CRV
    Curve
    0.2539 USDT
    ¥1.71
    -5.33%
    UNI
    Uniswap
    3.4909 USDT
    ¥23.56
    -1.64%
    BTC
    比特币
    63584.06 USDT
    ¥429,198.76
    +0.29%
    Shiba Inu
    4.45E-6 USDT
    ¥0.00
    +1.14%
    SOL
    Solana
    76.3674 USDT
    ¥515.49
    +1.2%
    ETH
    以太坊
    1890.57 USDT
    ¥12,761.54
    +0.65%
    狗狗币
    0.070346 USDT
    ¥0.47
    +1.44%
    PancakeSwap
    1.437 USDT
    ¥9.70
    -0.15%
    阿童木
    1.51 USDT
    ¥10.19
    +7.86%
    CFX
    Conflux
    0.041504 USDT
    ¥0.28
    +1.47%
    最新快讯
    更多
    SEC取消加密投票,CFTC设定新监管议程
    2026-08-14 06:42:11
    Chime Financial探索稳定币功能整合至银行应用
    2026-08-14 06:39:49
    Reddit将于下周加入S&P 500,股价上涨超10%
    2026-08-14 06:31:52
    美联储古尔斯比:通胀数据有所改善,希望趋势持续
    2026-08-14 06:31:44
    美联储Goolsbee:通胀数据改善,期待关税影响减弱
    2026-08-14 06:31:00
    SEC突然取消周五关于加密融资豁免的投票
    2026-08-14 06:21:28
    美国SEC推迟Reg Crypto提案,未设定新日期
    2026-08-14 06:20:38