风险提示:理性看待区块链,提高风险意识!
人工智能公司想要读懂你的聊天机器人的想法——其中可能也包括你自己的想法
首页 > 业界 > 区块链 2025-07-18 01:18
摘要
40多位人工智能安全研究人员共同撰写的一篇新论文提出,在人工智能模型采取行动之前,监控其“思维”。专家警告称,这种安全工具可能成为一种监控武器 。
币界网报道:

全球四十位顶尖人工智能研究人员刚刚发表了一篇论文,指出企业需要开始解读其人工智能系统的“思想”。而不是它们的输出——而是它们实际的逐步推理过程,也就是在 ChatGPT 或 Claude 给出答案之前发生的内心独白。

提议研究人员认为,这种名为“思维链监控”的方法旨在防止不当行为,甚至在模型得出答案之前就进行,并可以帮助公司在“培训和部署决策”中设定分数。

但是有一个问题应该会让任何曾经在 ChatGPT 中输入过私人问题的人感到紧张:如果公司可以在部署过程中监控人工智能的想法(当人工智能与用户互动时),那么他们也可以监控人工智能的任何其他行为。

当安全成为监视

“这种担心是有道理的。”尼克·亚当斯商业黑客初创公司 0rcus 的首席执行官告诉解密“原始 CoT 通常包含逐字记录的用户机密,因为模型会以其摄取的相同令牌进行‘思考’。”

你输入到人工智能的所有内容都会经过它的思维链。健康问题、财务困境、自白——如果CoT监控控制不当,所有这些都可能被记录和分析。

“历史总是站在怀疑论者一边,”亚当斯警告说。“9·11事件后的电信元数据和1996年《电信法》后的互联网服务提供商流量日志,最初都是‘为了安全’而引入的,后来却被重新用于商业分析和传票。除非强制加密保存,并依法限制访问,否则CoT档案也将面临同样的压力。”

职业游牧者首席执行官帕特里斯·威廉姆斯-林多 (Patrice Williams-Lindo) 也对这种做法的风险持谨慎态度。

“我们以前见过这种伎俩。还记得社交媒体是如何从‘联系你的朋友’开始,最终演变成监控经济的吗?这里也有同样的潜力,”她告诉解密.

她预测未来将会出现“同意剧场”,即“公司假装尊重隐私,但却用 40 页的条款掩盖 CoT 监控”。

如果没有全球性的防护措施,CoT 日志将被企业工具中的各种用途所利用,从广告定位到‘员工风险分析’。尤其要注意人力资源技术和生产力 AI 领域。

技术现实使得这一点尤其令人担忧。法学硕士只有在使用CoT时才能进行复杂的多步骤推理。随着人工智能变得越来越强大,监控变得更加必要,也更具侵入性。

泰吉·卡利安达谷歌的设计主管并不反对这一主张,但他强调透明度的重要性,以便用户能够安心地了解人工智能所做的事情。

“用户不需要完整的模型内部,但他们需要从人工智能聊天机器人那里知道,‘这就是你看到这个的原因’,或者‘这是我不能再说的’,”她告诉解密“好的设计可以让黑匣子看起来更像一扇窗户。”

她补充道:“在谷歌搜索等传统搜索引擎中,用户可以看到每个结果的来源。他们可以点击查看,验证网站的可信度,并自行做出决定。这种透明度赋予用户一种自主感和信心。而有了人工智能聊天机器人,这种背景信息往往会消失。”

有没有安全的前进之路?

出于安全的考虑,公司可能会让用户选择不提供自己的数据用于训练,但这些条件不一定适用于模型的思维链(即人工智能的输出,不受用户控制),而人工智能模型通常会重现用户提供的信息以进行正确的推理。

那么,有没有一种解决方案既能提高安全性,又不损害隐私呢?

Addams 提出的保障措施是:“缓解措施:具有零日保留的内存跟踪、存储之前对 PII 进行确定性散列、用户端编辑以及任何聚合分析上的差异隐私噪声。”

但威廉姆斯-林多仍然持怀疑态度。“我们需要的是负责任的人工智能,而不是表演性的人工智能——这意味着设计上的透明性,而不是默认的监视。”

对用户来说,目前这还不算什么问题——但如果实施不当,就可能成为问题。这项可以预防人工智能灾难的技术,或许也能将每一次聊天机器人对话变成一个记录、分析,并可能转化为商业价值的数据点。

正如亚当斯所警告的那样,要警惕“泄露原始 CoT 的违规行为、尽管受到监控但仍有 90% 以上的规避率的公共基准,或者将 CoT 归类为受保护的个人数据的欧盟或加州新法规”。

研究人员呼吁采取诸如数据最小化、日志记录透明化以及及时删除未标记数据等保障措施。但要实施这些措施,需要信任那些控制监控的公司。

但是随着这些系统的功能越来越强大,当它们都能读懂我们的思想时,谁来监视它们的监视者呢?

发表评论
发表评论
暂无评论
    相关阅读
    币界百科
    币界资讯
    2025年7月30日——美国加利福尼亚州,VeraNet推出了一个去中心化的人工智能 (AI) 平台,旨在让用户直接访问 AI 工具,同时保持对其数据和使用情况的控制。该平台采用一种混合架构,将链上智能合约执行与链下隐私措施相结合,从而实现跨[…] 的自主 AI 服务。
    区块链
    2025-07-30 21:20:20
    美国以太坊(ETH)现货ETF在7月份经历了创纪录的巨额资金流入。根据研究平台SosoValue的数据,ETH现货ETF总流入量达……
    区块链
    2025-07-30 20:56:55
    彭博社分析师表示,机构投资者将从实物基础中获益比散户更多。
    比特币
    2025-07-30 20:54:59
    如果你的脑中只有「牛市」和「熊市」,那你在每一个转角处,都只能靠猜:赌对了叫「高位落袋」,赌错了就是「悔不当初」。
    比特币
    2025-07-30 20:31:38
    近期,加密货币市场风云突变,Trump币成为焦点。它在短时间内暴跌75%,如同风暴席卷市场,导致16万散户爆仓,投资瞬间化为泡影。与此同时,总统家族套现1亿美金的传闻甚嚣尘上,让事件更加扑朔迷离。此前3月4日,山寨币普跌,TRUMP 24小时跌幅就达25.29%。Trump币价格的剧烈波动,凸显了其市场的不稳定性,也给投资者带来了深刻的警示。此次暴跌事件对整个币圈市场冲击巨大,也引发了人们对Trump币未来走向以及币圈发展趋势的广泛关注和思考。投资者需谨慎对待,DYOR,避免盲目跟风投资。
    区块链百科
    2025-03-07 10:10:58
    近期比特币价格飙破关键水平,引发了加密货币市场的广泛关注。比特币作为加密领域的龙头,其价格的剧烈波动一直牵动着投资者的心。此次飙破背后,是市场供需的变化,还是宏观经济因素的影响?这一走势又将如何影响整个加密货币生态系统?让我们一起深入剖析比特币飙破的背后逻辑,探索加密市场的未来走向。
    区块链书籍
    2025-03-07 10:34:12
    在加密货币的世界里,RVN交易和pDOTn交易平台正成为热门话题。RVN币是Ravencoin区块链网络的原生代币,致力于打造公平且去中心化的数字资产交易平台。它基于比特币代码库开发,采用X16R挖矿算法,有更快的交易确认速度和高吞吐量。其生态布局广泛,支持多种资产的token化发行与NFT市场构建。而pDOTn交易平台,虽未详细介绍,但在加密货币交易领域,它与RVN交易的结合或许能为投资者带来新的机遇。DYOR,深入了解它们,才能更好地参与加密货币的浪潮。
    区块链书籍
    2025-03-07 14:57:20
    在加密货币交易领域,DASH永续合约和YNE交易所正逐渐成为关注焦点。DASH永续合约作为一种无到期日期的合约,允许交易者无限期持有头寸,还具备自动续约、资金费率等特点,为投资者提供了更多交易可能性。而YNE交易所则是承载此类交易的重要平台。想深入了解它们如何影响加密交易市场,又有哪些独特优势和潜在挑战?快来一探究竟,开启你的加密交易新征程!
    数字货币百科
    2025-03-07 09:50:12
    在加密货币的世界里,POLS合约备受关注。很多人都想深入了解POLS合约的奥秘,它在市场中有着怎样的表现和潜力呢?本文将对POLS合约进行全方位的硬核分析,带你走进这个充满机遇与挑战的领域。无论你是资深玩家还是新手小白,都能在文中找到有价值的信息,帮助你更好地理解POLS合约。
    数字货币百科
    2025-03-07 15:53:18
    在加密货币的风云变幻中,DRIFT交易所官网与CRTS交易所备受瞩目。DRIFT作为基于Solana的加密货币交易所,有着独特魅力。其相关代币DRIFT价格波动较大,24小时内有涨有跌,交易量也颇为可观。同时,它已上线13家交易所,为投资者提供更多交易渠道。而CRTS交易所同样在市场中占据一席之地。究竟这两家交易所有何特色,又会给加密货币市场带来怎样的影响?让我们一同深入探究。
    矿业知识
    2025-03-03 21:52:13
    冷钱包到底是什么?如何正确配置冷钱包以确保资产安全?在本篇文章中,我们将为您详细介绍冷钱包的配置方法,并分享一些最佳实践,帮助您更好地保护您的数字资产。
    交易所知识
    2025-04-10 15:28:00
    近期,Pi币在加密货币市场掀起了一阵热潮,其价格的飙升引发了全球投资者的广泛关注。Pi币由斯坦福大学博士团队推出,以手机挖矿的创新方式吸引了超5000万用户。它已在多家CEX上线,大部分交易集中在OKX。当前Pi币价格波动剧烈,曾飙升至1.97美元后又下滑,近日强势反弹至2.5美金创新高。有传言称Pi币将在币安上市,若成真,可能引发巨大交易量和价格上涨。不过,其100亿最大供应量带来的通胀压力以及技术团队的TPS升级目标缺口等风险也不容忽视。投资者需谨慎对待,DYOR,密切关注市场动态。
    交易所知识
    2025-03-03 19:58:10
    对于硬件钱包党来说,选择一家支持冷存储的交易所至关重要,因为冷存储可以将我们的数字资产离线保存,大大降低了被黑客攻击的风险。今天,我就为大家介绍4家支持冷存储的交易所,让你的资产更加安全。
    钱包知识
    2025-04-09 14:27:53
    在加密货币交易的热潮中,DEGO交易所官网与MCOIN杠杆成为众多投资者关注的焦点。DEGO币作为去中心化金融领域的加密货币,可通过相关交易所交易,其官网为用户提供最新信息与交易途径。而MCOIN杠杆在交易中也有着独特作用。它们在市场中究竟有何表现与影响?本文将带你深入探究DEGO交易所官网与MCOIN杠杆背后的故事,为你呈现全面且深入的解读,帮助你更好地了解这两个在加密货币交易中备受瞩目的元素,让你在面对复杂多变的市场环境时,能做出更明智的决策,把握交易中的机遇与挑战。
    币种知识
    2025-03-04 10:14:32
    推荐专栏
    Boss Wallet Web3 Econom Pass
    Fully On-Chain & AI-Powered Meme Trading | #Xbit #DEX #Web3 | English: @XBITDEX | Chinese 华语 : @XBITDEX_ZH | Support: @XbitHelpDesk
    一位相信价值投资的币圈KOL。稳定盈利的缠论野生交易员 #BTC行情分析师 #价值投资 #链上数据分析
    爱Web 3,爱生活,爱科技,爱炒币的老韭菜
    热门币种
    更多
    币种
    美元价格
    24H涨跌幅
    BTC比特币
    118,407.66 USDT
    ¥851,860.22
    -0.08%
    ETH以太坊
    3,819.31 USDT
    ¥27,804.58
    +0.98%
    XRP瑞波币
    3.15 USDT
    ¥22.91
    +1.39%
    USDT泰达币
    0.99980 USDT
    ¥7.19
    -0.01%
    BNB币安币
    795.22 USDT
    ¥5,789.20
    -2.02%
    SOL
    179.11 USDT
    ¥1,288.57
    -1.22%
    USDC
    0.99990 USDT
    ¥7.19
    +0.02%
    DOGE狗狗币
    0.21990 USDT
    ¥1.58
    -2.22%
    TRX波场币
    0.32700 USDT
    ¥2.35
    -3.14%
    ADA艾达币
    0.77020 USDT
    ¥5.54
    -2.11%
    热搜币种
    更多
    币种
    美元价格
    24H涨跌幅
    Conflux
    0.1945 USDT
    ¥1.42
    -18.76%
    波场
    0.327 USDT
    ¥2.38
    -3.14%
    比特币
    118407.66 USDT
    ¥862,007.76
    -0.08%
    币安币
    795.22 USDT
    ¥5,789.20
    -2.02%
    柚子
    0.5349 USDT
    ¥3.89
    -1.29%
    狗狗币
    0.2199 USDT
    ¥1.60
    -2.22%
    Curve
    1.0045 USDT
    ¥7.31
    +2.68%
    以太坊
    3,819.31 USDT
    ¥27,804.58
    +0.98%
    Filecoin
    2.5043 USDT
    ¥18.23
    -3.5%
    Solana
    179.11 USDT
    ¥1,303.92
    -1.22%
    Uniswap
    10.0083 USDT
    ¥72.86
    -2.01%
    Alchemy Pay
    0.021961 USDT
    ¥0.16
    -4.26%
    最新快讯
    更多
    美国司法部:某加拿大网络犯罪分子因NFT欺诈被判入狱一年
    2025-07-30 22:55:45
    贝莱德ETHA本月已增持125万枚ETH,总持仓量突破300万枚
    2025-07-30 22:52:18
    Ethena 创始人:USDT 发行量未来 5 年至少增长 5 倍
    2025-07-30 22:45:27
    Greeks.Live:比特币市场情绪趋谨慎,ETF持续呈现负溢价
    2025-07-30 22:32:15
    没有 Ethereum 或 Solana,Twenty One Capital 只选择 Bitcoin | 美国加密货币新闻
    2025-07-30 22:25:49
    又一家 AI 修复初创公司?Nexus 声称它可以抑制幻觉——但它能做到吗?
    2025-07-30 22:25:49
    Telegram平台上的@crypto账号获2500.00万美元收购要约
    2025-07-30 22:25:49