1. 首页
  2. 7x24H快讯

Anthropic为Claude隐藏思考加入“上下文锁”,进一步防范模型蒸馏

OKX欧易app

OKX欧易app

欧易交易所app是全球排名第一的虚拟货币交易所,注册领取6万元盲盒礼包!

APP下载   官网注册
Odaily星球日报讯 Anthropic 开始为 Claude 的加密隐藏思考加入“上下文锁”。Fable 5.1 通过 API 生成的加密思考,需要与生成时的系统提示、工具及历史消息保持一致,一旦上下文被修改,相关思考内容将失效。据悉,该机制主要用于防范模型蒸馏攻击。此前攻击者可能利用其他兼容模型尝试读取 Claude 生成的加密思考,而此次更新进一步将思考内容与具体对话上下文绑定,在此前“模型绑定”的基础上堵住通过修改上下文提取推理过程的路径。

本文由网站用户发布,不代表炒久币网立场,转载联系作者并注明出处:https://www.chaobtc.com/kx/52327.html

相关内容