Anthropic 研究：混入干净数据，仍可能诱发模型后门
11 月 10 日研究使用小型模型和自建数据，不代表商用 Claude 已遭攻击。
Anthropic 合作研究发现，在特定受控实验中，原本影响有限的投毒数据，与特定干净对照数据混合后，可能形成后门。
研究使用小型模型和自建数据，未研究正式产品训练流程，不能据此指称商用 Claude 已遭投毒。本文未复现实验；研究未提供港澳台或中文风险率，也不涉及产品开放或收费。
受控研究结果，不是实际攻击通报；不可泛化至所有模型或训练流程。
研究使用小型模型和自建数据，未研究正式产品训练流程，不能据此指称商用 Claude 已遭投毒。本文未复现实验；研究未提供港澳台或中文风险率，也不涉及产品开放或收费。
受控研究结果，不是实际攻击通报；不可泛化至所有模型或训练流程。
使用条件
- 香港
- 研究不是地区产品上线，也没有港澳台用户的风险率或中文表现估计；未复现实验。
- 澳门
- 研究不是地区产品上线，也没有港澳台用户的风险率或中文表现估计；未复现实验。
- 台湾
- 研究不是地区产品上线，也没有港澳台用户的风险率或中文表现估计；未复现实验。
官方来源: Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect