Anthropic 研究：混入乾淨資料，仍可能誘發模型後門
11 月 10 日研究使用小型模型與自建資料，不代表商用 Claude 已遭攻擊。
Anthropic 合作研究發現，在特定受控實驗中，原本影響有限的投毒資料，與特定乾淨對照資料混合後，可能形成後門。
研究使用小型模型與自建資料，未研究正式產品訓練流程，不能據此指稱商用 Claude 已遭投毒。本稿未重現實驗；研究未提供港澳台或中文風險率，也不涉及產品開通或收費。
受控研究結果，不是實際攻擊通報；不可泛化至所有模型或訓練流程。
研究使用小型模型與自建資料，未研究正式產品訓練流程，不能據此指稱商用 Claude 已遭投毒。本稿未重現實驗；研究未提供港澳台或中文風險率，也不涉及產品開通或收費。
受控研究結果，不是實際攻擊通報；不可泛化至所有模型或訓練流程。
使用條件
- 香港
- 研究並非地區產品上線，也沒有港澳台用戶的風險率或中文表現估計；未重現實驗。
- 澳門
- 研究並非地區產品上線，也沒有港澳台用戶的風險率或中文表現估計；未重現實驗。
- 台灣
- 研究並非地區產品上線，也沒有港澳台用戶的風險率或中文表現估計；未重現實驗。
官方來源: Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect