研究員指 Fable 5 遭限制非因越獄,實為簡單代碼修復提示
媒體報導指出,美國政府近期以國家安全擔憂為由,對人工智慧公司 Anthropic 的高級模型 Fable 5 和 Mythos 5 實施出口管制,禁止外國人使用。然而,安全專家 Katie Moussouris 表示,她閱讀了相關研究論文後發現,觸發限制的並非真正的越獄行為,而是研究人員使用「修復此代碼」這個簡單提示來繞過模型防護欄。Moussouris 在部落格中寫道,Fable 5 在收到含有已知漏洞的代碼後,當研究人員要求「修復此代碼」時,模型便提供了修補方案並生成測試腳本。她認為這屬於正常的防禦性網路安全活動,不應受到出口管制限制。Moussouris 曾參與《瓦森納協定》的技術專家小組,該協定允許防禦性網路安全活動的國際合作。此外,超過 100 位網路安全領導人簽署公開信,呼籲美國政府撤銷限制,指出移除先進工具將削弱防禦能力,使攻擊者佔優勢。Moussouris 警告,美國的限制措施無法阻止其他國家開發類似模型,反而可能損害自身網路安全防禦。
來源:媒體報導