Claude跨產品沙盒技術概述

在個人部落格中，作者分享了Anthropic最近發布的技術文檔，詳細說明了如何跨產品約束Claude。根據官方公告表示，Anthropic使用了多種沙盒技術來設置硬邊界，限制AI代理的行為。具體而言，在Claude.ai中採用gVisor進行沙盒化，Claude Code在macOS上使用Seatbelt、在Linux上使用Bubblewrap，而Claude Cowork則運行完整的虛擬機，例如macOS上的Apple Virtualization框架和Windows上的HCS。這些措施旨在確保即使出現創意路徑或攻擊，憑證等敏感資訊也不會進入沙盒，從而防止洩露。文檔中還包括了一些有趣的故事，例如他們之前錯過的風險案例，如api.anthropic.com/v1/files的洩露向量。作者提醒讀者，是時候重新審視Anthropic的開源工具srt（Anthropic Sandbox Runtime），並準備親自嘗試。整體而言，這份概述展示了AI安全領域的進展，並鼓勵更多透明度和信任。