ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

Hermes Agent 安全实践:沙箱、审批与审计如何守住 AI 终端

Hermes Agent 安全实践:沙箱、审批与审计如何守住 AI 终端 Hermes Agent 安全实践沙箱、审批与审计如何守住 AI 终端【免费下载链接】hermes-agentThe agent that grows with you项目地址: https://gitcode.com/GitHub_Trending/he/hermes-agentHermes Agent 是一个持续成长的开源 AI 代理能替你执行终端命令、读写文件、自动完成任务。把终端交给 AI前提是它必须被管住。这篇文章围绕让 AI 在受控环境中执行这一主线把它的沙箱隔离、权限审批、命令审计三层设计讲清楚。从一个误删场景说起命令执行为什么需要边界假设代理接到清理构建产物的指令生成的命令删除范围却偏大了一步。这是 AI 自动化里最现实的风险终端命令没有撤销键执行即生效。项目的安全策略文档见 SECURITY.md把这一点说得很直接进程内的拦截规则只能降低误操作概率真正的安全边界在操作系统层面的隔离。下面三道防线都挂在这个思路上。️ 终端沙箱给命令先画一道围栏代理执行命令的去处不是固定的。它的终端执行目标是可插拔的默认直接在宿主机终端运行也可以换成容器、远程主机或云沙箱。画好这道围栏后就算命令真的跑偏影响的也只是沙箱内的环境主机上的文件和网络不受牵连。对做评测、跑批量任务的用户项目里的约定就是测试要在模型的终端沙箱里跑目的就是别让实验性命令碰到真实环境。 权限审批高危命令由谁拍板沙箱管在哪跑审批管该不该跑。Hermes Agent 在命令链路里内置了审批门检测到常见的破坏性命令模式时会先向你确认再执行不存在先删了再报告的环节。文件写入同样有规矩——编辑集成流程里代理会先给出一个编辑提案经你同意才落盘见 acp_adapter/edit_approval.pyagent/file_safety.py 则把部分敏感路径列为禁止写入区。项目还提供紧急停止机制一旦触发暂停新任务、定时作业、消息处理全部停摆已在运行的工作不会被强杀留给你排查的窗口。授权粒度上它走的是默认收回派发子进程任务时API 密钥之类的凭据默认从环境中剥离只有你显式声明的变量才会传下去。 命令审计每一步都能回头查审批防错审计解决它到底干了什么。agent/trajectory.py 以 JSONL 格式把代理的执行轨迹追加写入轨迹文件带上会话内容与是否完成的标记配合会话历史查询你可以随时回看某次任务执行了哪些命令、顺序如何、返回了什么。事后定位异常时能精确追到具体某一步。这类日志不只是出事后才看定期翻一翻近期的执行记录本身就是一种发现代理异常行为的好习惯。用前用后的安全检查单首次启用确认终端执行目标指向沙箱后端而非宿主机并检查凭据是否默认不传给子进程。日常使用保持审批门开启发现代理行为偏离预期先暂停新任务再回头查轨迹日志。定期检查浏览近期审计记录安装第三方技能与插件前通读其代码它们与代理同权运行关注依赖升级是否修复已知漏洞。想进一步了解信任模型、漏洞报告范围与部署加固建议直接读仓库根目录的 SECURITY.md文档会随版本持续更新值得常翻。【免费下载链接】hermes-agentThe agent that grows with you项目地址: https://gitcode.com/GitHub_Trending/he/hermes-agent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表