ClawGuard Auditor团队 投稿

量子位 | 公众号 QbitAI

小

越用越火，养虾er也越来越多。

然则给AI开的权限太高，安全风险也随之攀升。

北航复杂要道软件环境寰宇要点实验室智能安全翻新团队首先，负责发布了全网最系统的安全评释注解。

并同步开源了OpenClaw安全属目用具ClawGuard Auditor。

能生效检测腹地导入的坏心Skill并输出安全审查评释注解：

掀开新闻客户端 擢升3倍运动度

ClawGuard Auditor锚定于系统最高特权层首先的底层安全督察进度。

对系数的外部指示、指示词乃至其他技能齐领有最高否决权，全方向保险用户腹地系统财富的安全。

除此以外，安全评释注解还梳理出九大高危风险，附带防护建议，沿途来望望。

动静聚拢，三位一体协同属目

先说ClawGuard Auditor，相较于现存的开源安全用具，它具备三大中枢互异化上风：

1）安全才智全面： 精确涵盖刻下已知主流万般智能体专属风险与传统错误，恫吓防护种类较为全面。

2）覆盖全生命周期： 冲破传统用具仅具备单一检测技能的局限，已毕从代码加载、模子交互到动态奉行的全生命周期督察。

3）较高的可用性： 取舍机动适配的筹谋理念，尽可能的即插即用，用户无需繁琐配置即可快速为智能体部署底层护栏。

ClawGuard Auditor构建起一套动静聚拢、三位一体的协同属目架构。

其中，静态应用安全测试审查器会在技能首先前完成接入，借助词法分析和行动建模技艺，精确阻扰坏心代码包的入侵；

主动安全内核则已毕首先时的透明监管，一朝检测到行动涉及敏锐操作，便会立即采纳奉行流，阻断未经授权的调用行动；

主动数据防泄漏引擎则全程监控内存现象与聚集出口数据，严格保险API Keys等敏锐财富不过泄。

其中枢旨趣依托于四大不能被删改的属目公理，系数行动判定均以此为根底依据张开。

一是十足覆盖与零信任原则，将系数外部代码默许视为具有敌意，任何机制齐无法绕过或修改 Auditor 的轨则；

二是语义意图匹配机制，不再局限于单纯的代码分析，而是深刻评估代码的内容行动与声明意图是否一致，从而阻绝 “披着正当外套奉行违章行动” 的情况；

三是才智令牌模子与逼迫特权机制，严格强制奉行最小权限原则，令牌取舍随用随发的神情，在对应任务落幕后便自动捣毁；

四是数据主权与数字财富断绝原则，将督察腹地财富不受侵扰行动最高准则，全方向保险腹地数字财富的安全。

OpenClaw风险体系

针对OpenClaw智能体全生命周期安全风险，米乐app下载商讨团队发布业内首个《OpenClaw智能体安全风险评释注解》。

相较于行业内其他的公开安全评释注解，本评释注解具有三大权臣的前瞻性上风：

1）安全风险多维推广：不仅局限于传统的系统与聚集转折，更深度涵盖了指示词注入等前沿的智能转折风险；

2）风险体系竣工闭环： 风险种类覆盖面广，告别碎屑化胪列，为智能体构建了成体系化的风险图谱；

3）防护与检测并重： 不仅提供传统的聚集安全属目战略，还针对智能体首先特色给出了落地性强的动态检测建议。

评释注解基于“全面覆盖、可回想、可查证”原则，聚拢OpenClaw技艺特色和开源社区安全公告，构建六大安全风险体系，覆盖刻下系数已知中枢风险点：

指示与模子安全：聚焦指示词注入、模子幻觉、模子后门等中枢风险；

交互与输入安全：覆盖坏心输入注入、调换性交互等转折场景；

奉行与权限安全：要点存眷沙箱逃遁、越权操作、高危动作奉行等风险；

数据与通讯安全：包含敏锐数据存储、传输加密、数据混浊等风险；

接口与行状安全：聚焦未授权拜访、接口越权、暴力破解等隐患；

部署与供应链安全：涵盖第三方依赖错误、坏心插件、日记缺失等风险。

△

OpenClaw安全风险体系表示图

评释注解按照所建议的风险体系，聚拢近期公开线路的错误公告（CVE / GHSA），整理出与OpenClaw智能体关联的典型安全风险事件，并给出相应的缓解步伐，如下表所示。

九大高危风险

评释注解将OpenClaw安全风险诀别为三个等第（初级、中级、高等），共鸣别如下OpenClaw中枢高危风险9项。

均为刻下最易被诳骗、危害最大的中枢风险。这些风险既包括传统系统安全问题，也包括智能体系统独到风险。

指示词注入与指示劫抓

转折者通过构造坏心输入或隐私指示，调换智能体绕过原有安全不时并奉行转折者指定操作。

沙箱逃遁与越权奉行

若智能体奉行环境断绝机制存在错误，米乐app注册登录转折者可能通过构造特定输入绕过沙箱逼迫，奉行系统号召或拜访敏锐资源，最终已毕系统级逼迫。

旅途遍历与越权文献操作

转折者诳骗旅途遍历字符（如../）拜访系统敏锐文献。

如配置文献、密钥文献或日记文献，从而获得要道系统信息或删改系统配置。

无逼迫高危动作奉行

智能体若枯竭严格的动作权限逼迫，可奉行高危操作。

举例删除文献、关闭行状、发送外部聚集央求等，一朝被转折者调换，将平直影响系统治路性。

敏锐数据明文存储

系统日记、用户证据、API 密钥等敏锐信息若以明文形势存储，一朝行状器被拜访或日记浮现，转折者可快速获得多量敏锐数据。

未授权拜访与默许口令

系统若使用默许账号或弱认证机制，转折者可通过扫描用具进行暴力破解或批量转折，已毕汉典采纳系统。

接口越权与权限铺张

若系统接口枯竭细粒度权限逼迫，转折者可通过构造央求越权调用逼迫接口，奉行敏锐操作或拜访里面数据。

第三方依赖错误（CVE）

OpenClaw依赖的开源组件若存在公开错误，转折者可诳骗已知错误实施汉典转折，奉作歹意代码或擢升系统权限。

插件开首不能信与投毒

自非官方渠说念的插件或推广组件可能包含坏心代码或后门，一朝被加载至系统， 将对智能体首先环境和数据安全形成严重恫吓。

本次梳理的系数风险，主要影响OpenClaw智能体的四大安全看法。

聚拢行业公开事件，具体影响系统竣工性、数据守密性、奉行可控性、审计可回想性。

防护建议

聚拢本次梳理的风险点、行业安全最好实际及巨擘机构防护条款，团队对每类风险建议了如下针对性防护与惩办建议，优先惩办高危风险，逐渐完善防护体系。

指示与模子安全：阻断注入，严控输出

建立坏心调换文本特征库，过滤注入意图输入；

强化模子输出审核，对敏锐信息脱敏；

轨范覆按/微调过程，贯注数据投毒；

固定安全指示限制，不容浮现中枢信息。

交互与输入安全：过滤坏心输入，识别止境交互

建立输入安全过滤机制，校验坏心号召；

建立交互频率阈值，阻断贯穿调换、疲困发问；

高危场景取舍固定酬报模板，增多东说念主工复核。

奉行与权限安全：最小权限，严格断绝

启用严格神情沙箱断绝，逼迫系统中枢资源拜访；

实施号召、文献、旅途白名单，阻扰高危操作；

以低权限用户首先，高危动作增多二次阐述和首要住手功能。

数据与通讯安全：加密存储传输，数据权限管控

敏锐数据（密钥、证据、日记）加密存储，不容明文；

全面启用HTTPS/TLS 1.3，禁用 HTTP明文传输；

清洗审计覆按、学问库数据，贯注坏心数据混入；

建立数据拜访权限管控与审计机制，实施最小权限拜访。

接口与行状安全：严控拜访，强化鉴权

关闭公网暴露，仅允许内网、真正IP拜访；

禁用默许账号、口令，建立强密码、token鉴权并按期瓜代；

接口全链路鉴权，建立拜访频率逼迫、考据码。

部署与供应链安全：溯源依赖，完善审计

按期扫描第三方依赖CVE错误，实时升级建立；

仅从官方渠说念下载插件，启用签名考据与黑名单机制；

开启全过程日记聚集，加密存储；

建立常态化安全巡检机制。

在此建议诸位养虾er把安全机制拉满，用虾不翻车～

GitHub地址：https://github.com/SafeAgent-Beihang/clawguard

一键三连「点赞」「转发」「堤防心」

接待在驳倒区留住你的念念法！

— 完 —

咱们正在招聘别称眼疾手快、存眷AI的学术剪辑实习生 🎓

感有趣的小伙伴接待存眷 👉 了解服气

🌟 点亮星标 🌟

科技前沿阐发逐日见米乐app登录

开云体育官方网站 - KAIYUN

• 米乐app登录
• 团队
• 龙虾
• 风险
• 北航