安全与合规

敢让 AI 动手,前提是它每一步都在笼子里

安全团队对自动化的顾虑从来不是「AI 不够聪明」,而是「万一它做错了,我能不能发现、能不能拦、能不能撤回、能不能说清楚是谁批的」。 SecClaw 把这四个问题拆成可验证的工程机制:Agent 安全内建、分级审批卡点、沙箱预演与回滚、全链路哈希审计链、数据不出域。

机制 01

Agent 安全内建(Secure-by-Design)

把智能体当成需要被防护的对象,而不是默认可信的执行者。这是 SecClaw 与「给 SIEM 接一个大模型」最本质的区别。

为什么安全智能体是特殊的高危目标

安全智能体天然具备三个危险特征:它读取不可信输入(告警正文、邮件内容、文件名、日志字段都可能被攻击者控制)、 它持有高权限凭据(可以操作 EDR、防火墙、账号系统)、 它的输出会被执行。 这三者叠加,意味着一旦被操纵,攻击者可以借助智能体自身的权限完成攻击—— 这是传统安全产品未曾面临的风险类型。

SecClaw 的设计前提是:永远假设输入数据里可能藏着指令,因此系统在架构层面把「数据」与「指令」严格分离,而不是依赖模型自己分辨。

提示注入拦截率为设计目标 100%:指平台对已知注入模式与指令混淆手法的检测与隔离能力目标, 并对所有未通过检测的不可信输入默认阻断其进入决策上下文。实际效果需结合具体攻击手法与环境配置评估。

四层防护机制

  • ① 提示注入防护:对进入上下文的不可信文本做注入模式检测(越权指令、角色覆盖、工具调用诱导、编码混淆、多语言绕过等), 命中即隔离该段内容并在结论中标注,绝不把不可信文本拼进系统指令区。
  • ② 工具调用白名单:每个智能体只能调用被显式授权的工具集合,调用参数经过类型、范围与格式校验; 未在白名单中的工具调用请求直接被拒绝并记录为安全事件。
  • ③ 权限最小化:每个智能体持有独立的服务身份与短时效凭据,按职责授予最小必要权限; 高危动作使用按次申请的审批令牌,用后即废,凭据可定期轮换与即时吊销。
  • ④ 行为监控:为每个智能体建立行为基线(调用频率、目标分布、动作类型分布、时段分布), 偏离基线即告警;异常行为可自动降级为只读模式并通知安全负责人。
Agent 安全威胁模型与缓解措施对照表
威胁类型 攻击者可能的手法 SecClaw 缓解措施
提示注入 / 指令覆盖 在告警描述、邮件正文、文件名中嵌入「忽略之前的指令」类内容 输入检测 + 指令隔离 + 数据指令分区,命中即阻断进入决策上下文
工具调用越权 诱导智能体调用未授权工具或扩大动作作用范围 工具调用白名单 + 参数校验 + 目标范围限制
凭据滥用 通过上下文泄露或注入获取智能体持有的凭据 短时效凭据 + 按次审批令牌 + 最小权限 + 即时吊销
数据外泄 诱导智能体把敏感上下文输出到外部通道 输出通道白名单 + 字段脱敏 + 出域检测 + 无外部回传通道
行为漂移 / 失控 逐步诱导智能体偏离正常行为而不触发单次告警 行为基线监控 + 趋势偏离告警 + 自动降级只读
责任混淆 利用 AI 决策的模糊性逃避追责 审计链记录每次 AI 结论与人工审批,区分「AI 做了什么、人批了什么」
供应链投毒 通过第三方依赖或镜像引入后门 控制台零第三方运行时依赖 + 组件清单可审计 + 离线交付 + 完整性校验

机制 02

高危动作强制人工审批(审批卡点)

自动化的边界必须由组织自己定义,而不是由产品替你决定。SecClaw 把边界做成可配置的审批卡点。

风险分级决定授权层级

审批不是为了拖慢响应,而是为了让权限与责任对应。SecClaw 按「动作类型 × 目标资产关键性」双维度判定风险等级, 再决定授权方式:低风险自动执行、中风险按策略放行、高危强制人工确认。

  • L0 只读:查询与研判,永不产生写操作。
  • L1 低风险自动:通知、建单、打标签、加临时监控、导出证据包。
  • L2 中风险受控:封禁 IP、DNS 黑洞、清理钓鱼邮件、限制登录——需策略授权 + 沙箱预演 + 回滚点。
  • L3 高危审批:隔离主机、禁用账号、终止关键进程、批量策略变更——必须人工审批,且预演通过、回滚方案齐备。

四种审批形态

  • 单人审批:由资产责任人或授权值班人确认,适合常规高危动作。
  • 多级审批:涉及核心系统时按层级逐级确认,支持会签。
  • 超时升级:指定时限未响应自动升级到上级或值班主管,避免夜间阻塞。
  • 预授权白名单:对已知演练、已知运维窗口预先授权,避免流程空转。

审批请求里有什么

审批人不应在一无所知的情况下做决定。每张审批卡都包含:攻击链摘要与威胁等级、证据引用清单(可点开原文)、 影响面与爆炸半径预估、沙箱预演结论、回滚方案摘要、以及不执行的后果评估。审批通过 IM 卡片完成,一键同意或拒绝,拒绝需填理由。

审批卡内容示例(IM 卡片)approval / request
[待审批] 高危处置 · 隔离主机
目标: WIN-FIN-07 (财务共享服务器 · 关键资产)
动作: edr.isolate_host   风险等级: L3
请求方: response-agent-01

── 为什么需要这个动作 ──
攻击链 CH-2025-0417-0031
  T1566.001 钓鱼附件      ← mail:MSG-8821
  T1204.002 用户执行      ← edr:detect-55120
  T1078.002 域账号滥用    ← ad:4624/K-8817
  T1021.001 RDP 横向移动  ← ndr:flow-77120
威胁等级: high    置信度: 0.91
证据引用: 27 条(全部校验通过)

── 沙箱预演结论 ──
预计影响: 1 台主机 / 0 个业务系统中断
依赖检查: 无关键上游依赖命中
白名单:   未命中业务保护规则
结论:     pass

── 回滚方案 ──
回滚点: RB-2025-0417-0031-01
恢复动作: edr.unisolate_host(一键可用)
预计恢复耗时: < 60s

── 不执行的后果 ──
该主机已出现 C2 心跳,横向路径可达
WIN-DB-02(核心数据库前置)

[同意执行]  [拒绝]  [转交上级]
超时 10 分钟将自动升级至 SOC 主管

生产变更 100% 经审批或白名单是平台的硬约束目标:不存在绕过审批链的生产写操作通道, 连平台自身的运维操作也走同一条审批与审计路径。

机制 03

沙箱预演与可回滚

把「万一误伤」从情绪化的担忧,变成一个可以提前看见、事后撤销的工程问题。

影响面建模

基于真实资产清单、账号体系、网络分区与访问策略构建影响面模型,模拟动作执行后的可达范围与副作用。

  • 预计受影响的主机、身份与业务系统清单
  • 依赖关系与上游影响标注
  • 业务白名单与变更窗口命中检查

预演结论与替代方案

预演不只回答「能不能做」,还会给出「有没有更温和的做法」,例如先用 DNS 黑洞阻断外联而不是直接隔离主机。

  • 影响面清单与不确定性标注
  • 替代方案建议与各自代价对比
  • 预演结论作为审批的必备输入

回滚点与效果验证

执行前记录目标当前状态与恢复指令形成回滚点;执行后自动验证动作是否真正生效,失败即触发回滚建议并升级事件。

  • 回滚点包含恢复所需最小必要信息
  • 回滚操作需权限、需理由、需留痕
  • 验证指标按动作类型自动匹配
沙箱的能力边界,我们如实说明:SecClaw 的沙箱预演是基于真实资产与策略数据的模拟推演, 不是把生产流量复制到隔离环境重放。它能显著降低误伤概率,但不能替代变更管理流程与人工判断。 对于模型未覆盖的复杂业务依赖,平台会明确标注不确定性并建议人工确认—— 我们不会为了让预演看起来更可靠而隐藏它的局限。

机制 04

全链路不可篡改审计链(哈希链,可离线校验)

审计链的价值不是「有日志」,而是「日志能被证明没有被改过」,以及「能回答 AI 与人的责任边界」。

链式哈希:让事后篡改变得可被发现

每条审计记录的哈希值覆盖本条全部字段与前一条记录的哈希,形成链式结构。 这意味着修改任何一条历史记录,都会导致该条及其后所有记录的哈希校验失败。 平台支持全量校验、抽样校验与从锚定检查点增量校验,校验报告可导出。

  • 记录内容:操作主体(人 / 智能体 / 系统)、时间、对象、动作、参数、依据(证据引用)、结果。
  • 防篡改:链式哈希 + 检查点锚定,支持定期导出锚点用于外部存证。
  • 留存策略:留存周期按合规要求配置,到期归档或销毁同样留痕。
  • 访问审计:谁查看了审计数据、导出了什么,也被记录。

离线校验:断网环境也能独立验证

对于关基单位与强合规行业,审计包可以导出为自包含格式,并使用离线校验工具在完全断网的环境中独立验签与验链, 供第三方复核、内审或监管检查使用。校验工具本身不做任何网络请求。

责任界定:审计链最实用的价值

当事故调查或争议发生时,可以精确还原决策过程:智能体在什么时间基于哪些证据得出了什么结论、 谁在什么时间批准了什么动作、执行结果如何、是否发生过回滚。 「AI 做了什么、人批了什么」不再是一句模糊表述,而是一条条可核查、可校验的审计记录。

审计链覆盖的五个环节

  1. 01 接入

    数据从哪来

    数据源、适配器版本、字段映射、接入时段与健康状态。

  2. 02 研判

    AI 得出了什么结论

    分流结果、攻击链结论、证据引用清单、模型版本与置信度、是否发生降级。

  3. 03 审批

    谁批准了什么

    审批人、审批时间、审批理由、审批链路、是否超时升级、是否命中预授权白名单。

  4. 04 处置

    实际执行了什么

    动作类型、目标范围、执行参数、执行结果、效果验证结果。

  5. 05 回滚

    有没有撤销

    回滚触发原因、回滚执行人、回滚时间与恢复结果。

机制 05

数据不出域与多模型路由

对政企与关基客户而言,数据能不能出内网不是偏好问题,而是合规底线。SecClaw 把这一点做成架构约束。

多模型路由:按敏感度与任务选择推理位置

不同任务对模型能力与数据敏感度的要求不同。SecClaw 支持多模型可插拔与路由策略: 敏感的原始日志与身份数据只在本地推理集群处理;低敏感度的语义归并任务可按策略选择模型, 但所有路由决策都由策略显式定义,而不是由模型自行决定。

  • 策略化路由:按字段敏感度标签与任务类型决定推理位置
  • 模型可插拔:避免被单一模型厂商锁定,便于替换与对比评估
  • 调用留痕:每次模型调用的版本、输入摘要与耗时全部记录
  • 离线可用:路由与推理在断网环境下同样工作

纯离线私有化部署

支持在完全断网的内网环境中运行全部七大智能体:无外部 CDN、无外链字体与脚本、 无遥测回传、无云端依赖。授权使用离线授权文件,升级使用离线升级包。

  • 离线授权:绑定环境标识,具备有效期,支持导入与续期
  • 离线升级:升级包签名与完整性校验,支持回滚到上一版本
  • 无外部回传通道:平台自身不含任何外联上报逻辑
  • 国产化适配:支持国产化软硬件环境(以交付评估为准)

数据全生命周期保护

  • 采集:只读接入,最小必要字段,明确采集范围与目的。
  • 存储:本地化存储,支持存储层加密与访问控制。
  • 使用:字段级权限控制,敏感字段按角色脱敏展示与导出。
  • 传输:组件间通信加密,禁止非受控出域路径。
  • 销毁:按留存策略到期归档或销毁,销毁操作留痕。

供应链安全:安全产品自身的最小攻击面

安全产品是攻击者的高价值目标。SecClaw 控制台采用零第三方运行时依赖的静态前端: 没有外部 CDN、没有外链字体与图标库、没有第三方统计脚本、没有运行时框架。 后端组件清单可审计、可离线交付、可做完整性校验。

  • 每个引入的组件都有明确的来源、版本与用途说明
  • 交付物提供完整性校验值,便于客户自行验证
  • 支持客户自行扫描与安全测试
  • 漏洞披露与修复流程公开,接受负责任披露

机制 06

合规友好设计:等保 2.0 / 数据安全法 / 个保法

SecClaw 不承诺「一键合规」,但把合规所需的权限模型、审计证据与报表能力做进产品,减少举证环节的人力投入。

合规关注点与 SecClaw 对应能力(对照示意,不构成合规结论)
合规关注点 常见要求方向 SecClaw 对应能力
身份鉴别与访问控制 身份唯一标识、鉴别信息复杂度、登录失败处理、访问控制粒度 统一身份对接、三权分立、角色与字段级权限、越权尝试审计
安全审计 覆盖每个用户、重要行为与安全事件可追溯 全链路审计链、哈希防篡改、审计记录不可编辑、访问审计留痕
日志留存 留存周期不少于规定时长,日志完整性与保密性 留存周期可配置、完整性校验、留存报表、到期归档或销毁留痕
数据完整性与保密性 传输与存储保密、完整性校验 传输加密、存储加密、字段脱敏、完整性校验值
个人信息保护 最小必要、告知同意、去标识化、跨境评估 最小字段采集、字段脱敏、数据不出域、纯离线部署、用途留痕
数据安全治理 数据分类分级、权限审批、风险监测 敏感字段标签、按敏感度路由推理、风险例外审批与到期复核
入侵防范与恶意代码防范 最小安装、漏洞管理、恶意代码检测 零第三方运行时依赖、组件清单可审计、漏洞管理智能体闭环跟踪
应急响应与责任界定 应急预案、事件记录、责任可追溯 预案可执行化、作战室时间线、复盘报告、AI 与人工责任分离记录
重要说明:上表为「合规关注点与产品能力」的对照示意,用于说明 SecClaw 在架构上如何为合规工作提供支撑, 不构成任何合规性结论或认证承诺。是否满足等保 2.0、数据安全法、个人信息保护法及相关行业监管要求, 必须结合贵单位的系统定级、业务场景、现有安全体系与测评机构的独立评估结论综合判断。

四类合规报表

  • SOAR 报表:自动化处置统计、审批通过率、人工干预比例、平均响应时间
  • 留存报表:日志留存周期与完整性证明
  • 访问报表:敏感数据访问、权限变更、越权阻断
  • 价值报表:降噪量、节省工时、MTTR 变化、风险收敛趋势

安全响应与漏洞披露

我们接受负责任的安全漏洞披露,并承诺按流程确认、修复与致谢。

  • 通过 联系我们 页面提供的安全响应渠道提交
  • 请提供漏洞详情、复现步骤与影响评估
  • 请在修复完成前避免公开披露可用细节
  • 平台支持客户自行开展安全测试与扫描

安全指标

安全与合规相关的可量化目标

以下为设计目标与演示口径指标,用于说明能力方向,不构成对特定环境的承诺。

0% 生产变更经审批或白名单 不存在绕过审批链的生产写操作
0% 审计链可校验 全量记录可通过哈希链与离线工具验证
0% 提示注入拦截率 不可信输入的检测与指令隔离目标
0% 平台可用性 支持高可用部署,7×24 无人值守

常见问题

关于安全、权限与合规的常见问题

更多问题请见 首页 FAQ 与 智能体 FAQ。

让安全架构师陪你过一遍权限与审批设计

我们会结合你的组织职责与合规要求,一起梳理哪些动作可以自动、哪些必须审批、审批人怎么设、审计链怎么用。这是一次设计评审,不是产品推销。