Commit 87d29af
committed
feat(safety): 新增脚本安全护栏模块,支持 LLM 生成脚本预执行静态分析
新增 Script Safety Guard 模块,对 LLM 生成的 Python/Bash 脚本在执行前
进行静态安全分析,提供三级决策机制(ALLOW/WARN/DENY)。
主要内容:
- 核心引擎 ScriptSafetyGuard,10 步扫描管道
- 数据模型:Decision, Finding, SafetyCheckInput/Result, ScanContext
- 策略系统:YAML 配置 + 环境变量覆盖 + 自动发现 + 合理默认值
- 语言扫描器:Python AST 解析器 + Bash 行扫描器
- 6 类内置规则:网络访问、文件操作、进程执行、密钥泄露、资源限制、依赖安全
- 2 种框架适配器:ScriptSafetyFilter(过滤器)、SafeCodeExecutor(包装器)
- OpenTelemetry 指标埋点
- 结构化 JSON 审计日志(原子写入)
- 单元测试 + 集成测试
- 中英文文档
- 示例策略与样本脚本
- 实现复现提示词文档1 parent eff2ac6 commit 87d29af
2 files changed
Lines changed: 1181 additions & 0 deletions
0 commit comments