审查 AI 生成的代码是否存在注入风险、凭证泄露、依赖漏洞和访问控制缺陷——捕捉智能体在优化功能而非安全性时容易遗漏的问题。
使用场景
- 第三方代码审查
- 智能体输出审计
- 部署前安全检查
- 注入防护
主要功能
- 检查注入向量
- 审计凭证和密钥处理
- 审查依赖更新
- 验证访问控制边界
相关推荐
相关推荐
3 收录条目
OWASP GenAI LLM Top 10(v1.1)风险核查清单
将 OWASP GenAI 项目组维护的《大型语言模型应用 Top 10》公开分类(社区页面当前称为 v1.1,自 LLM01 提示注入延伸至 LLM10 模型窃取)转写为可逐项打勾的工程设计清单,覆盖 RAG、工具调用链、插件宿主、持续学习与托管推理等架构。每个风险域的叙述与缓解方向与 genai.owasp.org/项目维基对「提示操控、未验证输出、语料或训练投毒、滥用算力型 DoS、依赖与模型供应链、敏感信息回声、特权工具设计、代理自主性失控、对模型结论的过度信赖、专有模型与权重被外部复制」等条目描述保持一致,并强调将策略控制、观测与安全左移结合,而非仅依赖单次渗透测试结论。
负责任 AI 无障碍数据审查
将 Microsoft Learn 负责任 AI 与无障碍修复整理为清单:核查生成式输出(图像/代码/UI)对视障等群体的刻板描绘、审计 dataset metadata、记录人在回路修复,并对齐人对 AI 结果负责的原则。
接收代码评审
结构化处理评审意见:区分风格建议与必须修复项,让合并讨论聚焦风险与证据。