Alinea la taxonomía oficial OWASP Top 10 for Large Language Model Applications (v1.1), de LLM01 Prompt Injection hasta LLM10 Model Theft, con un checklist ejecutable para arquitectos que revisan RAG, agentes, complementos y pipelines citando genai.owasp.org. Cada entrada resume el riesgo descrito públicamente por OWASP—incluyendo manipulación de prompts, manejo inseguro de salidas, envenenamiento del entrenamiento, abuso de cómpute, cadena suministro, filtraciones sensibles, plugins con privilegio excesivo, agencias no acotadas, dependencia irracional frente al modelo y robo del weights—emparejándola controles concretos de políticas, supervisión y hardening toolchain.
Casos de uso
- Revisiones de arquitectura antes de lanzar agentes con permisos de escritura en tickets SAP/Jira
- Due diligence de proveedores de LLM para comparar registro/log de secretos vs filtraciones
- Ejercicios rojo equipo sobre MCP o ingestión multimodal
- Traducciones de riesgos para compliance
- Remediaciones post incidente comando erróneo
Funciones principales
- LLM01—Inventarie fuentes no confiables y limita escalación de privilegio con validaciones secundarias
- LLM02—Valide cada salida estructuralmente antes de tocar sistemas externos
- LLM03—Controle lineage y drift del dataset antes de continual learning
- LLM04—Imponga quotas y watchers anti abuso cómpute
- LLM05—Fije versiones/SDK y auditoría upstream
- LLM06—Clasifique secretos/PII y borrado/logs
- LLM07—Diseño plugin con permisos mínimos server-side
- LLM08—Human-in-the-loop, reversibilidad y kill switch
- LLM09—Verificadores deterministas paralelos para decisiones reguladas
- LLM10—Monitorea descarga masiva, empaquetado seguro del modelo
Relacionados
Relacionados
3 Entradas indexadas
Security review for AI-generated code
Revisa código generado por IA por modos de fallo de seguridad que asistentes de IA comúnmente pasan por alto: riesgos de prompt injection, exposición de credenciales, vulnerabilidades de dependencias, deserialización insegura y gaps de control de acceso. Esta habilidad detecta lo que los agentes pierden cuando optimizan por funcionalidad sobre seguridad, especialmente en código que maneja input de usuario, autenticación o datos externos.
Designing with LLM structured outputs
Define esquemas, activa el modo de salida estructurada que documente tu proveedor, valida siempre en servidor y trata los rechazos como eventos de primera clase—fundamental cuando los regex sobre texto libre son demasiado frágiles en producción.
NIST AI Risk Management Framework (AI RMF 1.0) lifecycle checklist
Fija talleres ejecutivos sobre el Artificial Intelligence Risk Management Framework (AI RMF 1.0) de NIST, publicado oficialmente como NIST.AI.100-1 (DOI https://doi.org/10.6028/NIST.AI.100-1) y apoyado en el Playbook y recursos del AI Resource Center. El texto oficial organiza trabajo en torno al ciclo GOVERN → MAP → MEASURE → MANAGE antes de lanzar iniciativas desconectadas. Para cargas fundacionales o generativas debe consultarse también el perfil voluntario sobre IA Generativa (NIST AI 600-1, 2024-07-26; DOI https://doi.org/10.6028/NIST.AI.600-1). La skill sintetiza esos contenidos públicos como preguntas de responsabilidad, evidencias y planes de reinspección, sin declararse asesoría legal.