Seguridad

Convierte la ficha de cobertura en vivo del Wall Street Journal del 21 de octubre de 2026 sobre NVIDIA OpenShell Reference Architecture en una lista de gobernanza de agentes. Hechos de Mauro Orru: NVIDIA lanza un sistema que, según la empresa, ayuda a las empresas a controlar agentes de IA tras una serie de incidentes en los que la tecnología se descontroló; el sistema se llama Nvidia OpenShell Reference Architecture; aporta aislamiento y seguridad para construir agentes y observar cómo se comportan; el CEO Jensen Huang dijo que, cuando las empresas se preparan para desplegar miles de millones de agentes, la seguridad y el control deben incorporarse a la arquitectura de cómputo. La ficha se actualizó por última vez el 21 de octubre de 2026 a las 8:49 p.m. ET. Cualquier cifra de hardware, latencia o lista de socios debe confirmarse en el texto del Journal o en material primario de NVIDIA, no darse por hallazgo del WSJ.

Convierte BBC (17-jun-2026) sobre Mindgard red-teaming imágenes ChatGPT en checklist seguridad/legal. Hechos: prompt humorístico alterado; GPT-5.4 público generó contenido sexualizado/violento; alerta mayo con respuesta automática; OpenAI añadió salvaguardas tras BBC; Mindgard dice bypass persistía; Chowdhury: modelos sin comprensión de intent; UK AISI jailbreaks; DSIT: más trabajo pendiente.

Convierte módulos de IA responsable de Microsoft Learn y patrones de remediación de accesibilidad en una lista para funciones generativas (imágenes, código, UI). Verifica brechas de datos (p. ej. estereotipos sobre personas ciegas), audita metadatos de datasets inclusivos, documenta correcciones con humanos en el bucle y alinea con el principio de que las personas siguen siendo responsables de los resultados de la IA.

Alinea la taxonomía oficial OWASP Top 10 for Large Language Model Applications (v1.1), de LLM01 Prompt Injection hasta LLM10 Model Theft, con un checklist ejecutable para arquitectos que revisan RAG, agentes, complementos y pipelines citando genai.owasp.org. Cada entrada resume el riesgo descrito públicamente por OWASP—incluyendo manipulación de prompts, manejo inseguro de salidas, envenenamiento del entrenamiento, abuso de cómpute, cadena suministro, filtraciones sensibles, plugins con privilegio excesivo, agencias no acotadas, dependencia irracional frente al modelo y robo del weights—emparejándola controles concretos de políticas, supervisión y hardening toolchain.

Revisa código generado por IA por modos de fallo de seguridad que asistentes de IA comúnmente pasan por alto: riesgos de prompt injection, exposición de credenciales, vulnerabilidades de dependencias, deserialización insegura y gaps de control de acceso. Esta habilidad detecta lo que los agentes pierden cuando optimizan por funcionalidad sobre seguridad, especialmente en código que maneja input de usuario, autenticación o datos externos.