Funciones LLM en SQL, Cortex Search, Analyst y Agents dentro de Snowflake
Snowflake documenta Cortex en docs.snowflake.com: funciones AI (AI_COMPLETE, AI_EXTRACT, etc.) analizan texto/imagen con modelos de OpenAI, Anthropic, Meta, Mistral y DeepSeek bajo privilegios CORTEX_USER. Cortex Search ofrece RAG híbrido, Cortex Analyst convierte lenguaje natural a SQL y Cortex Agents orquestan Analyst, Search, UDFs y búsqueda web opcional. Cortex Code añade CLI/Snowsight y documenta soporte MCP.
Casos de uso
- LLM gobernados sobre tablas del warehouse
- Chat analítico con modelos semánticos
- Apps agénticas con Search y SQL
- Estimar tokens con AI_COUNT_TOKENS
- Combinar con MCP gestionado por Snowflake
Funciones principales
- Funciones Cortex AI vía SQL para completion, extracción y traducción
- Cortex Search para RAG de baja latencia
- Cortex Analyst API REST con modelos semánticos YAML
- Cortex Agents con orquestación LLM
- Ciclo de vida de modelos y RBAC por modelo
Relacionados
Relacionados
3 Entradas indexadas
Fireworks AI
Fireworks AI documenta en docs.fireworks.ai una plataforma REST para modelos de lenguaje, imagen y embeddings con claves Bearer desde el dashboard o firectl. Los modelos usan IDs globales accounts/<cuenta>/models/<id> y pueden servirse vía inferencia serverless (p. ej. Llama 3.1 70B) o despliegues GPU dedicados para modelos base custom y addons LoRA. La doc distingue facturación por token serverless con uptime best-effort de despliegues dedicados por GPU-segundo privados, y afirma que prompts/salidas no se registran salvo excepciones documentadas.
Langfuse
Langfuse es un producto open source de observabilidad para aplicaciones con LLM: ingiere trazas y spans desde tu stack, admite datasets y flujos de prompts/versiones, y ofrece Langfuse Cloud opcional o despliegue self-hosted. Se integra con SDKs Python/JS y frameworks que emiten telemetría compatible con OpenTelemetry, para depurar bucles de agentes, comparar iteraciones de prompts y vigilar métricas de calidad en producción sin construir analítica a medida desde cero.
LangSmith
LangSmith es la plataforma de LangChain (cloud o self-hosted) para trazar, monitorizar y mejorar aplicaciones LLM. La documentación en docs.langchain.com describe instrumentación mediante variables de entorno, integraciones de frameworks (OpenAI, Anthropic, CrewAI, Vercel AI SDK, Pydantic AI y otras listadas) o el SDK, de modo que equipos inspeccionen runs multipaso, comparen versiones de prompts, construyan datasets, ejecuten evaluaciones offline/online, automaticen flujos y recojan feedback sin analítica ad hoc para bucles de agentes.