DevOps e Infra

Use when building .NET 8 applications with minimal APIs, clean architecture, or cloud-native microservices. Invoke for Entity Framework Core, CQRS with MediatR, JWT authentication, AOT compilation.

Use when implementing infrastructure as code with Terraform across AWS, Azure, or GCP. Invoke for module development (create reusable modules, manage module versioning), state management (migrate backends, import existing resources, resolve state conflicts), provider configuration, multi-environment workflows, and infrastructure testing.

O modelo de moderação especializado de 7-8B da Meta filtra entradas e saídas de LLMs em 6 categorias de segurança, incluindo violência/ódio e conteúdo sexual, com 94-95% de precisão. Ele pode ser implantado com vLLM, HuggingFace, Sagemaker e integra-se com NeMo Guardrails.

Ajusta e avalia políticas OpenVLA-OFT e OpenVLA-OFT+ para geração de ações de robôs com cabeças de ação contínuas, adaptação LoRA e condicionamento FiLM em simulações LIBERO e configurações reais ALOHA. Use para reproduzir resultados do artigo OpenVLA-OFT, treinar cabeças de ação VLA personalizadas, implantar inferência ALOHA cliente-servidor ou depurar componentes como normalização e fusão LoRA.

Comprima grandes modelos de linguagem usando destilação de conhecimento de modelos professores para modelos alunos. Esta técnica é útil para implantar modelos menores com desempenho mantido, transferir capacidades do GPT-4 para modelos de código aberto ou reduzir custos de inferência, cobrindo estratégias como escalonamento de temperatura, soft targets, KLD reverso, destilação de logits e treinamento MiniLLM.

Mescle múltiplos modelos ajustados com mergekit para combinar capacidades sem retreinar, ideal para criar modelos especializados ao mesclar expertise de domínio específico ou melhorar o desempenho. Abrange várias técnicas de fusão como SLERP, TIES-Merging, DARE, Task Arithmetic e fusão linear, além de estratégias de implantação em produção.

A plataforma empresarial da NVIDIA avalia LLMs em mais de 100 benchmarks de mais de 18 frameworks (MMLU, HumanEval, GSM8K, segurança, VLM) com execução multi-backend. Ela oferece avaliação escalável em Docker local, Slurm HPC ou plataformas de nuvem, com uma arquitetura container-first para benchmarking reproduzível.

Formato GGUF e quantização llama.cpp para inferência eficiente em CPU/GPU. Utilize ao implantar modelos em hardware de consumo, Apple Silicon, ou quando precisar de quantização flexível de 2 a 8 bits sem requisitos de GPU.

O detector de injeção de prompt e jailbreak de 86M da Meta filtra prompts maliciosos e dados de terceiros para aplicativos LLM. Ele oferece mais de 99% de TPR, menos de 1% de FPR, é rápido (<2ms GPU), multilíngue (8 idiomas) e pode ser implantado com HuggingFace ou processamento em lote para segurança RAG.

Acelere a inferência de LLMs usando decodificação especulativa, múltiplas cabeças Medusa e técnicas de decodificação lookahead. Isso otimiza a velocidade de inferência (ganho de 1.5-3.6x), reduz a latência para aplicações em tempo real e é útil para implantar modelos com computação limitada.

Plataforma de nuvem GPU serverless para executar cargas de trabalho de ML. Use quando precisar de acesso GPU sob demanda sem gerenciamento de infraestrutura, implantar modelos de ML como APIs ou executar trabalhos em lote com escalonamento automático.

Claude + Obsidian knowledge companion. Sets up a persistent wiki vault, scaffolds structure from a one-sentence description, and routes to specialized sub-skills. Use for setup, scaffolding, cross-project referencing, and hot cache management. Triggers on: "set up wiki", "scaffold vault", "create knowledge base", "/wiki", "wiki setup", "obsidian vault", "knowledge base", "second brain setup", "run