Pesquisa e Web

Orquestração multi-nuvem para cargas de trabalho de ML com otimização automática de custos. Ideal para executar treinamentos ou jobs em lote em várias nuvens, aproveitando instâncias spot com recuperação automática e otimizando custos de GPU.

Otimiza a atenção de transformadores com Flash Attention, proporcionando uma aceleração de 2-4x e redução de memória de 10-20x. É ideal para treinar/executar transformadores com sequências longas (>512 tokens), resolver problemas de memória da GPU ou acelerar a inferência, com suporte a PyTorch native SDPA, flash-attn, H100 FP8 e atenção de janela deslizante.

Realiza uma revisão epistêmica semântica ARA Seal Nível 2 em Artefatos de Pesquisa Nativos de Agente, avaliando seis dimensões (relevância da evidência, falseabilidade, calibração do escopo, coerência do argumento, integridade da exploração, rigor metodológico). Produz um relatório construtivo, classificado por severidade, com recomendação de Aceitação Forte a Rejeição, para uso após a validação estrutural de Nível 1.

Orquestra o treinamento distribuído para PyTorch/TensorFlow/HuggingFace em clusters, escalando de laptops a milhares de nós, com ajuste de hiperparâmetros integrado (Ray Tune), tolerância a falhas e escalonamento elástico, ideal para modelos massivos ou varreduras de hiperparâmetros distribuídas.

Avalia LLMs em mais de 60 benchmarks acadêmicos como MMLU e HumanEval. É um padrão da indústria para comparar a qualidade de modelos, relatar resultados e acompanhar o progresso do treinamento, com suporte para HuggingFace, vLLM e APIs.

Escreva artigos de ML/IA prontos para publicação para NeurIPS, ICML, ICLR, ACL, AAAI, COLM. Use ao rascunhar artigos de repositórios de pesquisa, estruturar argumentos, verificar citações ou preparar submissões finais; para eventos de sistemas, use 'systems-paper-writing'.

Fornece orientação para interpretar e manipular os internos de redes neurais usando nnsight, com execução remota NDIF opcional. Utilize ao precisar executar experimentos de interpretabilidade em modelos massivos (70B+) sem recursos de GPU locais, ou ao trabalhar com qualquer arquitetura PyTorch.

Orientação especializada para treinamento distribuído com DeepSpeed, cobrindo estágios de otimização ZeRO, paralelismo de pipeline, FP16/BF16/FP8, Adam de 1 bit e atenção esparsa.

Otimiza a inferência de LLMs com NVIDIA TensorRT para máxima vazão e menor latência. Use para implantação em produção em GPUs NVIDIA (A100/H100), quando precisar de inferência 10-100x mais rápida que PyTorch, ou para servir modelos com quantização (FP8/INT4), batching em tempo real e escalonamento multi-GPU.

Controle a saída de LLMs com regex e gramáticas, garanta a geração válida de JSON/XML/código, force formatos estruturados e construa fluxos de trabalho de várias etapas com Guidance - o framework de geração restrita da Microsoft Research.

Quantiza LLMs para 8 ou 4 bits, resultando em uma redução de memória de 50-75% com perda mínima de precisão. É ideal para GPU com memória limitada, modelos maiores ou inferência mais rápida, suportando formatos INT8, NF4, FP4, treinamento QLoRA e otimizadores de 8 bits, e funciona com HuggingFace Transformers.

Orientação especializada para o ajuste fino de GRPO/RL com TRL, visando o treinamento de modelos específicos para raciocínio e tarefas.