Explorar skills

Curadoria de dados acelerada por GPU para treinamento de LLM. Suporta texto, imagem, vídeo e áudio, com deduplicação difusa (16x mais rápida), filtragem de qualidade, deduplicação semântica, redação de PII e detecção de NSFW. Escala em GPUs com RAPIDS para preparar datasets de alta qualidade.

Um framework de dados para construir aplicações LLM com RAG, especializado na ingestão de documentos (mais de 300 conectores), indexação e consulta. Oferece índices vetoriais, motores de consulta, agentes e suporte multimodal, sendo ideal para aplicações LLM centradas em dados como Q&A de documentos e recuperação de conhecimento.

Gera slides de apresentação para conferências (Beamer LaTeX PDF e PPTX editável) a partir de um artigo compilado com notas do orador e roteiro da palestra. Utilize ao preparar palestras orais, apresentações rápidas ou palestras convidadas para conferências de ML e sistemas.

Um guia completo para escrever artigos de sistemas visando OSDI, SOSP, ASPLOS, NSDI e EuroSys. Oferece modelos estruturais por parágrafo, padrões de escrita, checklists específicos por evento, diretrizes para revisores, templates LaTeX e prazos de conferências.

A API de treinamento distribuído mais simples, permitindo suporte distribuído para qualquer script PyTorch em apenas 4 linhas. Oferece uma API unificada para DeepSpeed/FSDP/Megatron/DDP, posicionamento automático de dispositivos, precisão mista e é um padrão do ecossistema HuggingFace.

Um framework RLHF de alta performance com aceleração Ray+vLLM, ideal para o treinamento PPO, GRPO, RLOO e DPO de modelos grandes (7B-70B+). Construído sobre Ray, vLLM e ZeRO-3, é 2x mais rápido que DeepSpeedChat devido à sua arquitetura distribuída e compartilhamento de recursos de GPU.

Implementa e treina LLMs usando o LitGPT da Lightning AI, com mais de 20 arquiteturas pré-treinadas (Llama, Gemma, Phi, Qwen, Mistral). É ideal para implementações de modelos limpas, compreensão educacional de arquiteturas e fine-tuning em produção com LoRA/QLoRA, oferecendo implementações em arquivo único e sem camadas de abstração.

Acompanhe experimentos de ML, gerencie o registro de modelos com versionamento, implante modelos em produção e reproduza experimentos com MLflow, uma plataforma de ciclo de vida de ML agnóstica a frameworks.

Orientação especializada para o ajuste fino de LLMs com Axolotl, incluindo configurações YAML, mais de 100 modelos, LoRA/QLoRA, DPO/KTO/ORPO/GRPO e suporte multimodal.

Fornece orientação para o rastreamento de experimentos com SwanLab. Use quando precisar de rastreamento de execuções de código aberto, dashboards locais ou auto-hospedados e registro de mídia leve para fluxos de trabalho de ML.

Fornece orientação para evoluir e otimizar automaticamente agentes de IA em qualquer domínio usando algoritmos de evolução impulsionados por LLMs. Utilize ao construir agentes autoaperfeiçoáveis, otimizar prompts e habilidades de agentes contra benchmarks, ou implementar ciclos de avaliação automatizados de agentes.

Quantização pós-treinamento de 4 bits para LLMs com perda mínima de precisão. Permite implantar modelos grandes (70B, 405B) em GPUs de consumidor, oferecendo 4x redução de memória com <2% de degradação de perplexidade ou inferência 3-4x mais rápida que FP16, e integra-se com transformers e PEFT para ajuste fino QLoRA.