Orchestra-Research

Modelo da OpenAI que conecta visão e linguagem, permitindo classificação de imagens zero-shot, correspondência imagem-texto e recuperação cross-modal. Treinado com 400M de pares imagem-texto, é ideal para compreensão geral de imagens, como busca ou moderação de conteúdo, sem fine-tuning.

Orientação especializada para ajuste fino de LLMs com LLaMA-Factory, oferecendo uma WebUI sem código, mais de 100 modelos, QLoRA de 2/3/4/5/6/8 bits e suporte multimodal.

Avalia a Política NVIDIA Cosmos nos ambientes de simulação LIBERO e RoboCasa. Use ao configurar a cosmos-policy para avaliação de manipulação de robôs, executar avaliações de GPU headless com renderização EGL ou perfilar a latência de inferência em máquinas GPU de cluster ou locais.

Visualize métricas de treinamento, depure modelos com histogramas, compare experimentos, visualize grafos de modelos e analise o desempenho com o TensorBoard - o kit de ferramentas de visualização de ML do Google.

Uma implementação educacional de GPT em ~300 linhas, por Andrej Karpathy, que reproduz o GPT-2 (124M) no OpenWebText. É um código limpo e modificável, ideal para aprender transformadores e entender a arquitetura GPT do zero, com treinamento em Shakespeare (CPU) ou OpenWebText (multi-GPU).

Mecanismo de busca de similaridade vetorial de alta performance para RAG e busca semântica. Ideal para sistemas RAG de produção que exigem busca rápida de vizinhos, busca híbrida com filtragem ou armazenamento vetorial escalável com desempenho Rust.

Curadoria de dados acelerada por GPU para treinamento de LLM. Suporta texto, imagem, vídeo e áudio, com deduplicação difusa (16x mais rápida), filtragem de qualidade, deduplicação semântica, redação de PII e detecção de NSFW. Escala em GPUs com RAPIDS para preparar datasets de alta qualidade.

Um framework de dados para construir aplicações LLM com RAG, especializado na ingestão de documentos (mais de 300 conectores), indexação e consulta. Oferece índices vetoriais, motores de consulta, agentes e suporte multimodal, sendo ideal para aplicações LLM centradas em dados como Q&A de documentos e recuperação de conhecimento.

Gera slides de apresentação para conferências (Beamer LaTeX PDF e PPTX editável) a partir de um artigo compilado com notas do orador e roteiro da palestra. Utilize ao preparar palestras orais, apresentações rápidas ou palestras convidadas para conferências de ML e sistemas.

Um guia completo para escrever artigos de sistemas visando OSDI, SOSP, ASPLOS, NSDI e EuroSys. Oferece modelos estruturais por parágrafo, padrões de escrita, checklists específicos por evento, diretrizes para revisores, templates LaTeX e prazos de conferências.

A API de treinamento distribuído mais simples, permitindo suporte distribuído para qualquer script PyTorch em apenas 4 linhas. Oferece uma API unificada para DeepSpeed/FSDP/Megatron/DDP, posicionamento automático de dispositivos, precisão mista e é um padrão do ecossistema HuggingFace.

Um framework RLHF de alta performance com aceleração Ray+vLLM, ideal para o treinamento PPO, GRPO, RLOO e DPO de modelos grandes (7B-70B+). Construído sobre Ray, vLLM e ZeRO-3, é 2x mais rápido que DeepSpeedChat devido à sua arquitetura distribuída e compartilhamento de recursos de GPU.