Orchestra-Research

Acompanhe experimentos de ML com registro automático, visualize o treinamento em tempo real, otimize hiperparâmetros com varreduras e gerencie o registro de modelos com W&B - uma plataforma colaborativa de MLOps.

Gera figuras com qualidade de publicação para artigos de ML, extraindo componentes para diagramas de arquitetura via Gemini e criando gráficos de dados via matplotlib/seaborn. Ideal para qualquer figura de artigo de conferência.

Construa sistemas complexos de IA com programação declarativa, otimize prompts automaticamente e crie sistemas RAG modulares e agentes usando DSPy, o framework da Stanford NLP para programação sistemática de LMs.

A estrutura de segurança em tempo de execução da NVIDIA para aplicações LLM oferece detecção de jailbreak, alucinações e toxicidade, além de validação de entrada/saída, verificação de fatos e filtragem de PII. Utiliza Colang 2.0 DSL para rails programáveis, está pronta para produção e roda em GPUs T4.

Adiciona PyTorch FSDP2 (fully_shard) a scripts de treinamento com inicialização correta, sharding, configuração de precisão mista/offload e checkpointing distribuído. Utilize quando modelos excederem a memória de uma única GPU ou para sharding baseado em DTensor com DeviceMesh.

O detector de injeção de prompt e jailbreak de 86M da Meta filtra prompts maliciosos e dados de terceiros para aplicativos LLM. Ele oferece mais de 99% de TPR, menos de 1% de FPR, é rápido (<2ms GPU), multilíngue (8 idiomas) e pode ser implantado com HuggingFace ou processamento em lote para segurança RAG.

Um framework para embeddings de última geração de frases, textos e imagens, que oferece mais de 5000 modelos pré-treinados para similaridade semântica, agrupamento e recuperação. Suporta modelos multilingues, específicos de domínio e multimodais, sendo ideal para gerar embeddings em produção para RAG, busca semântica ou tarefas de similaridade.

Framework PyTorch de alto nível com classe Trainer, treinamento distribuído automático (DDP/FSDP/DeepSpeed), sistema de callbacks e boilerplate mínimo. Escala de laptop a supercomputador com o mesmo código, ideal para loops de treinamento limpos com as melhores práticas integradas.

Método da Anthropic para treinar IA inofensiva via autoaperfeiçoamento. Utiliza uma abordagem de duas fases: aprendizado supervisionado com autocrítica/revisão e RLAIF, para alinhamento de segurança e redução de saídas prejudiciais sem rótulos humanos, alimentando o sistema de segurança do Claude.

Processamento de dados escalável para cargas de trabalho de ML com execução em streaming em CPU/GPU, suportando vários formatos como Parquet/CSV/JSON/imagens. Ele se integra com Ray Train, PyTorch e TensorFlow, escalando de uma única máquina para centenas de nós para tarefas como inferência em lote, pré-processamento de dados e pipelines ETL distribuídos.

Garante estrutura JSON/XML/código válida durante a geração, usa modelos Pydantic para saídas com segurança de tipo, suporta modelos locais (Transformers, vLLM) e maximiza a velocidade de inferência com Outlines - a biblioteca de geração estruturada da dottxt.ai.

Um framework de pré-treinamento visão-linguagem que conecta codificadores de imagem congelados e LLMs. Utilize-o para legendagem de imagens, resposta a perguntas visuais, recuperação imagem-texto ou chat multimodal com desempenho zero-shot de ponta.