Orchestra-Research

Implementa e treina LLMs usando o LitGPT da Lightning AI, com mais de 20 arquiteturas pré-treinadas (Llama, Gemma, Phi, Qwen, Mistral). É ideal para implementações de modelos limpas, compreensão educacional de arquiteturas e fine-tuning em produção com LoRA/QLoRA, oferecendo implementações em arquivo único e sem camadas de abstração.

Acompanhe experimentos de ML, gerencie o registro de modelos com versionamento, implante modelos em produção e reproduza experimentos com MLflow, uma plataforma de ciclo de vida de ML agnóstica a frameworks.

Orientação especializada para o ajuste fino de LLMs com Axolotl, incluindo configurações YAML, mais de 100 modelos, LoRA/QLoRA, DPO/KTO/ORPO/GRPO e suporte multimodal.

Fornece orientação para o rastreamento de experimentos com SwanLab. Use quando precisar de rastreamento de execuções de código aberto, dashboards locais ou auto-hospedados e registro de mídia leve para fluxos de trabalho de ML.

Fornece orientação para evoluir e otimizar automaticamente agentes de IA em qualquer domínio usando algoritmos de evolução impulsionados por LLMs. Utilize ao construir agentes autoaperfeiçoáveis, otimizar prompts e habilidades de agentes contra benchmarks, ou implementar ciclos de avaliação automatizados de agentes.

Quantização pós-treinamento de 4 bits para LLMs com perda mínima de precisão. Permite implantar modelos grandes (70B, 405B) em GPUs de consumidor, oferecendo 4x redução de memória com <2% de degradação de perplexidade ou inferência 3-4x mais rápida que FP16, e integra-se com transformers e PEFT para ajuste fino QLoRA.

Avalia modelos de geração de código em HumanEval, MBPP, MultiPL-E e mais de 15 benchmarks com métricas pass@k. É um padrão da indústria do BigCode Project, usado nas tabelas de classificação do HuggingFace, ideal para comparar habilidades de codificação e testar suporte multilíngue.

Um banco de dados de embeddings de código aberto para aplicações de IA, que armazena embeddings e metadados, e permite busca vetorial, texto completo e filtragem por metadados. É escalável de notebooks a clusters de produção, ideal para busca semântica, RAG e desenvolvimento local.

Orquestra projetos de pesquisa autônoma de IA de ponta a ponta com uma arquitetura de dois loops. O loop interno executa experimentos rápidos com metas de otimização, e o externo sintetiza resultados para direcionar a pesquisa.

Biblioteca PyTorch para geração de áudio, incluindo texto para música (MusicGen) e texto para som (AudioGen). Utilize-a para gerar música a partir de descrições de texto, criar efeitos sonoros ou realizar geração de música condicionada por melodia.

Biblioteca do Facebook para busca de similaridade eficiente e agrupamento de vetores densos. Suporta bilhões de vetores, aceleração por GPU e vários tipos de índice, sendo ideal para busca k-NN rápida e recuperação de vetores em larga escala em aplicações de alta performance.

Plataforma de agentes de IA autônomos para construir e implantar agentes contínuos. Use ao criar agentes de fluxo de trabalho visual, implantar agentes autônomos persistentes ou construir sistemas complexos de automação de IA em várias etapas.