Factory Floor
O piloto automático por baixo de tudo: IA local, watchdogs e operações com autocura para a sua própria máquina com GPU.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
O que ele faz
Factory Floor é a camada que permite que uma pessoa execute centenas de jobs agendados sem precisar monitorá-los. É o que mantém nossa própria frota funcionando à noite: ele serve os modelos de linguagem usados por todos os outros kits, percebe os jobs que moram silenciosamente, repara as classes de falha que conhece e fica em silêncio, a menos que algo realmente precise de você.
- Modelos locais como serviço. Sirva um endpoint OpenAI-compatible de uma ou duas máquinas com GPU atrás de um proxy de menor conexão e execute um teste de uso de ferramentas antes de trocar de modelo, para que uma atualização nunca quebre seus agentes.
- Watchdogs para as falhas silenciosas. Serviços habilitados mas inativos, unidades que falharam, timers que pararam de disparar, jobs que travam por horas: cada um tem um detector e, onde a correção é conhecida, uma reparação.
- Guardas para a máquina. Guardas de memória, disco e temperatura pausam os jobs pesados antes que a máquina caia, e depois os retomam.
- Um e-mail, não cem. Os alertas são agrupados, deduplicados e escritos para um humano: o que quebrou, o que já foi tentado e o que você precisa fazer.
- Metas que rodam em loops. Dê a um agente local uma meta; ele trabalha nela rodada após rodada em um sandbox, escreve um log, verifica o próprio resultado e para quando você mandar.
O que está incluído
Unidades e timers
Templates systemd para workers, timers com jitter, limites de recursos e regras de reinício.
Watchdogs
Detetores para unidades mortas, com falha e atrasadas, além de um arquivo de regras de reparo que você pode ler e editar.
Servir modelos
Configurações de proxy e inicialização para uma ou duas máquinas, e o harness de avaliação de uso de ferramentas.
Guardas da máquina
Guardas de memória, disco e térmicos com pausa e retomada para jobs pesados.
Alertas
Um remetente de e-mail com agrupamento e horários de silêncio, e um resumo diário do que foi executado.
Runbooks
Guias de instalação, atualização e recuperação, escritos a partir de incidentes que realmente tivemos.
Requisitos
- Ubuntu 22.04 ou 24.04 com systemd, x86-64 ou ARM64.
- Python 3.10 ou mais recente.
- Para modelos locais: uma GPU NVIDIA com 24 GB ou mais (máquinas classe DGX Spark são ideais), ou qualquer endpoint OpenAI-compatible.
- Uma caixa de entrada SMTP para alertas.
Boas informações
- As autorreparações reiniciam os serviços. Comece no modo somente relatório, leia as regras e depois ative as reparações.
- Os pesos dos modelos não estão incluídos: o script de configuração baixa os modelos que você escolher, sob suas próprias licenças.
- Sua licença cobre suas próprias máquinas e seu próprio negócio.
Perguntas
Funciona com uma máquina?
Sim. A segunda máquina é opcional; o proxy simplesmente tem um backend.
Quais modelos ele suporta?
Qualquer coisa servida através de uma API OpenAI-compatible. O teste de uso de ferramentas diz se um modelo é bom o suficiente para agentes antes de você trocar.
Os outros kits precisam dele?
Não, mas melhoram com ele: todo kit com uso intenso de IA pode usar o endpoint e os watchdogs que o Factory Floor fornece.
Atualizado: