Factory Floor
Pilotul automat de sub toate: AI local, watchdog-uri și operațiuni auto-vindecătoare pentru box-ul tău GPU.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Ce face
Factory Floor este stratul care permite unei singure persoane să ruleze sute de joburi programate fără să le supravegheze. Este ceea ce menține flota noastră funcțională noaptea: servește modelele de limbaj pe care le folosesc toate celelalte kituri, detectează joburile care se opresc tăcut, repară clasele de eșec pe care le cunoaște și rămâne tăcută dacă nu apare ceva care chiar are nevoie de tine.
- Modele locale ca serviciu. Servește un endpoint OpenAI-compatible de pe una sau două cutii GPU în spatele unui proxy cu cea mai mică conexiune și rulează un test de utilizare a instrumentelor înainte de a comuta modelele, astfel încât o actualizare să nu îți strice niciodată agenții.
- Watchdogs pentru eșecurile tăcute. Serviciile care sunt activate dar nu rulează, unitățile care au eșuat, timerii care au încetat să se declanșeze, unitățile care continuă să eșueze după fiecare resetare: fiecare are un detector, iar eșecurile cu o cauză cunoscută au o regulă de reparare.
- Mecanisme de siguranță pentru mașină. Mecanismele de siguranță pentru memorie și temperatură pun în pauză joburile grele înainte ca cutia să cedeze și le reiau când aceasta își revine; mecanismul de siguranță pentru disc avertizează înainte ca spațiul să se epuizeze.
- O singură e-mail, nu o sută. Alertele sunt grupate, deduplicate și scrise pentru un om: ce s-a stricat, ce s-a încercat deja, ce trebuie să faci.
- Obiective care rulează în bucle. Oferă unui agent local un obiectiv; acesta lucrează la el rundă după rundă într-un sandbox, scrie un log, își verifică propriul rezultat și se oprește când îi spui tu.
Ce conține
Watchdogs
Detecțoare pentru unități moarte, eșuate și întârziate, plus un fișier de reguli de reparare pe care îl poți citi și edita. Instalate ca timeri systemd printr-un singur script de configurare.
Servirea modelelor
Configurații de proxy și lansare pentru una sau două cutii, un control de sănătate și harness-ul de evaluare a utilizării instrumentelor.
Mecanisme de siguranță pentru mașină
Mecanisme de siguranță pentru memorie și căldură care pun în pauză și reiau joburile grele, și un mecanism de siguranță pentru spațiul pe disc.
Alertare
Un expeditor de e-mail cu grupare, suprimarea repetițiilor și ore liniștite, plus un rezumat zilnic.
Goal Engine
Un runner în sandbox care lucrează la un obiectiv rundă după rundă, cu verificări blocate, rollback pentru rundele defecte și un digest zilnic.
Runbooks
Ghiduri de instalare și recuperare, scrise din incidente pe care le-am avut cu adevărat.
Cerințe
- Ubuntu 22.04 sau 24.04 cu systemd, x86-64 sau ARM64.
- Python 3.10 sau o versiune mai nouă.
- Pentru modele locale: un GPU NVIDIA cu 24 GB sau mai mult (mașinile de tip DGX Spark sunt ideale) sau orice endpoint OpenAI-compatible.
- O căsuță SMTP pentru alerte.
- Pentru Goal Engine: opencode, instalat separat, și un model cu apeluri de tool-uri fiabile (testul inclus vă spune dacă este suficient).
Bine de știut
- Auto-repair repornește serviciile. Începeți în modul doar-raport, citiți regulile, apoi activați reparațiile.
- Greutatele modelelor nu sunt incluse: descărcați modelele alese de dumneavoastră, în conformitate cu licențele lor.
- Licența dumneavoastră acoperă mașinile și afacerea dumneavoastră.
Întrebări
Funcționează cu o singură mașină?
Da. A doua mașină este opțională; proxy-ul are pur și simplu un singur backend.
Ce modele suportă?
Orice model servit printr-un API OpenAI-compatible. Testul de utilizare a tool-urilor vă spune dacă un model este suficient de bun pentru agenți înainte de a comuta.
De ce au nevoie celelalte kit-uri?
Nu, dar se îmbunătățesc cu el: fiecare kit cu mult AI poate folosi endpoint-ul și watchdog-urile oferite de Factory Floor.
Actualizat: