Factory Floor
Autopilot pod všetkým: lokálna AI, watchdogy a samoliečiteľné operácie pre váš vlastný stroj s GPU.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Čo to robí
Factory Floor je vrstva, ktorá umožňuje jednej osobe spustiť stovky plánovaných úloh bez toho, aby ich musela sledovať. Je to to, čo udržiava našu vlastnú flotilu v chode v noci: obsluhuje jazykové modely, ktoré používajú všetky ostatné balíky, všimne si úlohy, ktoré ticho zomrú, opraví známe triedy zlyhaní a mlčí, pokiaľ niečo skutočne nepotrebuje vás.
- Lokálne modely ako služba. Obsluhujte OpenAI-compatible endpoint z jedného alebo dvoch GPU serverov za proxy s minimálnym počtom pripojení a pred prepnutím modelov spustite test používania nástrojov, aby upgrade nikdy nerozbil vašich agentov.
- Watchdogy pre tiché zlyhania. Služby, ktoré sú povolené, ale nebežia, jednotky, ktoré zlyhali, časovače, ktoré prestali spúšťať, jednotky, ktoré neustále zlyhávajú po každom reštarte: každá má detektor a zlyhania s známou príčinou majú pravidlo opravy.
- Bezpečnostné poistky pre stroj. Poistky pamäte a teploty pozastavia náročné úlohy skôr, než stroj spadne, a obnovia ich, keď sa zotaví; poistka disku varuje skôr, než sa vyčerpá miesto.
- Jeden e-mail, nie sto. Upozornenia sú zoskupené, deduplikované a napísané pre človeka: čo sa pokazilo, čo už bolo vyskúšané a čo musíte urobiť.
- Ciele, ktoré bežia v slučkách. Dajte lokálnemu agentovi cieľ; pracuje na ňom kolo za kolom v sandboxi, zapisuje log, kontroluje svoj vlastný výsledok a zastaví, keď poviete.
Čo je vnútri
Watchdogy
Detektory pre mŕtve, zlyhané a oneskorené jednotky, plus súbor pravidiel opráv, ktorý si môžete prečítať a upraviť. Nainštalované ako systemd časovače jedným inštalačným skriptom.
Obsluha modelov
Proxy a konfiguračné súbory pre spustenie na jednom alebo dvoch serveroch, kontrola stavu a testovacia súprava na používanie nástrojov.
Bezpečnostné poistky stroja
Bezpečnostné poistky pamäte a tepla, ktoré pozastavujú a obnovujú náročné úlohy, a bezpečnostná poistka miesta na disku.
Upozorňovanie
Odosielateľ e-mailov so zoskupením, potlačením opakovaní a tichými hodinami, plus denný súhrn.
Goal Engine
Sandboxed runner, ktorý pracuje na cieľi kolo za kolom, so zmrazenými kontrolami, rollbackom zlých kôl a denným digestom.
Runbooky
Návody na inštaláciu a obnovu, napísané na základe incidentov, ktoré sme skutočne mali.
Požiadavky
- Ubuntu 22.04 alebo 24.04 so systemd, x86-64 alebo ARM64.
- Python 3.10 alebo novší.
- Pre lokálne modely: grafická karta NVIDIA s 24 GB alebo viac (stroje triedy DGX Spark sú ideálne), alebo ľubovoľný OpenAI-compatible endpoint.
- Poštová schránka SMTP pre upozornenia.
- Pre Goal Engine: opencode, nainštalovaný samostatne, a model so spoľahlivými volaniami nástrojov (vstúpený test vám to prezradí).
Dobré vedieť
- Auto-repair reštartuje služby. Začnite v režime len pre report, prečítajte si pravidlá a potom zapnite opravy.
- Váhy modelov nie sú súčasťou: modely, ktoré si vyberiete, stiahnete sami pod ich vlastnými licenciami.
- Vaša licencia pokrýva vaše vlastné stroje a váš vlastný podnik.
Otázky
Funguje to s jedným strojom?
Áno. Druhý stroj je voliteľný; proxy má jednoducho jeden backend.
Ktoré modely podporuje?
Čokoľvek obsluhované cez OpenAI-compatible API. Test použitia nástrojov vám prezradí, či je model dostatočne dobrý pre agentov, ešte predtým, ako prejdete naň.
Potrebujú ho ostatné balíky?
Nie, ale s ním sú lepšie: každý balík náročný na AI môže využiť endpoint a watchdogy, ktoré Factory Floor poskytuje.
Aktualizované: