Factory Floor
Autopiloten under alt: lokal AI, overvåkere og selvhelbredende drift for din egen GPU-maskin.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Hva den gjør
Factory Floor er laget som lar én person kjøre hundrevis av planlagte jobber uten å se etter dem. Det er det som holder vår egen flåte i gang om natten: det tjener språkmodellene alle andre kit bruker, merker seg jobbene som dør i stillhet, reparerer feilklassene det kjenner, og holder seg stille med mindre noe virkelig trenger deg.
- Lokale modeller som tjeneste. Tjen et OpenAI-kompatibelt endepunkt fra én eller to GPU-bokser bak en least-connection-proxy, og kjør en verktøybrukstest før du bytter modeller, slik at en oppgradering aldri ødelegger agentene dine.
- Overvåkere for de stille feilene. Tjenester som er aktivert men ikke kjører, enheter som feilet, timere som sluttet å utløses, enheter som fortsetter å feile etter hver nullstilling: hver har en detektor, og feil med kjent årsak har en reparasjonsregel.
- Sikringer for maskinen. Minne- og temperatursikringer pauser de tunge jobbene før boksen velter og gjenopptar dem når den kommer seg; disk-sikringen advarer før plassen tar slutt.
- Én e-post, ikke hundre. Varsler grupperes, dedupliseres og skrives for et menneske: hva som gikk galt, hva som allerede er forsøkt, hva du må gjøre.
- Mål som kjører i løkker. Gi en lokal agent et mål; det jobber med det runde etter runde i en sandbox, skriver en logg, sjekker sitt eget resultat og stopper når du sier det.
Hva som er inkludert
Overvåkere
Detektorer for døde, feilede og sene enheter, pluss en reparasjonsregelfil du kan lese og redigere. Installeres som systemd-timere av ett oppsettsskript.
Modelltjeneste
Proxy- og oppstartskonfigurasjoner for én eller to bokser, en helsekontroll og verktøybruk-evalueringsrammeverket.
Masksikringer
Minne- og varmesikringer som pauser og gjenopptar tunge jobber, og en diskplass-sikring.
Varsling
En e-postavsender med gruppering, gjentakelsesundertrykkelse og stille timer, samt en daglig oppsummering.
Målmotor
En sandboxet kjører som jobber med et mål runde etter runde, med frosne sjekker, tilbakerulling av dårlige runder og en daglig oppsummering.
Runbooks
Installasjons- og gjenopprettingsguider, skrevet fra hendelser vi faktisk hadde.
Krav
- Ubuntu 22.04 eller 24.04 med systemd, x86-64 eller ARM64.
- Python 3.10 eller nyere.
- For lokale modeller: et NVIDIA-GPU med 24 GB eller mer (maskiner av DGX Spark-klassen er ideelle), eller en OpenAI-kompatibel endepunkt.
- En SMTP-postboks for varsler.
- For Goal Engine: opencode, installert separat, og en modell med pålitelige verktøykall (den inkluderte testen forteller deg dette).
Bra å vite
- Autoreparasjon starter tjenester på nytt. Start i rapportmodus, les reglene, og slå så på reparasjonene.
- Modellvekter er ikke inkludert: du laster ned de modellene du velger, under deres egne lisenser.
- Lisensen din dekker dine egne maskiner og din egen virksomhet.
Spørsmål
Fungerer det med én maskin?
Ja. Den andre maskinen er valgfri; proxyen har bare én backend.
Hvilke modeller støttes?
Alt som leveres via en OpenAI-kompatibel API. Verktøykalltesten forteller deg om en modell er god nok for agenter før du bytter.
Trenger de andre kitene det?
Nei, men de blir bedre med det: alle AI-tunge kit kan bruke endepunktet og overvåkerne Factory Floor tilbyr.
Oppdatert: