Factory Floor
Avtopilot pod vsem: lokalna AI, varuhi in samoceljenje operacij za vašo lastno napravo z grafično kartico.
- Linux
- NVIDIA GPU
- ARM64 or x86-64

Kaj počne
Factory Floor je sloj, ki enemu človeku omogoča upravljanje na stotine načrtovanih opravil brez neprestanega nadzora. To je tisto, kar pri nas ponoči vzdržuje delovanje naše flote: oskrbuje jezične modele, ki jih uporabljajo drugi kompleti, opazi opravila, ki tiho odpovejo, popravi znane vrste napak in molči, razen če se res kaj zgodi, kar zahteva vašo pozornost.
- Lokalni modeli kot storitev. Ponudite končno točko, združljivo z OpenAI, z ene ali dveh GPU škatel za najmanjše število povezav ter pred preklopom modelov zaženite preizkus uporabe orodij, da nadgradnja nikoli ne pokvari vaših agentov.
- Varuhi za tihe napake. Storitve, ki so omogočene, a ne tečejo, enote, ki so odpovedale, časovniki, ki so prenehali sprožiti, in enote, ki po vsaki ponastavitvi znova odpovedo: za vsako obstaja detektor, napake z znanim vzrokom pa imajo pravilo za popravilo.
- Zaščitni mehanizmi za stroj. Zaščitni mehanizmi za pomnilnik in temperaturo zaustavijo zahtevna opravila, preden se škatla zruši, in jih znova zaženejo, ko se opomore; zaščitni mehanizem za disk opozori, preden zmanjka prostora.
- Eno e-poštno sporočilo, ne sto. Opozorila so združena, razdupljeni in napisana za človeka: kaj je odpovedalo, kaj je bilo že poskušeno in kaj morate storiti.
- Cilji, ki tečejo v zankah. Lokalnemu agentu dajte cilj; na njem dela krog za krogom v peskovniku, piše dnevnik, preverja svoj rezultat in se ustavi, ko tako rečete.
Kaj je vključeno
Varuhi
Detektorji za mrtve, odpovedale in zamujajoče enote ter datoteka s pravili za popravila, ki jo lahko preberete in uredite. Nameščena kot systemd časovniki z enim nastavitvenim skriptom.
Streženje modelov
Proxy in konfiguracije za zagon za eno ali dve škatli, preverjanje zdravja in orodje za ocenjevanje uporabe orodij.
Zaščitni mehanizmi stroja
Zaščitni mehanizmi za pomnilnik in toploto, ki zaustavijo in znova zaženejo zahtevna opravila, ter zaščitni mehanizem za prostor na disku.
Obveščanje
Pošiljatelj e-pošte z združevanjem, zatiranjem ponovitev in mirnimi urami ter dnevnim povzetkom.
Pogon za cilje
Izvajalec v peskovniku, ki na cilju dela krog za krogom, s zamrznjenimi preverjanji, povrnitvijo slabih krogov in dnevnim povzetkom.
Navodila za izvajanje
Vodiči za namestitev in obnovitev, napisani na podlagi incidentov, ki smo jih res imeli.
Zahteve
- Ubuntu 22.04 ali 24.04 s systemd, x86-64 ali ARM64.
- Python 3.10 ali novejši.
- Za lokalne modele: grafična kartica NVIDIA z 24 GB ali več (idealne so naprave razreda DGX Spark) ali poljuben končna točka, združljiva z OpenAI.
- Predal SMTP za opozorila.
- Za Goal Engine: opencode, nameščen ločeno, in model z zanesljivimi klici orodij (priloženi test vam pove, ali je model dovolj dober).
Dobro vedeti
- Samodejno popravilo znova zažene storitve. Zaženite v načinu samo poročanja, preberite pravila, nato vklopite popravila.
- Uteži modelov niso vključene: modele, ki jih izberete, prenesete sami pod njihovimi lastnimi licencami.
- Vaša licenca pokriva vaše lastne naprave in vaše lastno podjetje.
Vprašanja
Ali deluje z eno napravo?
Da. Druga naprava je neobvezna; proxy ima preprosto eno zaledno storitev.
Katere modele podpira?
Vse, kar se streže prek API-ja, združljivega z OpenAI. Test uporabe orodij vam pove, ali je model dovolj dober za agente, preden preklopite.
Ali ga potrebujejo drugi kompleti?
Ne, a z njim postanejo boljši: vsak komplet, ki močno uporablja AI, lahko uporabi končno točko in varuhe, ki jih zagotavlja Factory Floor.
Posodobljeno: