Factory Floor
Ang autopilot sa ilalim ng lahat: local AI, watchdogs at self-healing ops para sa sarili mong GPU box.
- Linux
- NVIDIA GPU
- ARM64 or x86-64
Ano ang ginagawa nito
Ang Factory Floor ang layer na nagpapahintulot sa isang tao na patakbuhin ang daan-daang naka-schedule na jobs nang hindi sila binabantayan. Ito ang nagpapanatili ng paggana ng aming sariling fleet sa gabi: pinapagana nito ang mga language model na ginagamit ng lahat ng ibang kit, napapansin ang mga jobs na tahimik na namamatay, inaayos ang mga uri ng pagkabigo na alam nito, at nananatiling tahimik maliban kung may tunay na kailangan ng atensyon mo.
- Mga local model bilang serbisyo. Mag-serve ng OpenAI-compatible endpoint mula sa isa o dalawang GPU boxes sa likod ng least-connection proxy, at magsagawa ng tool-use test bago palitan ang mga model, upang hindi masira ang iyong mga agents sa pag-upgrade.
- Mga watchdog para sa mga tahimik na pagkabigo. Ang mga serbisyo na enabled ngunit hindi tumatakbo, ang mga unit na nabigo, ang mga timer na tumigil sa pag-fire, at ang mga unit na patuloy na nabigo pagkatapos ng bawat reset: may detector ang bawat isa, at ang mga pagkabigo na may kilalang dahilan ay may repair rule.
- Mga guard para sa makina. Pinipigilan ng memory at temperature guards ang mga mabigat na jobs bago bumagsak ang box, at ipinagpapatuloy muli ang mga ito kapag nakabangon na ito; babalaan ka ng disk guard bago maubos ang espasyo.
- Isang email, hindi daan-daang. Ang mga alerto ay pinagsasama, tinatanggal ang mga duplicate, at isinusulat para sa tao: kung ano ang nasira, kung ano ang naubos nang subukan, at kung ano ang kailangan mong gawin.
- Mga goal na tumatakbo sa mga loop. Bigyan ng goal ang isang local agent; ginagawa nito ito round after round sa isang sandbox, nagsusulat ng log, sinusuri ang sarili nitong resulta, at tumitigil kapag sinabi mo.
Ano ang nasa loob
Mga Watchdog
Mga detector para sa mga dead, failed at late units, kasama ang isang repair rules file na mababasa at mae-edit mo. Naka-install bilang systemd timers gamit ang isang setup script.
Model serving
Mga proxy at launch configs para sa isa o dalawang boxes, isang health check, at ang tool-use evaluation harness.
Mga Machine guard
Mga memory at heat guard na nagpapahinto at nagpapatuloy muli ng mga mabigat na jobs, at isang disk-space guard.
Alerting
Isang email sender na may grouping, repeat suppression at quiet hours, at isang daily summary.
Goal Engine
Isang sandboxed runner na gumagawa sa isang goal round after round, na may frozen checks, rollback ng masasamang rounds, at isang daily digest.
Mga Runbook
Mga gabay sa pag-install at recovery, isinusulat mula sa mga incident na tunay naming naranasan.
Mga requirement
- Ubuntu 22.04 o 24.04 na may systemd, x86-64 o ARM64.
- Python 3.10 o mas bago.
- Para sa mga local model: isang NVIDIA GPU na may 24 GB o higit pa (ideal ang mga makina na katumbas ng DGX Spark), o anumang OpenAI-compatible endpoint.
- Isang SMTP mailbox para sa mga alerto.
- Para sa Goal Engine: opencode, na hiwalay na i-install, at isang model na may maaasahang tool calls (sasabihin sa iyo ng kasamang test).
Mga dapat malaman
- Pinapagsimula muli ng Auto-repair ang mga serbisyo. Magsimula sa report-only mode, basahin ang mga rules, pagkatapos ay buksan ang mga repair.
- Hindi kasama ang mga model weights: i-download mo ang mga model na pipiliin mo, sa ilalim ng kanilang sariling mga licence.
- Saklaw ng iyong licence ang iyong sariling mga makina at ang iyong sariling negosyo.
Mga tanong
Gumagana ba ito sa isang makina?
Oo. Optional ang ikalawang makina; isang backend lang ang meron ang proxy.
Anong mga model ang sinusuportahan nito?
Anumang ipinoprotektahan sa pamamagitan ng OpenAI-compatible API. Sasabihin sa iyo ng tool-use test kung sapat na ang isang model para sa mga agent bago ka lumipat.
Kailangan ba ito ng ibang kit?
Hindi, ngunit mas gumaganda sila kapag mayroon ito: magagamit ng lahat ng AI-heavy kit ang endpoint at ang mga watchdog na ibinibigay ng Factory Floor.
Na-update: